Zero-Shot Prompting bezeichnet eine Prompting-Technik, bei der ein Sprachmodell eine Aufgabe löst, ohne dass im Prompt auch nur ein einziges Beispiel vorkommt. Das Modell erhält nur die Aufgabenstellung und nutzt sein bereits vortrainiertes Wissen, um die Antwort zu erzeugen.
Funktionsweise
Beim Zero-Shot-Prompting steht die reine Instruktion im Prompt: etwa „Fasse den folgenden Text in drei Sätzen zusammen" oder „Übersetze diesen Satz ins Englische". Anders als beim Few-Shot-Prompting gibt es keine Eingabe-Ausgabe-Paare, die Format oder Stil demonstrieren. Der Begriff „Shot" stammt aus dem Maschinellen Lernen und bezeichnet dort ein gelabeltes Trainingsbeispiel — Zero-Shot bedeutet entsprechend „kein einziges Beispiel".
Zero-Shot Chain-of-Thought
Besonders bekannt wurde Zero-Shot-Prompting durch die Forschung von Kojima et al. (2022): Schon der schlichte Zusatz „Denke Schritt für Schritt" (englisch „Let's think step by step") reicht aus, um ein Modell zu mehrschrittigem Denken anzuregen. In der Arbeit „Large Language Models are Zero-Shot Reasoners" verbesserte dieser Trick die Genauigkeit auf dem MultiArith-Benchmark von 17,7 % auf 78,7 % — ganz ohne Beispiele. Diese Technik heißt Chain-of-Thought.
Vorteile und Grenzen
- Vorteile: minimaler Prompt-Aufwand, keine Beispiel-Erstellung nötig, schnelle Ergebnisse.
- Grenzen: komplexe Formate, Fachterminologie und spezielle Stilvorgaben werden ohne Beispiel unzuverlässiger erfüllt.
Wer mehr Kontrolle braucht, ergänzt ein einzelnes Beispiel (One-Shot-Prompting) oder mehrere (Few-Shot-Prompting). Beide sind Varianten des In-Context Learning. Verwandte Grundlagen: System-Prompt, Maschinelles Lernen.