Self-Consistency ist eine Decoding-Strategie für Sprachmodelle: Statt einen einzigen Chain-of-Thought-Pfad greedy zu dekodieren, werden mehrere Denkpfade zufällig gesampelt und die finale Antwort per Mehrheitsabstimmung (Majority Vote) gewählt. Vorgeschlagen wurde das Verfahren von Xuezhi Wang und Kollegen im Jahr 2022 (arXiv 2203.11171, NeurIPS 2022).
So funktioniert es
- Sampling: Das Modell erzeugt mehrere unabhängige Lösungswege mit Temperatur größer 0.
- Extrahieren: Aus jedem Pfad wird die finale Antwort extrahiert.
- Abstimmen: Die häufigste Antwort gewinnt — die Mehrheit der Pfade zeigt die konsistenteste Lösung.
Die Idee dahinter: Einzelne Denkpfade können in die Irre laufen, Fehler verteilen sich aber über viele Stichproben. Auf dem Mathematik-Benchmark GSM8K verbesserte Self-Consistency die Genauigkeit gegenüber normalem CoT um etwa 17 Prozentpunkte — ohne zusätzliches Training, nur durch mehr Inference-Rechenzeit.
Einordnung
Self-Consistency ist mit ReAct und Tree-of-Thoughts verwandt: Alle drei verlassen den linearen Einzelpfad des klassischen CoT. ToT bewertet Zwischenzustände, Self-Consistency sammelt komplette Pfade und stimmt über Endantworten ab.
Verwandte Grundlagen: In-Context Learning, Large Language Model, Maschinelles Lernen.