Halluzination bezeichnet in der KI das Phänomen, dass ein Sprachmodell selbstbewusst falsche oder erfundene Informationen liefert, die wie Fakten klingen. Das Modell „halluziniert" — es erfindet Inhalte, die nicht stimmen oder im Training so nicht vorkamen.
Warum halluzinieren KI-Modelle?
Große Sprachmodelle sind Textvorhersage-Maschinen: Sie berechnen Token für Token, welches Wort am wahrscheinlichsten als Nächstes folgt. Sie haben kein echtes Weltwissen und keine eingebaute Wahrheitsprüfung. Fehlen dem Modell die richtigen Informationen, konstruiert es plausible Antworten — und unterscheidet dabei nicht zwischen Wissen und Erfindung.
Typische Auslöser
- Unbekannte oder seltene Fakten, Namen, Zahlen und Zitate.
- Mehrdeutige Fragen ohne ausreichenden Kontext.
- Aufforderungen, etwas zu belegen, das nicht im Trainingsmaterial steht.
- Kombination von zwei korrekten Fakten zu einer falschen Schlussfolgerung.
Wie lässt sich Halluzination reduzieren?
- RAG: Retrieval-Augmented Generation reicht dem Modell echte Quellen als Kontext — Antworten stützen sich dann auf Dokumente statt auf Erinnerung.
- Gezieltes Prompt-Engineering: Quellenangaben verlangen, Unsicherheit zu benennen, Antwortbereiche eingrenzen.
- Verifikation: KI-Antworten gegen vertrauenswürdige Quellen prüfen, insbesondere bei Fakten, Zahlen und Zitaten.
- Fine-Tuning: Modelle gezielt auf Daten trainieren, die präzise Antworten und Quellenverweise fördern.
Verwandte Grundlagen: LLMs verstehen, Token, Kontext und Temperatur, Embeddings.