Eine Halluzination bezeichnet in der KI eine Ausgabe, die ein Sprachmodell überzeugend formuliert, die aber falsch oder erfunden ist. Im medizinischen Sinn meint der Begriff eine Sinnestäuschung beim Menschen. Hier geht es um die technische Bedeutung bei generativer KI.
Definition
Das NIST (National Institute of Standards and Technology) führt den Begriff in seinem Profil zu generativer KI unter dem Namen Confabulation. Gemeint ist die Erzeugung von selbstsicher formulierten, aber falschen Inhalten. Umgangssprachlich heißen sie „Halluzinationen“ oder „Fabrikationen“. Nutzer können dadurch in die Irre geführt werden.
Auch Anthropic beschreibt in seinem Glossar ehrliche KI als ein System, das genaue Informationen liefert, nicht halluziniert oder konfabuliert und seine Grenzen erkennen lässt.
Warum halluzinieren Sprachmodelle?
Eine Forschungsarbeit von Kalai und anderen (2025) führt Halluzinationen auf Statistik und Anreize zurück. Lassen sich falsche Aussagen nicht von Fakten unterscheiden, entstehen Fehler schon beim Vortraining. Training und Benchmarks belohnen danach eher das Raten als das Eingeständnis von Unsicherheit. Die Autoren schlagen vor, die Bewertung verbreiteter Benchmarks entsprechend zu ändern.
Wie lässt sich das Risiko verringern?
Eine verbreitete Technik ist Retrieval Augmented Generation (RAG). Dabei ruft das System vor der Antwort passende Dokumente aus einer Wissensbasis ab und gibt sie dem Modell mit. Laut Anthropic soll das die Antwort besser durch Belege stützen und die Faktentreue erhöhen. Ob RAG ausreicht, hängt von Qualität und Relevanz der abgerufenen Quellen ab. Ganz ausschließen lassen sich Fehler damit nicht.
Was bedeutet das für SEO und GEO?
Auch Antworten von KI-Suchen können falsche Angaben enthalten, zum Beispiel zu Produkten, Preisen oder Firmen. Als Einschätzung lohnt es sich, regelmäßig zu prüfen, was KI-Assistenten über die eigene Marke sagen. Eindeutige, aktuelle und gut abrufbare Seiten liefern den Systemen bessere Quellen.
Beispiel
Ein Sprachmodell nennt auf die Frage nach einem Software-Preis einen konkreten Betrag, den es nirgends gibt. Der Ton wirkt sicher, der Betrag ist erfunden.
Quellen
Stand: