Das Wort Halluzination — und fünf Anzeichen

Halluzinieren heißt: Das Modell erfindet Inhalte, „die weder Teil der Eingabe noch des Trainingsdatensatzes waren". Das ist kein Defekt, sondern eine Eigenschaft — und es gibt fünf Anzeichen.

Warum das wichtig ist

Der Begriff klingt nach Krankheit und ist doch nur eine Beschreibung. Das BSI nennt ihn ausdrücklich im Zusammenhang mit fehlenden Qualitätsgarantien. Wer das weiß, erwartet keine Fehlerfreiheit und ist nicht enttäuscht, sondern wachsam.

Fünf Anzeichen, bei denen Sie genauer hinsehen: ungewöhnliche Genauigkeit (eine Zahl mit drei Stellen hinter dem Komma), es passt verdächtig gut zu Ihrer Erwartung, eine Quelle, die Sie in Ihrem eigenen Fach nicht kennen, die Information ist neu, oder sie ist intern.

Der stärkste Handgriff dagegen ist ein Satz: „Verlangen Sie den Wortlaut." Wer den Wortlaut nicht liefern kann, hat ihn nicht. (Im Kurs selbst wird geduzt — hier auf der Seite siezen wir.)

Die richtige Haltung: Behandeln Sie das Ergebnis wie den Entwurf eines fleißigen Praktikanten — brauchbar, schnell, und niemand gibt ihn unkontrolliert weiter.

Was das Gesetz sagt

BSI, Generative KI-Modelle V2.0, Kap. 4.1 (PDF-S. 15)

„Dennoch verarbeiten viele Modelle Eingaben zu aktuellen Themen und erfinden Inhalte bei der Erzeugung ihrer Ausgaben, die weder Teil der Eingabe noch des Trainingsdatensatzes waren (sog. Halluzinieren)."

So macht man es richtig

1. Bei auffälliger Genauigkeit nachsehen statt sich zu freuen.
2. Bei Quellen, die Sie im eigenen Fach nicht kennen, den Wortlaut verlangen.
3. Interne und neue Informationen immer gegen eine eigene Quelle prüfen.
4. Das Ergebnis als Entwurf behandeln, nicht als Auskunft.

Stand: 25.10.2026