Das Ergebnis prüfen: vier Punkte, eine Regel

Geprüft wird gegen eine Quelle außerhalb des Werkzeugs — nie durch Rückfrage beim Werkzeug selbst. Pflichtpunkte: jede Zahl, jeder Rechenweg, jeder Name, jede Fundstelle.

Warum das wichtig ist

Hier entscheidet sich, ob das Werkzeug nützt oder schadet. Das Ergebnis liegt vor, es sieht gut aus — und genau das ist die Gefahr. Menschen neigen dazu, einem automatisch erzeugten Vorschlag zu folgen.

Das Werkzeug selbst zu fragen, hilft nicht: Es hat keine unabhängige Kenntnis und neigt zur Zustimmung. Eine Bestätigung von dort ist keine Prüfung.

Fundstellen sind doppelt tückisch. Sie können frei erfunden sein — und selbst wenn die Quelle existiert, kann der Inhalt falsch zusammengefasst sein.

Zwei Tests ohne Aufwand: der Vorlesetest (laut lesen — Unstimmigkeiten fallen auf) und der Erklärtest (können Sie es jemandem erklären? Wenn nicht, haben Sie es nicht geprüft).

Was das Gesetz sagt

BSI, Generative KI-Modelle V2.0, Kap. 4.1, Risiko R4 (PDF-S. 15)

„Zudem stellen Halluzinationen im Kontext von LLMs ein großes Problem dar, da die generierten Ausgaben zumeist glaubhaft erscheinen, insbesondere, wenn auf wissenschaftliche Publikationen oder andere Referenzen verwiesen wird, welche selbst frei erfunden sein können."

So macht man es richtig

1. Gegen eine Quelle außerhalb des Werkzeugs prüfen.
2. Jede Zahl, jeden Rechenweg, jeden Namen und jede Fundstelle einzeln nachsehen.
3. Das Werkzeug nie zur Bestätigung seiner eigenen Ausgabe befragen.
4. Vorlesetest und Erklärtest anwenden, bevor etwas hinausgeht.

Stand: 25.10.2026