Ein Sprachmodell sagt anhand von Wahrscheinlichkeiten vorher, welches Wort als nächstes kommt. Daraus folgt alles Weitere — vor allem, dass Falsches genauso gut klingt wie Richtiges.
Warum das wichtig ist
Das BSI beschreibt es ohne Pathos: Das Modell nutzt „Wahrscheinlichkeitsverteilungen, um vorherzusagen, welches Zeichen, Wort oder welche Wortfolge in einem gegebenen Kontext als nächstes auftreten könnte". Es schlägt nichts nach und versteht nichts.
Fünf Folgen für Ihren Alltag: Falsches klingt gut. Dieselbe Frage kann morgen eine andere Antwort bekommen. Ohne Zugriff auf aktuelle Daten gibt es kein Echtzeitwissen — und kein Eingeständnis. Anweisung und Material sehen für das Modell gleich aus. Und eine kleine Änderung an der Eingabe hat eine große Wirkung.
Die letzte Folge ist die gute Nachricht: Wenn kleine Änderungen viel ausmachen, ist das Formulieren erlernbar. Genau darum geht es im dritten Block.
„LLMs generieren Texte auf Basis stochastischer Korrelationen, die sie während des Trainings erlernen; sie nutzen Wahrscheinlichkeitsverteilungen, um vorherzusagen, welches Zeichen, Wort oder welche Wortfolge in einem gegebenen Kontext als nächstes auftreten könnte. Die Ausgaben von LLMs weisen typischerweise eine hohe sprachliche Qualität auf, wodurch sie oft nicht ohne Weiteres von menschengeschriebenen Texten zu unterscheiden sind."
„Generative KI-Modelle bieten aus unterschiedlichen Gründen keine oder unzureichende Garantien hinsichtlich der Qualität ihrer Ausgaben. […] Hat ein Modell keinen Zugriff auf Echtzeitdaten, so liegen ihm keine Informationen über aktuelle Ereignisse vor; es generiert Daten auf Basis der verarbeiteten Trainingsdaten, die zwangsweise zum Zeitpunkt des Trainings des jeweiligen Modells bereits existiert haben müssen."
So macht man es richtig
Die Ausgabe als Entwurf behandeln, nicht als Auskunft.
Nicht auf Aktualität vertrauen, solange das Werkzeug keinen Zugriff darauf hat.
Damit rechnen, dass dieselbe Frage morgen anders beantwortet wird.
Was bei Missachtung droht
Kein Bußgeldrahmen — dieser Block beschreibt eine Technik, keine Pflicht.
Beim Abspielen wird das Video von unserem Videodienst
Bunny.net geladen. Vorher geht keine Verbindung dorthin.
