Nach Art. 50 KI-VO muss erkennbar sein, dass ein Mensch mit einem KI-System spricht, und ein Deepfake muss als künstlich erzeugt offengelegt werden. Eine allgemeine Pflicht, jeden mit KI geschriebenen Text zu kennzeichnen, gibt es dagegen nicht.
Warum das wichtig ist
Diese Pflichten gelten seit dem 2. August 2026 und treffen den Alltag am häufigsten: den Chatassistenten auf der Internetseite und das Werbevideo mit nachgebauter Stimme.
Beim Deepfake kommt es nicht auf die Zustimmung der dargestellten Person an — die Pflicht schützt das Publikum, nicht den Dargestellten. Offenlegen heißt dabei nicht Kleingedrucktes: ein Satz am Bild, eine Zeile im Abspann, ein Hinweis in der Beschreibung.
Und jetzt die Entlastung, die kaum jemand kennt: Art. 50 Abs. 4 S. 4 betrifft nur veröffentlichten Text über Angelegenheiten von öffentlichem Interesse — und selbst dort greift S. 5, wenn ein Mensch redaktionell verantwortet. Ein KI-entworfener Kundenbrief fällt nicht darunter.
Was das Gesetz sagt
Art. 50 Abs. 1 S. 1 KI-VO
„Die Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist … offensichtlich"
Art. 50 Abs. 4 S. 1 KI-VO
„Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden."
Art. 50 Abs. 5 S. 1 KI-VO
„Die in den Absätzen 1 bis 4 genannten Informationen werden den betreffenden natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt."
So macht man es richtig
Beim Chatassistenten sichtbar machen, dass dort keine Person antwortet.
Bei jedem KI-erzeugten Bild, Ton oder Video mit echten Personen offenlegen, dass es künstlich ist.
Den Hinweis spätestens beim ersten Kontakt geben, nicht nachträglich.
Keine Kennzeichnungspflicht erfinden, wo es keine gibt — das verwirrt Kunden ohne Nutzen.
Was bei Missachtung droht
Verstöße gegen die Transparenzpflichten des Art. 50 fallen nach Art. 99 Abs. 4 lit. g KI-VO in den Rahmen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt nach Abs. 6 der niedrigere Betrag.
