Art. 4 der Verordnung (EU) 2024/1689 verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, damit ihr Personal und andere Personen, die in ihrem Auftrag KI-Systeme betreiben oder nutzen, über ein ausreichendes Maß an KI-Kompetenz verfügen. Die Vorschrift gilt seit dem 2. Februar 2025. „Betreiber“ ist jedes Unternehmen, das ein KI-System in eigener Verantwortung beruflich einsetzt — also auch der Handwerksbetrieb, der ein Textwerkzeug für Angebote nutzt.
Was „ausreichend“ heißt, legt die Verordnung nicht fest. Sie nennt den Maßstab: zu berücksichtigen sind die technischen Kenntnisse, die Erfahrung, Ausbildung und Schulung der Personen, der Einsatzzusammenhang und die betroffenen Personengruppen. Für eine Belegschaft, die ein Textwerkzeug nutzt, ist das etwas anderes als für ein Unternehmen, das ein KI-System zur Bewerberauswahl einsetzt.
Inhaltlich gehören vier Punkte in eine solche Unterweisung: Wie ein solches System grundsätzlich arbeitet und warum es überzeugend Falsches erzeugen kann. Was mit der Eingabe geschieht. Welche Daten im Betrieb nicht eingegeben werden dürfen. Und dass das Ergebnis vor der Verwendung geprüft werden muss, weil die Verantwortung beim Menschen bleibt.
Eine Besonderheit, die Sie kennen sollten: Art. 4 steht nicht im Bußgeldkatalog des Art. 99 der KI-Verordnung. Eine unmittelbare EU-Geldbuße allein für fehlende KI-Kompetenz ist also nicht vorgesehen. Die Pflicht besteht trotzdem — und sie wirkt dort, wo es zählt: in der Aufsicht, in der Haftung und in der Frage, ob Sie Ihre Organisation im Griff hatten, wenn ein KI-Einsatz schiefgegangen ist.
Fundstelle: Art. 3 Nr. 4, Art. 4, Art. 99 Verordnung (EU) 2024/1689 (KI-Verordnung)