Betreiber und Anbieter von KI-Systemen müssen gemäß Art. 4 AI Act Maßnahmen ergreifen, die sicherstellen, dass ihre Mitarbeitenden und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Anders ausgedrückt: Mitarbeiter oder Externe, die KI-Systeme nutzen oder anbieten, müssen angemessen geschult werden – entweder in Form von Workshops zum Thema KI oder in Form von qualifizierten eLearning-Kursen.
Für wen gilt diese Pflicht?
Überraschenderweise richtet sich die Pflicht zur Sicherstellung ausreichender KI-Kompetenz erst einmal nur an Betreiber und Anbieter von KI-Systemen und nicht an Händler und Einführer und auch nicht an Anbieter von KI-Modellen (zu den unterschiedlichen Akteuren gem. AI Act verweisen wir gerne auf diesen Beitrag). Dies ist umso erstaunlicher, da sowohl Einführer als auch Händler, sofern sie der Auffassung sind, dass ein Hochrisiko-KI-System nicht den gesetzlichen Anforderungen entspricht, diese gemäß Art. 23 Abs. 2 AI Act bzw. Art. 24 Abs. 2 AI Act erst dann auf dem Markt bereitstellen dürfen, wenn die Konformität des Systems hergestellt wurde. Auch sind Einführer dafür verantwortlich, dass keine KI-Systeme in Verkehr genommen werden, deren Einsatz gemäß Art. 4 AI Act verboten ist. Gleiches gilt für Anbieter von KI-Modellen: Ohne eine KI-Kompetenz der Mitarbeitenden können die Anbieter von KI-Modellen keine rechtskonformen KI-Modelle entwickeln.
Möglicherweise wurden die Anbieter von KI-Modellen sowie die Einführer und Händler auch einfach in Art. 4 vergessen aufzuzählen; denn Erwägungsgrund 20 geht davon aus, dass KI-Kompetenz bei allen einschlägigen Akteuren der KI-Wertschöpfungskette vorhanden sein muss.
Ab wann gilt diese Pflicht?
Die Pflicht zur Vermittlung angemessener KI-Kompetenz gilt bereits ab 2. Februar 2025 (geregelt in Art. 113 AI Act). Anders als andere Pflichten, die beim Betrieb und der Entwicklung von KI-Systemen zu beachten sind, gilt hierfür ab Inkrafttreten der Verordnung nur eine sechsmonatige Frist. Anbieter, Betreiber, Einführer und Händler von KI-Systemen, sind folglich schon jetzt gut beraten, sich Gedanken über die Schulung und Sensibilisierung ihrer Mitarbeiter zu machen.
Was bedeutet KI-Kompetenz?
KI-Kompetenz ist zum einen geprägt durch ein Grundverständnis der Funktionalität von Künstlicher Intelligenz, von Sprachmodellen, von der Nutzung dieser Sprachmodelle für KI-gestützte Anwendungen und von den sich hieraus ergebenden gesellschaftlichen und datenschutzrechtlichen Risiken. Dieses Grundverständnis sollte sämtlichen Mitarbeitenden von Anbietern und Betreibern von KI-Systemen vermittelt werden, aber auch – die Gründe wurden bereits genannt – den Mitarbeitenden von Einführern und Händlern von KI-Systemen sowie den Mitarbeitenden von Anbietern von KI-Modellen. Zum anderen sollten insbesondere Verantwortliche von KI-Projekten grundlegende Kenntnisse über den AI Act besitzen und die konkreten Pflichten kennen, die gemäß AI Act von Anbietern, Betreibern, Einführern und Händlern umgesetzt werden müssen.
Wir schulen Sie!
Wir bieten Ihnen zum einen eLearning-Kurse zur Vermittlung einer KI-Grundkompetenz als auch Seminare über unsere DSN Akademie an.