Braucht mein Unternehmen einen KI-Beauftragten gemäß EU AI Act?

Der EU AI Act wirft für viele Unternehmen eine zentrale Frage auf: Betrifft mich das – und brauche ich einen AI Compliance Officer? Die Verordnung bringt konkrete Pflichten mit sich, die je nach Unternehmen und KI-Einsatz erheblich variieren.

Was ist der EU AI Act und wen betrifft er?

Der EU AI Act ist der weltweit erste umfassende Rechtsrahmen für künstliche Intelligenz. Die Verordnung klassifiziert KI-Systeme nach ihrem Risikopotenzial und legt je nach Risikoklasse unterschiedliche Pflichten fest. Betroffen sind alle Unternehmen, die KI-Systeme entwickeln, vertreiben oder einsetzen und auf dem EU-Markt tätig sind – einschließlich Unternehmen außerhalb der EU, wenn ihre Produkte dort genutzt werden.

Die vier Risikoklassen des EU AI Act

• Inakzeptables Risiko: Verbotene KI-Anwendungen, etwa Social Scoring durch Behörden
• Hohes Risiko: KI-Systeme in sensiblen Bereichen wie Personalentscheidungen, Kreditbewertung oder medizinischer Diagnostik
• Begrenztes Risiko: Systeme mit Transparenzpflichten, beispielsweise Chatbots
• Minimales Risiko: Die Mehrheit der KI-Anwendungen, etwa KI-gestützte Spamfilter

Was ist ein AI Compliance Officer im Sinne des EU AI Act?

Ein AI Compliance Officer ist eine Person oder Stelle, die dafür verantwortlich ist, die Anforderungen des EU AI Act einzuhalten. Der AI Act schreibt vor, dass Anbieter und Betreiber von KI-Systemen mit hohem Risiko eine verantwortliche Person benennen müssen, die die Compliance intern koordiniert und überwacht – vergleichbar mit dem Datenschutzbeauftragten nach der DSGVO. Zu den Aufgaben gehören die Dokumentation von KI-Systemen, die Durchführung von Risikobewertungen sowie die Kommunikation mit Behörden.

Der AI Compliance Officer kann intern ernannt oder extern beauftragt werden. Für kleinere Unternehmen kann eine externe Lösung sinnvoll sein.

Welche Unternehmen müssen einen AI Compliance Officer benennen?

Die Pflicht zur Benennung eines AI Compliance Officers gilt ausdrücklich für Anbieter und Betreiber von KI-Systemen mit hohem Risiko – zum Beispiel in den Bereichen Personalauswahl, Bonitätsprüfung, Strafverfolgung oder kritische Infrastruktur. Unternehmen, die ausschließlich KI mit minimalem oder begrenztem Risiko einsetzen, haben keine ausdrückliche Verpflichtung. Dennoch ist es ratsam, intern eine verantwortliche Person zu benennen: Die regulatorische Landschaft entwickelt sich weiter, und wer jetzt Strukturen aufbaut, ist besser vorbereitet.

Der EU AI Act sieht Erleichterungen für KMU vor: vereinfachte Verfahren und stärkere Unterstützung durch nationale Behörden. Die inhaltlichen Anforderungen bleiben jedoch dieselben – wer KI mit hohem Risiko einsetzt, kommt an den Kernpflichten nicht vorbei.

Welche Qualifikationen sollte ein AI Compliance Officer mitbringen?

• Grundlegendes Verständnis von KI-Technologien und ihren Anwendungsfällen
• Kenntnisse der relevanten rechtlichen Anforderungen des EU AI Act
• Erfahrung im Risiko- und Compliance-Management
• Ausgeprägte Kommunikationsfähigkeiten und die Fähigkeit zur abteilungsübergreifenden Zusammenarbeit
• Bereitschaft zur kontinuierlichen Weiterbildung

Ein strukturiertes KI-Trainingsprogramm hilft dabei, die notwendigen Kompetenzen gezielt aufzubauen.

Was passiert, wenn ein Unternehmen keinen AI Compliance Officer benennt?

Unternehmen, die trotz bestehender Verpflichtung keinen AI Compliance Officer benennen, riskieren Bußgelder von bis zu 30 Millionen Euro oder 6 Prozent des weltweiten Jahresumsatzes. Weitere Konsequenzen sind Reputationsschäden, der Verlust des Zugangs zum EU-Markt sowie die mögliche Anordnung, KI-Systeme außer Betrieb zu nehmen.

Wie du dich am besten auf den EU AI Act vorbereitest

1. KI-Inventar erstellen: Erfasse alle aktuell genutzten und geplanten KI-Systeme
2. Risikoklassifizierung durchführen: Ordne die Systeme den Risikoklassen des AI Act zu
3. Verantwortlichkeiten klären: Benenne einen AI Compliance Officer
4. Dokumentation aufbauen: Erstelle technische Unterlagen, Risikoanalysen und Protokolle
5. Mitarbeitende schulen: Fördere KI-Kompetenz im gesamten Unternehmen
6. Prozesse regelmäßig überprüfen: Compliance ist ein fortlaufender Prozess

Wie wir dich bei der EU AI Act Compliance unterstützen

Bei mITSM helfen wir Unternehmen und Fachkräften dabei, die Kompetenzen aufzubauen, die für die Einhaltung des EU AI Act erforderlich sind. Unsere KI-Trainings vermitteln das wirklich Relevante auf praxisnahe Weise:

• Grundlagen und Anwendungsbereiche künstlicher Intelligenz
• Rechtliche Rahmenbedingungen und Pflichten des AI Act verständlich erklärt
• Risikobewertung und Governance-Strukturen für den KI-Einsatz
• Vorbereitung auf anerkannte Zertifizierungen über ICO-Cert

Du kannst zwischen Präsenztraining, Online-Live-Sessions und Inhouse-Lösungen wählen. Schau dir unser Angebot im Bereich KI-Kompetenz an oder erfahre mehr über uns.

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.