Welche Strafen drohen bei Nichteinhaltung des EU AI Act?
Der EU AI Act ist das weltweit erste umfassende rechtliche Rahmenwerk für künstliche Intelligenz. Seit seinem Inkrafttreten im August 2024 bringt er neue Pflichten für Unternehmen in der gesamten EU mit sich. Wenn du KI-Systeme entwickelst, betreibst oder nutzt, solltest du wissen, welche Anforderungen für dich gelten und welche Konsequenzen eine Nichteinhaltung haben kann.
Was ist der EU AI Act und wen betrifft er?
Der EU AI Act klassifiziert und reguliert KI-Systeme nach ihrem Risikopotenzial. Er gilt für alle Unternehmen, die KI-Systeme in der EU entwickeln, vertreiben oder einsetzen – unabhängig davon, wo das Unternehmen seinen Sitz hat.
Die Verordnung unterscheidet vier Risikostufen: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. KI-Systeme mit inakzeptablem Risiko – etwa Social Scoring oder manipulative KI – sind vollständig verboten. Hochrisiko-KI in Bereichen wie Medizin, Bildung, Personalentscheidungen oder kritischer Infrastruktur unterliegt strengen Anforderungen hinsichtlich Transparenz, Dokumentation und menschlicher Aufsicht.
Welche Verstöße führen zu Strafen im Rahmen des EU AI Act?
Sanktionen drohen in drei Hauptfällen: bei der Nutzung verbotener KI-Praktiken, bei der Verletzung von Pflichten für Hochrisiko-KI sowie bei der Übermittlung falscher Informationen an Behörden.
- Fehlende Risikomanagementsysteme und technische Dokumentation
- Unzureichende Transparenz gegenüber Nutzenden
- Mangelnde menschliche Aufsicht über automatisierte Entscheidungen
- Fehlende Konformitätsbewertungen vor der Markteinführung
- Keine Registrierung in der EU-Datenbank für Hochrisiko-KI
Wie hoch sind die Bußgelder bei Verstößen gegen den EU AI Act?
- Verstöße gegen verbotene KI-Praktiken: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes
- Verletzung von Pflichten für Hochrisiko-KI: bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes
- Falsche oder irreführende Angaben gegenüber Behörden: bis zu 7,5 Millionen Euro oder 1,5 % des weltweiten Jahresumsatzes
Für KMU und Start-ups gelten verhältnismäßigere Obergrenzen. Die Sanktionen sind mit den Bußgeldern unter der DSGVO vergleichbar und unterstreichen den politischen Stellenwert dieser Verordnung.
Wer ist für die Durchsetzung des EU AI Act zuständig?
Die Durchsetzung erfolgt auf zwei Ebenen: Jeder EU-Mitgliedstaat benennt nationale Marktüberwachungsbehörden; auf europäischer Ebene koordiniert das AI Office der Europäischen Kommission die einheitliche Anwendung. In Deutschland ist die Zuständigkeit noch in Klärung – diskutiert werden die Bundesnetzagentur und das BSI.
Wie kannst du die Einhaltung des EU AI Act sicherstellen?
- KI-Inventar erstellen: Erfasse und dokumentiere alle KI-Systeme in deinem Unternehmen
- Risikoklassifizierung durchführen: Ordne jedes System der richtigen Risikokategorie zu
- Pflichten ableiten: Erstelle technische Dokumentation, ein Risikomanagementsystem und eine Konformitätsbewertung für Hochrisiko-KI
- Transparenzpflichten umsetzen: Informiere Nutzende klar über KI-Interaktionen
- Interne Governance etablieren: Definiere Verantwortlichkeiten, Prozesse und Kontrollen
- Mitarbeitende schulen: Qualifiziere relevante Teams zu den Anforderungen des EU AI Act
Ein wichtiger Baustein ist KI-Literacy-Training: Der EU AI Act schreibt ausdrücklich vor, dass Mitarbeitende, die mit KI-Systemen arbeiten, über ausreichendes KI-Wissen verfügen müssen („AI Literacy“) – sowohl für technische als auch für nicht-technische Fachkräfte.
Welche Fristen und Übergangsregelungen gelten für den EU AI Act?
- August 2024: Die Verordnung tritt in Kraft
- Februar 2025: Verbote für inakzeptable KI-Praktiken werden wirksam
- August 2025: Anforderungen für General Purpose AI (GPAI) gelten
- August 2026: Vollständige Anwendung für Hochrisiko-KI-Systeme
- 2027: Übergangsfristen für bestehende Hochrisiko-Systeme laufen aus
Unternehmen sollten jetzt handeln: Die Umsetzung von Compliance-Maßnahmen für Hochrisiko-KI erfordert erhebliche Vorbereitung, und wer Fristen unterschätzt, riskiert Zeitdruck und Fehler.
So unterstützen wir dich bei der Einhaltung des EU AI Act
mITSM hilft Unternehmen dabei, die Anforderungen des EU AI Act zu verstehen und umzusetzen. Unser Angebot umfasst KI-Literacy-Trainings, Kurse zu AI Governance und verantwortungsvollem KI-Einsatz sowie Zertifizierungen über ICO-Cert als anerkannten Zertifizierungspartner.
Bereite dein Unternehmen rechtzeitig vor. Entdecke unser KI-Literacy-Training und finde den passenden Kurs für dein Team.
Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.