Was passiert bei Verstößen gegen den EU AI Act?

Der EU AI Act ist die weltweit erste umfassende KI-Regulierung und betrifft Unternehmen, die KI-Systeme entwickeln, einsetzen oder vertreiben. Wer die Anforderungen nicht erfüllt, riskiert empfindliche Strafen. Dieser Artikel beantwortet die wichtigsten Fragen zu Verstößen, Sanktionen und konkreten Handlungsschritten.

Was sind Verstöße gegen den EU AI Act?

Ein Verstoß liegt vor, wenn KI-Systeme entwickelt, vermarktet oder eingesetzt werden, ohne die gesetzlichen Anforderungen zu erfüllen. Dazu gehören fehlende Transparenzpflichten, verbotene KI-Praktiken oder das Inverkehrbringen von Hochrisiko-KI ohne Konformitätsbewertung. Die schwerwiegendsten Verstöße betreffen vollständig verbotene Systeme wie Social Scoring oder biometrische Echtzeit-Überwachung; weniger schwere Verstöße umfassen Mängel in der Dokumentations- und Meldepflicht.

Welche Bußgelder drohen?

Der EU AI Act sieht ein dreistufiges Bußgeldsystem vor: Verstöße gegen verbotene KI-Praktiken kosten bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes. Schwere Verstöße gegen die Anforderungen an Hochrisiko-KI werden mit bis zu 15 Millionen Euro oder 3 % geahndet. Falsche Angaben gegenüber Behörden können zu bis zu 7,5 Millionen Euro oder 1,5 % führen. Für KMU gilt jeweils der niedrigere Betrag. Hinzu kommen Reputationsschäden, der Entzug des Marktzugangs und zivilrechtliche Haftungsansprüche.

Wer setzt den EU AI Act durch?

Die Durchsetzung erfolgt auf zwei Ebenen: Nationale Marktüberwachungsbehörden überwachen die Einhaltung in den Mitgliedstaaten – in Deutschland ist die Zuständigkeit noch nicht abschließend geklärt, wobei die Bundesnetzagentur und das BSI im Gespräch sind. Auf EU-Ebene koordiniert das AI Office der Europäischen Kommission die einheitliche Anwendung und beaufsichtigt direkt KI-Modelle für allgemeine Zwecke wie große Sprachmodelle.

Welche KI-Systeme sind am stärksten betroffen?

Verbotene KI-Praktiken

• Biometrische Echtzeit-Überwachung in öffentlichen Räumen (mit engen Ausnahmen)
• Social-Scoring-Systeme durch Behörden
• KI zur unbewussten Manipulation von Personen
• Vorhersage von Straftaten ausschließlich auf Basis persönlicher Merkmale

Hochrisiko-KI-Systeme

Hochrisikosysteme in Bereichen wie Bildung, Beschäftigung, kritische Infrastruktur oder Kreditwürdigkeitsprüfung unterliegen strengen Pflichten: Konformitätsbewertungen, technische Dokumentation, menschliche Aufsicht und Registrierung in der EU-Datenbank. Unternehmen, die KI-Kompetenz aufbauen möchten, sollten sich frühzeitig mit diesen Kategorien vertraut machen.

Wie können Unternehmen Verstöße vermeiden?

1. KI-Inventar erstellen: Erfasse und dokumentiere alle eingesetzten KI-Systeme.
2. Risikoklassifizierung durchführen: Ordne Systeme als verboten, hochriskant, begrenzt riskant oder minimal riskant ein.
3. Pflichten umsetzen: Führe Konformitätsbewertungen und Überwachungsmechanismen für Hochrisikosysteme ein.
4. Mitarbeitende schulen: Stelle sicher, dass grundlegendes Wissen über die regulatorischen Anforderungen vorhanden ist.
5. Verantwortlichkeiten festlegen: Benenne eine interne Person, die für KI-Compliance zuständig ist.

Wichtig: Auch zugekaufte KI-Lösungen von Drittanbietern unterliegen der Regulierung und müssen die Anforderungen erfüllen.

Ab wann gelten die Sanktionsregeln?

• Februar 2025: Verbote unzulässiger KI-Praktiken
• August 2025: Regeln für KI-Modelle mit allgemeinem Verwendungszweck
• August 2026: Anforderungen für die meisten Hochrisiko-KI-Systeme
• August 2027: Vollständige Anwendung für alle verbleibenden Systeme

Die schrittweise Einführung gibt Unternehmen Zeit zur Vorbereitung – wer noch nicht begonnen hat, sollte jetzt handeln, da interne Prozesse, Dokumentation und Schulungen Vorlaufzeit benötigen.

Wie wir dich bei der KI-Compliance unterstützen

Wir bei mITSM bieten praxisnahe Schulungen und Zertifizierungen für die sichere Umsetzung des EU AI Act an. Für KI-Zertifizierungen arbeiten wir mit ICO-Cert als anerkanntem Partner zusammen.

• Schulungen zu KI-Grundlagen und den Anforderungen des EU AI Act
• Zertifizierungsvorbereitung in Zusammenarbeit mit ICO-Cert
• Flexible Formate: Präsenz, Online-Live und Inhouse
• Schulungen für Fachkräfte, Führungskräfte und ganze Teams

Schau dir unser KI-Schulungsangebot an oder besuche unsere Website, um mehr zu erfahren.

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.