Was passiert bei Verstößen gegen den EU AI Act?

Der EU AI Act ist die weltweit erste umfassende KI-Regulierung und betrifft Unternehmen, die KI-Systeme entwickeln, einsetzen oder vertreiben. Wer die Vorschriften nicht einhält, riskiert empfindliche Strafen. Dieser Artikel beantwortet die wichtigsten Fragen zu Verstößen, Sanktionen und konkreten Handlungsschritten.

Was sind Verstöße gegen den EU AI Act?

Ein Verstoß liegt vor, wenn KI-Systeme entwickelt, vermarktet oder eingesetzt werden, ohne die gesetzlichen Anforderungen zu erfüllen. Dazu gehören fehlende Transparenzpflichten, verbotene KI-Praktiken oder das Inverkehrbringen von Hochrisiko-KI ohne Konformitätsbewertung. Die schwerwiegendsten Verstöße betreffen vollständig verbotene Systeme wie Social Scoring oder biometrische Echtzeitüberwachung; weniger schwere Verstöße umfassen Mängel bei Dokumentations- und Meldepflichten.

Welche Bußgelder drohen?

Der EU AI Act sieht ein dreistufiges Bußgeldsystem vor: Verstöße gegen verbotene KI-Praktiken kosten bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes. Schwerwiegende Verstöße gegen Hochrisiko-KI-Anforderungen werden mit bis zu 15 Mio. Euro oder 3 % geahndet. Falsche Angaben gegenüber Behörden können bis zu 7,5 Mio. Euro oder 1,5 % nach sich ziehen. Für KMU gelten jeweils die niedrigeren Beträge. Hinzu kommen Reputationsschäden, Marktzulassungsentzug und zivilrechtliche Haftungsansprüche.

Wer setzt den EU AI Act durch?

Die Durchsetzung erfolgt auf zwei Ebenen: Nationale Marktaufsichtsbehörden kontrollieren die Einhaltung in den Mitgliedstaaten – in Deutschland ist die Zuständigkeit noch nicht abschließend geklärt, diskutiert werden Bundesnetzagentur und BSI. Auf EU-Ebene koordiniert das AI Office der Europäischen Kommission die einheitliche Anwendung und beaufsichtigt direkt General-Purpose-AI-Modelle wie große Sprachmodelle.

Welche KI-Systeme sind am stärksten betroffen?

Verbotene KI-Praktiken

• Biometrische Echtzeitüberwachung im öffentlichen Raum (mit engen Ausnahmen)
• Social-Scoring-Systeme durch staatliche Stellen
• KI zur unbewussten Manipulation von Personen
• Vorhersage kriminellen Verhaltens allein auf Basis persönlicher Merkmale

Hochrisiko-KI-Systeme

Hochrisiko-Systeme in Bereichen wie Bildung, Beschäftigung, kritischer Infrastruktur oder Kreditvergabe unterliegen strengen Pflichten: Konformitätsbewertungen, technische Dokumentation, menschliche Aufsicht und EU-Datenbankregistrierung. Unternehmen, die KI-Kompetenz aufbauen wollen, sollten sich frühzeitig mit diesen Kategorien vertraut machen.

Wie können Unternehmen Verstöße vermeiden?

1. KI-Inventar erstellen: Alle eingesetzten KI-Systeme erfassen und dokumentieren.
2. Risikoklassifizierung vornehmen: Systeme als verboten, hochriskant, begrenzt riskant oder minimal riskant einstufen.
3. Pflichten umsetzen: Für Hochrisiko-Systeme Konformitätsbewertungen und Überwachungsmechanismen einführen.
4. Mitarbeitende schulen: Grundwissen über regulatorische Anforderungen sicherstellen.
5. Verantwortlichkeiten festlegen: Eine interne AI-Compliance-verantwortliche Person benennen.

Wichtig: Auch zugekaufte KI-Lösungen von Drittanbietern fallen unter die Regulierung und müssen den Anforderungen entsprechen.

Ab wann gelten die Sanktionsregeln?

• Februar 2025: Verbote für nicht akzeptable KI-Praktiken
• August 2025: Regeln für General-Purpose-AI-Modelle
• August 2026: Anforderungen für die meisten Hochrisiko-KI-Systeme
• August 2027: Vollständige Anwendung für alle verbleibenden Systeme

Die gestaffelte Einführung gibt Unternehmen Vorbereitungszeit – wer noch nicht begonnen hat, sollte jetzt handeln, da interne Prozesse, Dokumentationen und Schulungen Vorlaufzeit benötigen.

So unterstützen wir Sie beim Thema KI-Compliance

Wir bei mITSM bieten praxisnahe Schulungen und Zertifizierungen zur sicheren Umsetzung des EU AI Act. Für KI-Zertifizierungen arbeiten wir mit ICO-Cert als anerkanntem Partner zusammen.

• Schulungen zu KI-Grundlagen und EU AI Act-Anforderungen
• Zertifizierungsvorbereitung in Zusammenarbeit mit ICO-Cert
• Flexible Formate: Präsenz, Online-Live und Inhouse
• Trainings für Fach- und Führungskräfte sowie ganze Teams

Schauen Sie sich unser KI-Schulungsangebot an oder besuchen Sie unsere Website, um mehr zu erfahren.