Welche KI-Anwendungen sind durch den EU AI Act verboten?
Der EU AI Act gilt seit 2024 und bringt klare Regeln für den Einsatz von künstlicher Intelligenz in Europa. Einige KI-Anwendungen sind vollständig verboten. Wenn du KI einsetzt, solltest du genau wissen, welche Praktiken unter das KI-Verbot fallen.
Was ist der EU AI Act und wen betrifft er?
Der EU AI Act ist die weltweit erste umfassende gesetzliche Regulierung für künstliche Intelligenz. Er gilt für alle Unternehmen, Behörden und Einzelpersonen, die KI-Systeme in der EU entwickeln, vertreiben oder einsetzen – einschließlich Anbieter aus Drittländern.
Die Verordnung ist im August 2024 in Kraft getreten. Die Verbote bestimmter KI-Praktiken gelten ab Februar 2025, weitere Anforderungen treten 2026 bzw. 2027 in Kraft. Der AI Act unterscheidet vier Risikokategorien: unannehmbares Risiko (verboten), hohes Risiko, begrenztes Risiko und minimales Risiko.
Welche KI-Anwendungen sind unter dem EU AI Act vollständig verboten?
KI-Anwendungen, die ein unannehmbares Risiko für Grundrechte, Sicherheit oder Menschenwürde darstellen, sind verboten. Zu den verbotenen Praktiken gehören:
- Unterschwellige Manipulation: KI-Systeme, die Verhalten unbewusst beeinflussen, zum Beispiel durch versteckte Audiosignale oder visuelle Reize.
- Ausnutzung von Schwachstellen: Systeme, die gezielt Schwachstellen von Kindern, älteren Menschen oder Menschen mit Behinderungen ausnutzen.
- Social Scoring durch Behörden: KI-gestützte Bewertung von Personen durch Behörden auf der Grundlage ihres sozialen Verhaltens.
- Echtzeit-Biometrie in öffentlichen Räumen: Live-Gesichtserkennung durch Strafverfolgungsbehörden in öffentlichen Räumen.
- Vorhersage von Straftaten: Systeme, die Kriminalitätsrisiken ausschließlich anhand von Persönlichkeitsmerkmalen oder Profiling bewerten.
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen: Automatische Erfassung und Analyse von Emotionen bei Mitarbeitenden oder Schülerinnen und Schülern.
- Biometrische Kategorisierung: Einstufung von Personen in Kategorien wie politische Überzeugungen, Religion oder sexuelle Orientierung.
Gibt es Ausnahmen bei den verbotenen KI-Anwendungen?
Ja, aber ausschließlich für staatliche Strafverfolgungsbehörden und unter strengen Voraussetzungen. Die wichtigste Ausnahme betrifft die Echtzeit-Biometrie-Identifikation in öffentlichen Räumen – etwa bei der Suche nach vermissten Kindern, zur Abwehr terroristischer Bedrohungen oder zur Identifizierung von Verdächtigen schwerer Straftaten. Eine vorherige richterliche Genehmigung ist stets erforderlich. Für private Unternehmen gelten keine Ausnahmen.
Welche Strafen drohen bei Verstößen gegen das KI-Verbot?
Verstöße gegen verbotene KI-Praktiken können mit Bußgeldern von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden – je nachdem, welcher Betrag höher ist. Verstöße gegen Anforderungen für Hochrisikosysteme oder Transparenzpflichten können bis zu 15 Millionen Euro oder 3 Prozent des Umsatzes kosten. Falsche Angaben gegenüber Behörden sind mit Bußgeldern von bis zu 7,5 Millionen Euro oder 1,5 Prozent des Umsatzes strafbewehrt.
Was müssen Unternehmen jetzt tun, um compliant zu bleiben?
- KI-Inventar erstellen: Erfasse alle KI-Systeme, einschließlich zugekaufter Softwarelösungen mit KI-Komponenten.
- Risikoklassifizierung durchführen: Ordne jedes System den Kategorien des AI Acts zu und prüfe auf verbotene Praktiken.
- Verbotene Anwendungen abschalten: Nimm betroffene Systeme unverzüglich außer Betrieb.
- Hochrisikosysteme dokumentieren: Erstelle Risikobewertungen, technische Dokumentationen und Konformitätserklärungen.
- Mitarbeitende schulen: Informiere relevante Teams über die Anforderungen des AI Acts – von IT und Einkauf bis zur Führungsebene.
- Governance-Strukturen aufbauen: Lege Zuständigkeiten klar fest und plane regelmäßige Überprüfungen ein.
Wie wir von mITSM dich beim EU AI Act und bei der KI-Kompetenz unterstützen können
Unser KI-Kompetenz-Trainingsprogramm hilft dir und deinem Team, KI sicher, verantwortungsvoll und regelkonform einzusetzen:
- Schulungen zu KI-Grundlagen und regulatorischen Anforderungen wie dem EU AI Act
- Praxisnahe Trainings von zertifizierten Expertinnen und Experten mit echten Projekterfahrungen
- Flexible Formate: Präsenztraining, Online-Live-Training und Inhouse-Seminare
- Zertifizierungen durch ICO-Cert als anerkannten Zertifizierungspartner
- Individuelle Beratung beim Aufbau deiner KI-Governance
Schau dir unser Trainingsprogramm an und finde das passende Training für deine Situation.
Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.