Welche KI-Anwendungen sind durch den EU AI Act verboten?

Der EU AI Act ist seit 2024 in Kraft und bringt klare Regeln für den Einsatz von Künstlicher Intelligenz in Europa. Ein Teil der KI-Anwendungen ist vollständig verboten. Wer KI einsetzt, sollte genau wissen, welche Praktiken unter das KI-Verbot fallen.

Was ist der EU AI Act und wen betrifft er?

Der EU AI Act ist die weltweit erste umfassende gesetzliche Regulierung für Künstliche Intelligenz. Er gilt für alle Unternehmen, Behörden und Einzelpersonen, die KI-Systeme in der EU entwickeln, vertreiben oder einsetzen – auch für Anbieter aus Drittstaaten.

Die Verordnung trat im August 2024 in Kraft. Die Verbote für bestimmte KI-Praktiken gelten ab Februar 2025, weitere Anforderungen greifen erst 2026 oder 2027. Der AI Act unterscheidet vier Risikokategorien: inakzeptables Risiko (verboten), hohes Risiko, begrenztes Risiko und minimales Risiko.

Welche KI-Anwendungen sind durch den EU AI Act vollständig verboten?

Verboten sind KI-Anwendungen mit inakzeptablem Risiko für Grundrechte, Sicherheit oder Menschenwürde. Die verbotenen Praktiken umfassen:

• Unterschwellige Manipulation: KI-Systeme, die Verhalten unbewusst beeinflussen, etwa durch versteckte Audiosignale oder visuelle Reize.
• Ausnutzung von Schwächen: Systeme, die gezielt Vulnerabilitäten bei Kindern, älteren Menschen oder Menschen mit Behinderungen ausnutzen.
• Social Scoring durch staatliche Stellen: KI-gestützte Bewertung von Personen durch Behörden anhand sozialen Verhaltens.
• Echtzeit-Biometrie im öffentlichen Raum: Live-Gesichtserkennung durch Strafverfolgungsbehörden im öffentlichen Raum.
• Vorhersage von Straftaten: Systeme, die Kriminalitätsrisiken allein auf Basis von Persönlichkeitsmerkmalen oder Profiling bewerten.
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen: Automatische Erkennung und Auswertung von Emotionen bei Beschäftigten oder Schülerinnen und Schülern.
• Biometrische Kategorisierung: Einordnung von Personen in Kategorien wie politische Überzeugungen, Religion oder sexuelle Orientierung.

Gibt es Ausnahmen bei den verbotenen KI-Anwendungen?

Ja, jedoch ausschließlich für staatliche Strafverfolgungsbehörden und unter strengen Voraussetzungen. Die wichtigste Ausnahme betrifft die biometrische Echtzeit-Identifikation im öffentlichen Raum – etwa bei der Suche nach vermissten Kindern, zur Abwehr terroristischer Bedrohungen oder zur Identifizierung von Verdächtigen schwerer Straftaten. Eine vorherige richterliche Genehmigung ist stets erforderlich. Für private Unternehmen gelten keine Ausnahmen.

Welche Strafen drohen bei Verstößen gegen das KI-Verbot?

Verstöße gegen verbotene KI-Praktiken werden mit bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet – je nachdem, welcher Betrag höher ist. Verstöße gegen Anforderungen für hochriskante Systeme oder Transparenzpflichten können bis zu 15 Millionen Euro bzw. 3 Prozent des Umsatzes kosten. Unrichtige Angaben gegenüber Behörden werden mit bis zu 7,5 Millionen Euro oder 1,5 Prozent des Umsatzes bestraft.

Was müssen Unternehmen jetzt konkret tun, um compliant zu bleiben?

1. KI-Inventar erstellen: Alle KI-Systeme erfassen, einschließlich eingekaufter Softwarelösungen mit KI-Komponenten.
2. Risikoklassifizierung vornehmen: Jedes System den Kategorien des AI Act zuordnen und auf verbotene Praktiken prüfen.
3. Verbotene Anwendungen abschalten: Betroffene Systeme unverzüglich außer Betrieb nehmen.
4. Hochriskante Systeme dokumentieren: Risikobewertungen, technische Dokumentation und Konformitätserklärungen erstellen.
5. Mitarbeitende schulen: Relevante Teams über AI-Act-Anforderungen informieren – von IT über Einkauf bis Führungsebene.
6. Governance-Strukturen einrichten: Verantwortlichkeiten klar definieren und regelmäßige Reviews einplanen.

Wie wir bei mITSM beim Thema EU AI Act und KI-Kompetenz helfen

Unser KI-Kompetenz-Schulungsangebot hilft dir und deinem Team dabei, KI sicher, verantwortungsvoll und regelkonform einzusetzen:

• Schulungen zu KI-Grundlagen und regulatorischen Anforderungen wie dem EU AI Act
• Praxisnahe Trainings von zertifizierten Experten mit echter Projekterfahrung
• Flexible Formate: Präsenztraining, Online-Live-Schulung und Inhouse-Seminare
• Zertifizierungen über ICO-Cert als anerkannten Zertifizierungspartner
• Individuelle Beratung zum Aufbau deiner KI-Governance

Schau dir unser Schulungsangebot an und finde das passende Training für deine Situation.

25.06.2026