Der EU AI Act ist das weltweit erste umfassende Gesetz zur Regulierung Künstlicher Intelligenz. Seit seiner Verabschiedung durch das Europäische Parlament 2024 stellt die KI-Verordnung Unternehmen, Entwickler und Behörden vor neue Anforderungen. Wer in der EU KI-Systeme einsetzt, entwickelt oder vermarktet, kommt an diesem Thema nicht vorbei.

Was ist der EU AI Act und warum wurde er eingeführt?

Der EU AI Act ist eine EU-weite Verordnung, die den Einsatz Künstlicher Intelligenz in Europa einheitlich regelt. Sie wurde eingeführt, weil KI-Systeme erhebliche Risiken für Grundrechte, Sicherheit und Demokratie mit sich bringen können. Ziel ist es, Vertrauen in KI zu schaffen, ohne Innovation zu blockieren – etwa bei automatisierten Entscheidungen über Menschen oder bei der Überwachung im öffentlichen Raum.

Welche KI-Systeme fallen unter den EU AI Act?

Der EU AI Act gilt für alle KI-Systeme, die in der EU entwickelt, vermarktet oder eingesetzt werden – unabhängig vom Firmensitz des Anbieters. Darunter fallen unter anderem:

• KI-gestützte Entscheidungssysteme in Personalwesen, Kreditvergabe oder Strafverfolgung
• Chatbots und generative KI-Modelle wie große Sprachmodelle
• biometrische Erkennungssysteme
• Systeme zur Bewertung oder Klassifizierung von Personen
• KI in sicherheitskritischen Bereichen wie Medizintechnik oder Infrastruktur

Ausgenommen sind KI-Systeme für militärische oder nationale Sicherheitszwecke sowie rein private Anwendungen.

Wie klassifiziert der EU AI Act Risikostufen von KI?

Der EU AI Act teilt KI-Systeme in vier Risikostufen ein: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Je höher das Risiko, desto strenger die Anforderungen.

Inakzeptables Risiko: Verbotene KI

KI-Systeme mit inakzeptablem Risiko sind vollständig verboten – etwa Social-Scoring-Systeme, manipulative KI oder Echtzeit-Biometrie zur Massenüberwachung im öffentlichen Raum.

Hohes Risiko: Strenge Auflagen

KI mit hohem Risiko ist erlaubt, unterliegt aber strengen Anforderungen. Typische Beispiele sind KI in der Personalauswahl, medizinischen Diagnostik, Strafverfolgung oder im Bildungsbereich. Anbieter müssen Risikoanalysen durchführen, menschliche Aufsicht sicherstellen und technische Dokumentation bereitstellen.

Begrenztes und minimales Risiko

KI mit begrenztem Risiko, etwa Chatbots, unterliegt vor allem Transparenzpflichten: Nutzer müssen wissen, dass sie mit einer KI interagieren. KI mit minimalem Risiko, wie Spam-Filter oder Spielanwendungen, ist weitgehend unreguliert.

Welche Pflichten entstehen für Unternehmen durch den AI Act?

Unternehmen, die Hochrisiko-KI einsetzen oder anbieten, müssen konkrete Compliance-Anforderungen erfüllen:

• Technische Dokumentation: Alle relevanten KI-Systeme müssen vollständig dokumentiert werden, inklusive Trainingsdaten, Funktionsweise und Leistungsgrenzen.
• Transparenz gegenüber Nutzern: Betroffene Personen müssen über KI-gestützte Entscheidungen informiert werden.
• Datenschutz und Datenqualität: Verwendete Daten müssen relevant, repräsentativ und fehlerfrei sein.
• Menschliche Aufsicht: Hochrisiko-KI muss menschliche Eingriffe und Korrekturen ermöglichen.
• Konformitätsbewertung: Vor dem Markteintritt ist eine Anforderungsprüfung erforderlich, teilweise durch externe Stellen.

Was droht bei Verstößen gegen den EU AI Act?

Bei Verstößen drohen erhebliche Bußgelder:

• Verbotene KI-Praktiken: bis zu 35 Millionen Euro oder 7 % des Jahresumsatzes
• Verstöße gegen Hochrisiko-Anforderungen: bis zu 15 Millionen Euro oder 3 % des Jahresumsatzes
• Falsche Angaben gegenüber Behörden: bis zu 7,5 Millionen Euro oder 1,5 % des Jahresumsatzes

Neben finanziellen Folgen drohen Reputationsschäden und Marktzugangssperren.

Wie können sich Unternehmen auf den EU AI Act vorbereiten?

Unternehmen sollten jetzt ihre KI-Systeme inventarisieren, das Risikoniveau bewerten und Compliance-Strukturen aufbauen. Ein sinnvoller Einstieg umfasst folgende Schritte:

1. KI-Inventar erstellen: Erfassen Sie alle eingesetzten oder geplanten KI-Systeme.
2. Risikoeinstufung vornehmen: Prüfen Sie für jedes System die zutreffende Risikokategorie.
3. Verantwortlichkeiten klären: Bestimmen Sie, wer für KI-Compliance zuständig ist.
4. Dokumentation aufbauen: Beginnen Sie mit der technischen Dokumentation relevanter Systeme.
5. Mitarbeitende schulen: Sensibilisieren Sie Teams in IT, Recht und Personalwesen.
6. Externe Expertise einbeziehen: Holen Sie rechtliche und technische Unterstützung, wenn interne Ressourcen fehlen.

Verbotene Praktiken sind bereits seit Februar 2025 untersagt, die meisten Hochrisiko-Anforderungen müssen bis August 2026 umgesetzt sein.

Wie wir Sie bei der AI Act Compliance unterstützen

Wir bei mITSM helfen Ihnen, die KI-Verordnung zu verstehen und die notwendigen Kompetenzen aufzubauen. Unser Angebot rund um KI-Kompetenz und Schulungen zu Künstlicher Intelligenz umfasst:

• praxisnahe Schulungen zu KI-Grundlagen und regulatorischen Anforderungen
• Trainings für Fach- und Führungskräfte, die KI-Systeme einsetzen oder verantworten
• Zertifizierungen über ICO-Cert als anerkannten Zertifizierungspartner für KI-Themen
• flexible Formate: Präsenztraining, Online-Live-Schulung oder Inhouse-Seminar

Unsere zertifizierten Trainer sind selbst als Berater in Unternehmen tätig – Sie lernen, wie der EU AI Act in der Praxis funktioniert, nicht nur auf dem Papier. Sprechen Sie uns an und finden Sie den passenden Einstieg in Ihre AI Act Compliance.

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.