Was ist der EU AI Act und was regelt er?

Der EU AI Act ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Seit seiner Verabschiedung durch das Europäische Parlament im Jahr 2024 stellt die KI-Verordnung neue Anforderungen an Unternehmen, Entwickler und Behörden. Wer KI-Systeme in der EU einsetzt, entwickelt oder vermarktet, kommt an diesem Thema nicht vorbei.

Was ist der EU AI Act und warum wurde er eingeführt?

Der EU AI Act ist eine EU-weite Verordnung, die den Einsatz künstlicher Intelligenz in Europa einheitlich regelt. Er wurde eingeführt, weil KI-Systeme erhebliche Risiken für Grundrechte, Sicherheit und Demokratie mit sich bringen können. Das Ziel ist es, Vertrauen in KI aufzubauen, ohne Innovation zu blockieren – etwa bei automatisierten Entscheidungen über Personen oder der Überwachung im öffentlichen Raum.

Welche KI-Systeme fallen unter den EU AI Act?

Der EU AI Act gilt für alle KI-Systeme, die in der EU entwickelt, vermarktet oder eingesetzt werden – unabhängig davon, wo der Anbieter seinen Sitz hat. Dazu gehören unter anderem:

• KI-gestützte Entscheidungssysteme im Personalwesen, bei der Kreditvergabe oder in der Strafverfolgung
• Chatbots und generative KI-Modelle wie große Sprachmodelle
• Biometrische Erkennungssysteme
• Systeme zur Bewertung oder Klassifizierung von Personen
• KI in sicherheitskritischen Bereichen wie Medizintechnik oder Infrastruktur

Ausgenommen sind KI-Systeme, die für militärische oder nationale Sicherheitszwecke genutzt werden, sowie rein private Anwendungen.

Wie klassifiziert der EU AI Act die Risikoebenen von KI?

Der EU AI Act unterteilt KI-Systeme in vier Risikoebenen: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Je höher das Risiko, desto strenger die Anforderungen.

Inakzeptables Risiko: verbotene KI

KI-Systeme mit inakzeptablem Risiko sind vollständig verboten – zum Beispiel Social-Scoring-Systeme, manipulative KI oder Echtzeit-Biometrie zur Massenüberwachung im öffentlichen Raum.

Hohes Risiko: strenge Anforderungen

KI mit hohem Risiko ist erlaubt, unterliegt jedoch strengen Anforderungen. Typische Beispiele sind KI-Systeme in der Personalauswahl, medizinischen Diagnostik, Strafverfolgung oder im Bildungsbereich. Anbieter müssen Risikoanalysen durchführen, menschliche Aufsicht gewährleisten und technische Dokumentation bereitstellen.

Begrenztes und minimales Risiko

KI mit begrenztem Risiko, wie etwa Chatbots, unterliegt in erster Linie Transparenzpflichten: Nutzer müssen wissen, dass sie mit einer KI interagieren. KI mit minimalem Risiko, wie Spam-Filter oder Gaming-Anwendungen, ist weitgehend unreguliert.

Welche Pflichten entstehen durch den AI Act für Unternehmen?

Unternehmen, die KI mit hohem Risiko einsetzen oder anbieten, müssen spezifische Compliance-Anforderungen erfüllen:

• Technische Dokumentation: Alle relevanten KI-Systeme müssen vollständig dokumentiert werden, einschließlich Trainingsdaten, Funktionsweise und Leistungsgrenzen.
• Transparenz gegenüber Nutzern: Betroffene Personen müssen über KI-gestützte Entscheidungen informiert werden.
• Datenschutz und Datenqualität: Verwendete Daten müssen relevant, repräsentativ und fehlerfrei sein.
• Menschliche Aufsicht: KI mit hohem Risiko muss menschliche Eingriffe und Korrekturen ermöglichen.
• Konformitätsbewertung: Vor dem Markteintritt ist eine Anforderungsprüfung notwendig, die in einigen Fällen von externen Stellen durchgeführt wird.

Welche Strafen drohen bei Verstößen gegen den EU AI Act?

Verstöße können zu erheblichen Bußgeldern führen:

• Verbotene KI-Praktiken: bis zu 35 Millionen Euro oder 7 % des Jahresumsatzes
• Verstöße gegen Hochrisiko-Anforderungen: bis zu 15 Millionen Euro oder 3 % des Jahresumsatzes
• Falsche Angaben gegenüber Behörden: bis zu 7,5 Millionen Euro oder 1,5 % des Jahresumsatzes

Neben finanziellen Konsequenzen sind auch Reputationsschäden und Marktzugangsbeschränkungen möglich.

Wie können sich Unternehmen auf den EU AI Act vorbereiten?

Unternehmen sollten jetzt eine Bestandsaufnahme ihrer KI-Systeme vornehmen, das Risikoniveau einschätzen und Compliance-Strukturen aufbauen. Ein sinnvoller Einstieg umfasst die folgenden Schritte:

1. KI-Inventar erstellen: Erfasse alle KI-Systeme, die aktuell im Einsatz sind oder geplant werden.
2. Risikoklassifizierung durchführen: Prüfe für jedes System die zutreffende Risikokategorie.
3. Verantwortlichkeiten klären: Lege fest, wer für die KI-Compliance zuständig ist.
4. Dokumentation aufbauen: Beginne mit der technischen Dokumentation relevanter Systeme.
5. Mitarbeitende schulen: Sensibilisiere Teams in IT, Recht und Personalwesen.
6. Externe Expertise einbeziehen: Hole rechtliche und technische Unterstützung, wenn interne Ressourcen fehlen.

Verbotene Praktiken sind bereits seit Februar 2025 untersagt, und die meisten Hochrisiko-Anforderungen müssen bis August 2026 umgesetzt werden.

Wie wir dich bei der AI Act Compliance unterstützen

Wir bei mITSM helfen dir, die KI-Verordnung zu verstehen und die notwendigen Kompetenzen aufzubauen. Unser Angebot rund um KI-Kompetenz und Schulungen zu künstlicher Intelligenz umfasst:

• Praxisnahe Schulungen zu KI-Grundlagen und regulatorischen Anforderungen
• Trainings für Fach- und Führungskräfte, die KI-Systeme einsetzen oder dafür verantwortlich sind
• Zertifizierungen durch ICO-Cert als anerkannten Zertifizierungspartner für KI-Themen
• Flexible Formate: Präsenztraining, Online-Live-Sessions oder Inhouse-Seminare

Unsere zertifizierten Trainer sind selbst als Berater in Unternehmen tätig – du lernst, wie der EU AI Act in der Praxis funktioniert, nicht nur auf dem Papier. Nimm Kontakt mit uns auf und finde den richtigen Einstieg in deine AI Act Compliance.

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.