Wie wird KI im EU AI Act klassifiziert?

Der EU AI Act ist das weltweit erste umfassende Gesetz zur Regulierung künstlicher Intelligenz. Seit seinem Inkrafttreten im August 2024 gilt er für alle, die KI-Systeme in der EU entwickeln, einsetzen oder in Verkehr bringen. Hier erfährst du, wie die KI-Klassifizierung nach dem EU AI Act funktioniert, welche Risikokategorien es gibt und welche Konsequenzen Verstöße haben können.

Was ist der EU AI Act und wen betrifft er?

Der EU AI Act legt verbindliche Regeln für die Entwicklung, den Einsatz und das Inverkehrbringen von KI-Systemen in der EU fest. Er gilt für Anbieter, Betreiber, Importeure und Händler – unabhängig davon, wo ein Unternehmen seinen Sitz hat, solange seine Systeme in der EU genutzt werden. Betroffen sind Unternehmen, Behörden und Organisationen, die KI-gestützte Entscheidungen treffen, die Menschen betreffen. Ausgenommen sind lediglich KI-Systeme, die für militärische Zwecke oder die nationale Sicherheit eingesetzt werden.

Welche Risikokategorien unterscheidet der EU AI Act?

Der EU AI Act unterscheidet vier Risikokategorien für KI: verbotene KI, Hochrisiko-KI, KI mit begrenztem Risiko und KI mit minimalem Risiko. Die Einstufung richtet sich nach dem potenziellen Schaden für Grundrechte, die Sicherheit oder gesellschaftliche Werte.

• Verbotene KI: Systeme, die Grundrechte verletzen und vollständig verboten sind – zum Beispiel Social Scoring durch Behörden oder manipulative Verhaltenssteuerung.
• Hochrisiko-KI: Systeme in sensiblen Bereichen wie kritische Infrastruktur, Bildung, Beschäftigung oder Strafverfolgung – mit strengen Anforderungen vor der Markteinführung.
• KI mit begrenztem Risiko: Systeme wie Chatbots, für die Transparenzpflichten gelten. Nutzerinnen und Nutzer müssen wissen, dass sie mit einer KI interagieren.
• KI mit minimalem Risiko: Systeme wie Spamfilter oder KI-gestützte Videospiele, für die keine besonderen Pflichten bestehen.

Wie wird ein KI-System als Hochrisiko eingestuft?

Ein KI-System gilt als Hochrisiko-System, wenn es in einem der im Anhang des EU AI Act aufgeführten Bereiche eingesetzt wird oder wenn es eine Sicherheitskomponente eines regulierten Produkts darstellt. Entscheidend ist der vorgesehene Verwendungszweck, nicht die Technologie selbst.

Bereiche, die automatisch als Hochrisiko gelten

• Biometrische Identifizierung und Kategorisierung von Personen
• Verwaltung kritischer Infrastruktur (Energie, Wasser, Verkehr)
• Bildung und Berufsausbildung, z. B. automatisierte Prüfungsbewertung
• Beschäftigung und Personalmanagement, z. B. KI-gestützte Bewerberauswahl
• Zugang zu wesentlichen privaten und öffentlichen Dienstleistungen
• Strafverfolgung, Grenzkontrolle sowie Justizverwaltung und demokratische Prozesse

Anforderungen an Hochrisiko-KI-Systeme

Wer ein Hochrisiko-System betreibt oder entwickelt, muss ein Risikomanagementsystem einrichten, die Qualität der Trainingsdaten sicherstellen, eine technische Dokumentation führen, menschliche Aufsicht gewährleisten und das System in einer EU-Datenbank registrieren – und das alles vor der Markteinführung.

Wie klassifizierst du ein KI-System nach dem EU AI Act?

Die Klassifizierung erfolgt in drei Schritten: Zunächst prüfst du, ob das System unter die KI-Definition fällt; dann, ob es verboten ist; und schließlich, ob es als Hochrisiko eingestuft werden muss. Was übrig bleibt, fällt in die Kategorien begrenztes oder minimales Risiko.

1. KI-Definition prüfen: Erzeugt das System auf Basis von Eingabedaten Vorhersagen, Empfehlungen oder Entscheidungen?
2. Verbotsliste prüfen: Fällt das System unter eine ausdrücklich verbotene Praxis?
3. Hochrisiko-Anhang prüfen: Wird das System in einem Hochrisikobereich eingesetzt oder stellt es eine Sicherheitskomponente eines regulierten Produkts dar?
4. Transparenzpflichten prüfen: Könnte das System Nutzerinnen und Nutzer täuschen, zum Beispiel indem es als Chatbot auftritt?
5. Minimales Risiko: Wenn keine der oben genannten Kategorien zutrifft, bestehen keine besonderen Pflichten.

Für eine praktische KI-Compliance empfiehlt sich ein internes Inventar aller eingesetzten KI-Systeme – einschließlich zugekaufter Anwendungen oder solcher, die als Service genutzt werden. KI-Kompetenztrainings helfen dabei, das für diese Klassifizierungsprozesse notwendige Wissen aufzubauen.

Welche Bußgelder drohen bei Verstößen gegen den EU AI Act?

Verstöße können zu Bußgeldern von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes führen. Die Höhe richtet sich nach der Schwere des Verstoßes und der betroffenen Risikokategorie:

• Bis zu 35 Mio. € oder 7 % des Jahresumsatzes: Einsatz verbotener KI-Systeme
• Bis zu 15 Mio. € oder 3 % des Jahresumsatzes: Verstöße gegen Pflichten für Hochrisiko-KI
• Bis zu 7,5 Mio. € oder 1,5 % des Jahresumsatzes: Falsche oder irreführende Angaben gegenüber Behörden

Für KMU und Start-ups gelten in der Regel die niedrigeren Beträge. Die Durchsetzung obliegt den nationalen Aufsichtsbehörden – in Deutschland wird dies voraussichtlich die Bundesnetzagentur sein.

Wie wir bei mITSM beim EU AI Act und bei der KI-Compliance unterstützen

Unsere Schulungen und Zertifizierungen vermitteln praxisnahes Wissen, das direkt angewendet werden kann:

• Risikokategorien und Klassifizierungsprozesse nach dem EU AI Act
• Grundlagen der KI-Compliance und Dokumentationspflichten
• Vorbereitung auf anerkannte Zertifizierungsprüfungen, durchgeführt von ICO-Cert
• Flexible Formate: Präsenztraining, Online-Live-Training oder Inhouse-Seminar

Alle Trainer sind zertifizierte Expertinnen und Experten mit praktischer Erfahrung aus der Praxis. Schau dir unser Trainingsangebot im Bereich KI-Kompetenz an und bringe dein Team auf den neuesten Stand, bevor die Fristen des EU AI Act in Kraft treten.

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.