Mit dem EU AI Act hat die Europäische Union einen verbindlichen Rechtsrahmen geschaffen, der Künstliche Intelligenz nach Risikopotenzial reguliert. Wer KI-Systeme entwickelt, einsetzt oder beschafft, kommt an dem Begriff KI-Risikoklasse nicht mehr vorbei. Was steckt dahinter, wie funktioniert die Klassifizierung in der Praxis, und welche Konsequenzen hat das für Unternehmen?

Was ist eine KI-Risikoklasse?

Eine KI-Risikoklasse gibt an, wie groß das potenzielle Schadenspotenzial eines KI-Systems für Personen oder die Gesellschaft ist. Der EU AI Act unterscheidet vier Risikoklassen: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Je höher die Klasse, desto strenger die gesetzlichen Anforderungen.

Die Klassifizierung orientiert sich am Einsatzkontext und den möglichen Auswirkungen fehlerhafter Entscheidungen. Die Risikoklasse bestimmt unmittelbar, welche technischen und organisatorischen Maßnahmen ein Unternehmen umsetzen muss.

Wie wird die Risikoklasse einer KI-Anwendung bestimmt?

Die Risikoklasse wird anhand des Einsatzbereichs, der Funktion und des Schadenspotenzials bestimmt. Ausschlaggebend sind Verwendungszweck, betroffene Personengruppen und ob das System in sensiblen Bereichen wie Gesundheit, Bildung, Beschäftigung oder kritischer Infrastruktur eingesetzt wird.

Die vier Risikoklassen im Überblick

• Inakzeptables Risiko: KI-Systeme, die grundlegende Rechte verletzen, etwa Social Scoring oder manipulative Techniken. Diese Systeme sind vollständig verboten.
• Hohes Risiko: KI in sensiblen Bereichen wie medizinischer Diagnostik, Personalentscheidungen, Kreditvergabe oder biometrischer Erkennung. Hier gelten strenge Anforderungen.
• Begrenztes Risiko: Systeme mit Transparenzpflichten, z. B. Chatbots, die kenntlich machen müssen, dass man mit einer KI kommuniziert.
• Minimales Risiko: Die meisten KI-Anwendungen, etwa Spamfilter oder KI-gestützte Videospiele. Hier gibt es keine spezifischen gesetzlichen Vorgaben.

Wer führt die Klassifizierung durch?

Die Verantwortung liegt beim Anbieter des KI-Systems. Unternehmen, die KI entwickeln oder in Verkehr bringen, müssen eine fundierte Risikobewertung durchführen und dokumentieren. Wer KI nur einsetzt, trägt ebenfalls Mitverantwortung – insbesondere beim Einsatz in hochriskanten Kontexten.

Welche Pflichten gelten für KI-Systeme mit hohem Risiko?

Hochrisiko-KI-Systeme müssen vor dem Markteintritt eine Konformitätsbewertung durchlaufen und folgende Anforderungen erfüllen:

• Risikomanagementsystem über den gesamten Lebenszyklus
• Hochwertige, verzerrungsfreie Trainingsdaten
• Technische Dokumentation für Behördenprüfungen
• Protokollierungsfunktionen für nachvollziehbare Entscheidungen
• Transparenzinformationen für Nutzerinnen und Nutzer
• Möglichkeiten zur menschlichen Aufsicht und Intervention
• Robustheit und Cybersicherheit

Diese Anforderungen sind gesetzliche Pflichten. Hochrisiko-KI-Systeme müssen zudem in einer EU-Datenbank registriert werden.

Was passiert, wenn eine KI falsch klassifiziert wird?

Eine fehlerhafte Klassifizierung kann Bußgelder bis zu 30 Millionen Euro oder 6 Prozent des weltweiten Jahresumsatzes nach sich ziehen. Besonders problematisch ist eine Untereinstufung: Fehlen die notwendigen Schutzmaßnahmen, drohen im Schadensfall rechtliche und ethische Konsequenzen sowie Marktrücknahmen. Eine sorgfältige, dokumentierte Risikobewertung schützt in beide Richtungen.

Wie wir Sie beim Thema KI-Risikoklassifizierung unterstützen

Wir bei mITSM bieten spezialisierte Weiterbildungen rund um KI-Regulierung an, die Sie gezielt auf die Anforderungen des EU AI Act vorbereiten. Unsere zertifizierten Trainer bringen echte Praxiserfahrung mit. Die Trainings werden über ICO-Cert als anerkannten Zertifizierungspartner zertifiziert.

Unsere KI-Kompetenz-Schulungen decken unter anderem folgende Themen ab:

• Grundlagen und Anwendung des EU AI Act
• KI-Risikobewertung und Klassifizierung in der Praxis
• Compliance-Anforderungen für Hochrisiko-KI-Systeme
• Verantwortungsvoller KI-Einsatz im Unternehmenskontext

Unsere Trainings sind flexibel als Präsenz-, Online-Live- oder Inhouse-Seminar buchbar und für Fach- und Führungskräfte gleichermaßen geeignet. Sprechen Sie uns an und finden Sie die passende Weiterbildung für Ihr Team.

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.