Was ist eine KI-Risikoklasse und wie wird sie bestimmt?

Mit dem EU AI Act hat die Europäische Union einen verbindlichen Rechtsrahmen geschaffen, der künstliche Intelligenz nach ihrem Risikopotenzial reguliert. Wer KI-Systeme entwickelt, einsetzt oder beschafft, kommt am Begriff KI-Risikoklasse nicht mehr vorbei. Was bedeutet er, wie funktioniert die Einstufung in der Praxis, und welche Konsequenzen hat das für Unternehmen?

Was ist eine KI-Risikoklasse?

Eine KI-Risikoklasse gibt an, wie groß das Schadenspotenzial eines KI-Systems für Einzelpersonen oder die Gesellschaft ist. Der EU AI Act unterscheidet vier Risikoklassen: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. Je höher die Klasse, desto strenger die gesetzlichen Anforderungen.

Die Einstufung basiert auf dem Verwendungskontext und den möglichen Folgen fehlerhafter Entscheidungen. Die Risikoklasse legt direkt fest, welche technischen und organisatorischen Maßnahmen ein Unternehmen umsetzen muss.

Wie wird die Risikoklasse einer KI-Anwendung bestimmt?

Die Risikoklasse wird anhand des Anwendungsbereichs, der Funktion und des Schadenspotenzials ermittelt. Entscheidend sind der vorgesehene Zweck, die betroffenen Personengruppen und ob das System in sensiblen Bereichen wie Gesundheitswesen, Bildung, Beschäftigung oder kritischer Infrastruktur eingesetzt wird.

Die vier Risikoklassen im Überblick

• Inakzeptables Risiko: KI-Systeme, die Grundrechte verletzen, etwa Social Scoring oder manipulative Techniken. Diese Systeme sind vollständig verboten.
• Hohes Risiko: KI in sensiblen Bereichen wie medizinischer Diagnostik, Personalentscheidungen, Kreditbewertung oder biometrischer Erkennung. Hier gelten strenge Anforderungen.
• Begrenztes Risiko: Systeme mit Transparenzpflichten, z. B. Chatbots, die kenntlich machen müssen, dass der Nutzer mit einer KI kommuniziert.
• Minimales Risiko: Die Mehrzahl der KI-Anwendungen, etwa Spamfilter oder KI-gestützte Videospiele. Hier gelten keine spezifischen gesetzlichen Anforderungen.

Wer nimmt die Einstufung vor?

Die Verantwortung liegt beim Anbieter des KI-Systems. Unternehmen, die KI entwickeln oder auf den Markt bringen, müssen eine sorgfältige Risikobewertung durchführen und dokumentieren. Auch wer KI lediglich einsetzt, trägt einen Teil der Verantwortung – insbesondere wenn dies in risikoreichen Kontexten geschieht.

Welche Pflichten gelten für KI-Systeme mit hohem Risiko?

KI-Systeme mit hohem Risiko müssen vor der Markteinführung eine Konformitätsbewertung durchlaufen und folgende Anforderungen erfüllen:

• Ein Risikomanagementsystem für den gesamten Lebenszyklus
• Hochwertige, verzerrungsfreie Trainingsdaten
• Technische Dokumentation für behördliche Prüfungen
• Protokollierungsfunktionen für nachvollziehbare Entscheidungen
• Transparenzinformationen für Nutzer
• Möglichkeiten zur menschlichen Aufsicht und Intervention
• Robustheit und Cybersicherheit

Diese Anforderungen sind gesetzliche Pflichten. KI-Systeme mit hohem Risiko müssen zudem in einer EU-Datenbank registriert werden.

Was passiert bei einer falschen Einstufung?

Eine fehlerhafte Einstufung kann Bußgelder von bis zu 30 Millionen Euro oder 6 Prozent des weltweiten Jahresumsatzes nach sich ziehen. Besonders problematisch ist eine zu niedrige Einstufung: Fehlen die erforderlichen Schutzmaßnahmen, drohen im Schadensfall rechtliche und ethische Konsequenzen sowie Marktrücknahmen. Eine sorgfältige, dokumentierte Risikobewertung schützt in beide Richtungen.

Wie wir dich beim Thema KI-Risikoklassifizierung unterstützen

Wir bei mITSM bieten spezialisierte Schulungen zur KI-Regulierung an, die dich gezielt auf die Anforderungen des EU AI Act vorbereiten. Unsere zertifizierten Trainer bringen echte Praxiserfahrung mit. Die Schulungen sind über ICO-Cert als anerkannten Zertifizierungspartner zertifiziert.

Unsere KI-Kompetenzschulungen decken unter anderem folgende Themen ab:

• Grundlagen und Anwendung des EU AI Act
• KI-Risikobewertung und -klassifizierung in der Praxis
• Compliance-Anforderungen für KI-Systeme mit hohem Risiko
• Verantwortungsvoller Einsatz von KI im Unternehmenskontext

Unsere Schulungen sind flexibel als Präsenz-, Online-Live- oder Inhouse-Seminar verfügbar und richten sich gleichermaßen an Fach- und Führungskräfte. Melde dich bei uns und finde die passende Schulung für dein Team.

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.