Was sind Hochrisiko-KI-Systeme laut EU AI Act?

Der EU AI Act ist das weltweit erste umfassende rechtliche Rahmenwerk für künstliche Intelligenz. Seit seinem Inkrafttreten im August 2024 stellen sich viele Unternehmen die Frage: Fällt mein KI-System unter die strengen Regeln für Hochrisiko-KI-Systeme? Die Antwort hat direkte Auswirkungen auf deine Compliance-Pflichten und Haftung.

Welche KI-Systeme gelten laut EU AI Act als Hochrisiko?

Hochrisiko-KI-Systeme sind Anwendungen, bei denen Fehler erhebliche negative Folgen für Gesundheit, Sicherheit oder Grundrechte haben können. Der AI Act listet diese Bereiche konkret in Anhang III auf:

Biometrische Identifizierung und Kategorisierung von Personen
Kritische Infrastrukturen wie Energie-, Wasser- und Transportversorgung
Bildung und Berufsausbildung, z. B. automatisierte Bewertungssysteme
Beschäftigung und Personalmanagement, etwa KI-gestützte Bewerberauswahl
Zugang zu wesentlichen Dienstleistungen wie Krediten oder Sozialleistungen
Strafverfolgung und Grenzkontrolle
Rechtspflege und demokratische Prozesse

Nicht jedes KI-System in diesen Bereichen wird automatisch als Hochrisiko eingestuft. Entscheidend ist, ob das System eine wesentliche Rolle bei Entscheidungen spielt, die erhebliche Auswirkungen auf die betroffenen Personen haben.

Was ist der Unterschied zwischen Hochrisiko- und verbotenen KI-Systemen?

Verbotene KI-Systeme dürfen in der EU grundsätzlich nicht eingesetzt werden, während Hochrisiko-Systeme zulässig sind, aber strenge Anforderungen erfüllen müssen. Der EU AI Act verbietet Systeme, die darauf ausgelegt sind, Menschen unterschwellig zu beeinflussen, staatliche Social-Scoring-Systeme, die Echtzeit-Biometrieüberwachung öffentlicher Räume durch Behörden sowie KI, die Schwachstellen bestimmter Personengruppen ausnutzt. Hochrisiko-KI-Systeme hingegen gelten als gesellschaftlich nützlich und sind ausdrücklich erlaubt – anstatt ein Verbot auszusprechen, setzt die Verordnung auf Transparenz, Aufsicht und Verantwortlichkeit.

Welche Pflichten gelten für Anbieter von Hochrisiko-KI-Systemen?

Anbieter müssen folgende Anforderungen erfüllen, bevor sie ein System auf den Markt bringen:

Risikomanagementsystem: Risiken müssen systematisch identifiziert, bewertet und minimiert werden.
Technische Dokumentation: Das System muss vollständig dokumentiert sein, damit Behörden es prüfen können.
Datenqualität: Trainingsdaten müssen relevant, repräsentativ und möglichst fehlerfrei sein.
Transparenz: Nutzer müssen klare Informationen über die Funktionsweise des Systems und seine Einschränkungen erhalten.
Menschliche Aufsicht: Menschen müssen das System überwachen und bei Bedarf eingreifen können.
Konformitätsbewertung und Registrierung: Vor der Markteinführung ist eine Bewertung erforderlich; Hochrisiko-Systeme müssen in einer EU-Datenbank registriert werden.

Diese Pflichten gelten in erster Linie für Anbieter, aber auch Betreiber, die ein Hochrisiko-KI-System eines Drittanbieters einsetzen, tragen Verantwortung.

Wie kannst du prüfen, ob dein KI-System als Hochrisiko eingestuft wird?

Zwei zentrale Fragen sind entscheidend: Fällt der Anwendungsbereich unter einen in Anhang III aufgeführten Sektor? Trifft das System Entscheidungen mit erheblichen Folgen für Menschen? Ein praktischer Bewertungspfad:

Anwendungsbereich bestimmen: In welchem Sektor wird das System eingesetzt?
Funktion analysieren: Trifft das System Entscheidungen autonom, oder leistet es lediglich Unterstützung?
Auswirkungen bewerten: Welche Folgen haben Fehler für die betroffenen Personen?
Ausnahmen prüfen: Gibt es Umstände, die das System von der Hochrisiko-Kategorie ausschließen würden?
Rechtliche Beratung einholen: Im Zweifelsfall wird die Konsultation von Fachleuten empfohlen.

Diese Bewertung sollte frühzeitig durchgeführt werden. Wer erst nach der Markteinführung feststellt, dass sein System als Hochrisiko eingestuft wird, steht vor erheblichem Nachrüstaufwand. Wenn du die rechtlichen Grundlagen des EU AI Acts strukturiert erlernen möchtest, sind unsere KI-Kompetenz-Trainings ein idealer Einstieg.

Wie wir dich beim EU AI Act und KI-Kompetenz unterstützen können

mITSM bietet praxisnahe Trainings und Zertifizierungen rund um KI-Regulierung an. Unsere zertifizierten Trainer vermitteln das Wissen, das du für einen sicheren und regelkonformen Umgang mit KI-Systemen benötigst. Für KI-Themen arbeiten wir mit ICO-Cert als anerkanntem Zertifizierungspartner zusammen.

Fundiertes Wissen zu den Kategorien des EU AI Acts, einschließlich Hochrisiko-KI und verbotener Systeme
Praktische Orientierung bei der Klassifizierung und Bewertung eigener KI-Systeme
Überblick über Compliance-Pflichten für Anbieter und Betreiber
Flexible Formate: Präsenztraining, Online-Live-Sessions oder Inhouse-Seminare
Anerkannte Zertifizierungen durch ICO-Cert

Schau dir unser Trainingsangebot im Bereich KI-Kompetenz an und finde den passenden Kurs für dein Team.

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.