Was sind Hochrisiko-KI-Systeme laut EU AI Act?

Der EU AI Act ist die weltweit erste umfassende gesetzliche Regulierung für Künstliche Intelligenz. Seit er im August 2024 in Kraft getreten ist, stehen viele Unternehmen vor der Frage: Fällt mein KI-System unter die strengen Regeln für Hochrisiko-KI-Systeme? Die Antwort hat direkte Auswirkungen auf Ihre Compliance-Pflichten und Haftung.

Welche KI-Systeme gelten als hochriskant nach dem EU AI Act?

Hochrisiko-KI-Systeme sind Anwendungen, bei denen Fehler erhebliche negative Folgen für Gesundheit, Sicherheit oder Grundrechte haben können. Der AI Act listet diese Bereiche in Anhang III konkret auf:

Biometrische Identifizierung und Kategorisierung von Personen
Kritische Infrastrukturen wie Energie-, Wasser- und Verkehrsversorgung
Bildung und Berufsausbildung, z. B. automatisierte Bewertungssysteme
Beschäftigung und Personalmanagement, etwa KI-gestützte Bewerbungsauswahl
Zugang zu wesentlichen Dienstleistungen wie Krediten oder Sozialleistungen
Strafverfolgung und Grenzkontrolle
Rechtspflege und demokratische Prozesse

Nicht jede KI in diesen Bereichen gilt automatisch als hochriskant. Entscheidend ist, ob das System eine wesentliche Rolle bei Entscheidungen spielt, die erhebliche Auswirkungen auf betroffene Personen haben.

Was ist der Unterschied zwischen Hochrisiko- und verbotenen KI-Systemen?

Verbotene KI-Systeme dürfen in der EU grundsätzlich nicht eingesetzt werden, Hochrisiko-Systeme sind erlaubt, müssen aber strenge Anforderungen erfüllen. Der EU AI Act verbietet Systeme zur unbewussten Beeinflussung von Menschen, staatliche Social-Scoring-Systeme, behördliche Echtzeit-Biometrie-Überwachung im öffentlichen Raum sowie KI, die Schwächen bestimmter Personengruppen ausnutzt. Hochrisiko-KI-Systeme sind dagegen gesellschaftlich nützlich und ausdrücklich zugelassen – statt eines Verbots setzt die Verordnung auf Transparenz, Kontrolle und Rechenschaftspflicht.

Welche Pflichten gelten für Anbieter von Hochrisiko-KI-Systemen?

Anbieter müssen vor dem Inverkehrbringen folgende Anforderungen erfüllen:

Risikomanagementsystem: Risiken müssen systematisch identifiziert, bewertet und minimiert werden.
Technische Dokumentation: Das System muss vollständig dokumentiert sein, damit Behörden es prüfen können.
Datenqualität: Trainingsdaten müssen relevant, repräsentativ und möglichst fehlerfrei sein.
Transparenz: Nutzer müssen klare Informationen über Funktionsweise und Grenzen des Systems erhalten.
Menschliche Aufsicht: Menschen müssen das System überwachen und im Zweifelsfall eingreifen können.
Konformitätsbewertung und Registrierung: Vor der Markteinführung ist eine Bewertung erforderlich; Hochrisiko-Systeme müssen in einer EU-Datenbank registriert werden.

Diese Pflichten gelten primär für Anbieter, aber auch Betreiber, die ein fremdes Hochrisiko-System einsetzen, tragen Verantwortung.

Wie können Unternehmen prüfen, ob ihr KI-System als hochriskant gilt?

Zwei Kernfragen sind entscheidend: Fällt der Anwendungsbereich unter einen Sektor aus Anhang III? Trifft das System Entscheidungen mit erheblichen Auswirkungen auf Menschen? Ein praktischer Prüfpfad:

Anwendungsbereich bestimmen: In welchem Sektor wird das System eingesetzt?
Funktion analysieren: Entscheidet das System eigenständig oder unterstützt es nur?
Auswirkungen bewerten: Welche Konsequenzen haben Fehler für betroffene Personen?
Ausnahmen prüfen: Gibt es Tatbestände, die das System aus dem Hochrisiko-Bereich herausnehmen?
Rechtliche Beratung einholen: Bei Unsicherheit empfiehlt sich die Konsultation von Fachleuten.

Diese Prüfung sollte frühzeitig erfolgen. Wer erst nach der Markteinführung feststellt, dass sein System als hochriskant gilt, steht vor erheblichem Nachrüstungsaufwand. Wer die rechtlichen Grundlagen des EU AI Act strukturiert erlernen möchte, findet in unseren KI-Kompetenz-Schulungen einen guten Einstieg.

So helfen wir Ihnen beim Thema EU AI Act und KI-Kompetenz

mITSM bietet praxisnahe Schulungen und Zertifizierungen rund um KI-Regulierung. Unsere zertifizierten Trainer vermitteln das Wissen für einen sicheren und regelkonformen Umgang mit KI-Systemen. Für KI-Themen arbeiten wir mit ICO-Cert als anerkanntem Zertifizierungspartner zusammen.

Fundiertes Wissen zu den Kategorien des EU AI Act, inklusive Hochrisiko-KI und verbotenen Systemen
Praktische Anleitungen zur Einordnung und Bewertung eigener KI-Systeme
Überblick über Compliance-Pflichten für Anbieter und Betreiber
Flexible Formate: Präsenztraining, Online-Live-Schulung oder Inhouse-Seminar
Anerkannte Zertifizierungen durch ICO-Cert

Schauen Sie sich jetzt unser Schulungsangebot im Bereich KI-Kompetenz an und finden Sie das passende Training für Ihr Team.

25.06.2026