Was bedeutet Transparenzpflicht im Kontext des EU AI Act?

Der EU AI Act ist das weltweit erste umfassende Gesetz zur Regulierung Künstlicher Intelligenz. Eine seiner zentralen Anforderungen ist die Transparenzpflicht im EU AI Act: Sie legt fest, wie offen und nachvollziehbar KI-Systeme gegenüber Nutzern und Behörden sein müssen. Wer KI entwickelt, einsetzt oder vertreibt, sollte diese Anforderungen kennen, bevor sie verbindlich werden.

Was ist die Transparenzpflicht im EU AI Act?

Die Transparenzpflicht verpflichtet Anbieter und Betreiber bestimmter KI-Systeme dazu, Nutzer klar darüber zu informieren, dass sie mit einer KI interagieren, wie das System funktioniert und welche Einschränkungen es hat. Ziel ist es, Vertrauen zu schaffen und informierte Entscheidungen zu ermöglichen.

Der EU AI Act unterscheidet zwischen verschiedenen Risikoklassen. Hochrisiko-KI-Systeme müssen besonders strenge Dokumentations- und Informationspflichten erfüllen; für andere Systeme wie Chatbots oder KI-generierte Inhalte gelten spezifische Kennzeichnungspflichten.

Für welche KI-Systeme gilt die Transparenzpflicht?

Die Pflicht gilt für alle KI-Systeme, die direkt mit Menschen interagieren oder Inhalte erzeugen, die als menschlich wahrgenommen werden könnten. Drei Hauptkategorien sind betroffen:

• Konversationssysteme: Chatbots und KI-Assistenten müssen Nutzer darüber informieren, dass sie mit einer KI kommunizieren.
• Emotionserkennungs- und biometrische Systeme: Erfasste Personen müssen informiert werden.
• Synthetische Inhalte (Deepfakes): KI-generierte oder manipulierte Bilder, Videos und Texte müssen als solche gekennzeichnet werden.

Für Hochrisiko-KI-Systeme in Bereichen wie Personalwesen, Kreditvergabe oder kritischer Infrastruktur gelten darüber hinaus umfangreichere Anforderungen: technische Dokumentation, Risikoabschätzungen und Protokollierungspflichten.

Welche konkreten Pflichten entstehen durch die Transparenzanforderungen?

1. Informationspflicht gegenüber Nutzern: Nutzer müssen zum Zeitpunkt der Interaktion – nicht im Kleingedruckten – klar darüber informiert werden, dass sie mit einem KI-System interagieren.
2. Kennzeichnung synthetischer Inhalte: KI-generierte Inhalte müssen maschinenlesbar markiert sein.
3. Technische Dokumentation: Anbieter von Hochrisiko-KI müssen Funktionsweise, Trainingsdaten und Leistungsgrenzen umfassend dokumentieren.
4. Protokollierung und Nachverfolgbarkeit: Bestimmte Systeme müssen automatisch Protokolle erstellen, um Entscheidungen nachvollziehbar zu machen.
5. Konformitätserklärung: Anbieter müssen eine EU-Konformitätserklärung ausstellen und ihre Systeme im EU-Register eintragen.

Was ist der Unterschied zwischen Transparenz- und Erklärbarkeitsanforderungen?

Transparenzanforderungen betreffen die Offenlegung von Informationen – was ein System tut und dass es KI ist. Erklärbarkeit geht weiter: Sie verlangt Nachvollziehbarkeit darüber, warum ein System eine bestimmte Entscheidung getroffen hat. Erklärbarkeit ist technisch anspruchsvoller und besonders relevant bei Hochrisiko-Anwendungen. Lehnt ein KI-System einen Kreditantrag ab oder sortiert eine Bewerbung aus, haben betroffene Personen das Recht auf eine verständliche Begründung.

Welche Sanktionen drohen bei Verstößen gegen die Transparenzpflicht?

Verstöße können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden. Die Sanktionen sind nach Schwere gestaffelt:

• Verbotene KI-Praktiken: bis zu 35 Millionen Euro oder 7 Prozent des Jahresumsatzes
• Verstöße gegen Hochrisiko-Anforderungen und Transparenzpflichten: bis zu 15 Millionen Euro oder 3 Prozent des Jahresumsatzes
• Falsche oder irreführende Angaben gegenüber Behörden: bis zu 7,5 Millionen Euro oder 1,5 Prozent des Jahresumsatzes

Neben Bußgeldern drohen Reputationsschäden und der Entzug der Marktzulassung. Frühzeitige Compliance ist deutlich günstiger als nachträgliche Korrekturen unter Druck.

Wie können Unternehmen die Transparenzpflicht im EU AI Act umsetzen?

Erfassen Sie zunächst alle KI-Systeme, die im Unternehmen entwickelt, eingesetzt oder vertrieben werden. Stufen Sie anschließend jedes System nach dem Risikoschema des EU AI Act ein – die Klassifizierung bestimmt, welche Transparenzanforderungen konkret gelten. Erstellen Sie die notwendigen Dokumentationen, richten Sie Prozesse für die Kennzeichnung von KI-Inhalten ein und klären Sie Verantwortlichkeiten frühzeitig. Schließlich müssen Mitarbeitende die Transparenzanforderungen kennen und verstehen. Wer sich gezielt mit den KI-Kompetenzen und Schulungsangeboten rund um Künstliche Intelligenz vertraut macht, legt eine solide Grundlage für die Umsetzung.

So unterstützen wir Sie bei der Umsetzung der Transparenzpflicht

Wir bei mITSM bieten praxisnahe Schulungen und Zertifizierungen, die Sie und Ihr Team gezielt auf die Anforderungen des EU AI Act vorbereiten. Für KI-Themen arbeiten wir mit ICO-Cert als anerkanntem Zertifizierungspartner zusammen.

• Schulungen zu Grundlagen und Anforderungen des EU AI Act, inklusive Transparenz- und Dokumentationspflichten
• Trainings zur KI-Governance und zum verantwortungsvollen KI-Einsatz im Unternehmen
• Zertifizierungsprogramme über ICO-Cert zur offiziellen Bestätigung Ihrer KI-Compliance-Kompetenz
• Flexible Formate: Präsenz, Online-Live oder Inhouse-Seminar

Bereiten Sie Ihr Unternehmen rechtzeitig vor. Schauen Sie sich unser Schulungsangebot im Bereich KI-Kompetenz an und finden Sie das passende Training für Ihre Situation.