Welche Pflichten haben Anbieter von KI-Systemen nach dem EU AI Act?

Der EU AI Act ist das weltweit erste umfassende Rechtsrahmenwerk für künstliche Intelligenz. Seit seinem Inkrafttreten im August 2024 stellt er Unternehmen, die KI-Systeme entwickeln oder einsetzen, vor konkrete rechtliche Anforderungen. Wenn du als Anbieter tätig bist, solltest du deine Pflichten genau kennen — die Folgen von Verstößen sind erheblich.

Was ist der EU AI Act und wen betrifft er?

Der EU AI Act ist eine EU-Verordnung zur Regulierung künstlicher Intelligenz, die für alle natürlichen und juristischen Personen gilt, die KI-Systeme in der EU entwickeln, vertreiben, einsetzen oder importieren. Die Verordnung folgt einem risikobasierten Ansatz: Je höher das Risiko eines KI-Systems, desto strenger die Anforderungen.

Die KI-Verordnung betrifft nicht nur Technologieunternehmen, sondern auch Behörden, Krankenhäuser, Banken, Personalvermittlungen und viele andere Organisationen. Selbst Unternehmen außerhalb der EU fallen darunter, wenn ihre KI-Produkte auf dem europäischen Markt eingesetzt werden. Die Verordnung unterscheidet vier Risikoebenen: inakzeptables Risiko (verboten), hohes Risiko, begrenztes Risiko und minimales Risiko.

Wer gilt nach dem EU AI Act als Anbieter eines KI-Systems?

Als Anbieter gilt jede natürliche oder juristische Person, die ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen auf dem Markt bereitstellt — unabhängig davon, ob dies entgeltlich oder unentgeltlich geschieht.

Wer ein vortrainiertes Modell anpasst und unter eigenem Namen vertreibt, gilt als Anbieter und übernimmt die entsprechenden Pflichten. Das ist besonders relevant für Unternehmen, die KI-Lösungen auf Basis großer Sprachmodelle als eigene Produkte anbieten.

Welche Pflichten haben Anbieter von Hochrisiko-KI-Systemen?

Anbieter von Hochrisiko-KI-Systemen müssen ein Konformitätsbewertungsverfahren durchlaufen, ein Qualitätsmanagementsystem einrichten und ihre Systeme in einer EU-Datenbank registrieren, bevor sie diese auf dem Markt in Verkehr bringen dürfen. Zu den konkreten Pflichten gehören unter anderem:

• Erstellung und Pflege technischer Dokumentation
• Implementierung eines Risikomanagementsystems über den gesamten Lebenszyklus
• Sicherstellung von Transparenz und Nachvollziehbarkeit durch Protokollierungsfunktionen
• Gewährleistung von Genauigkeit, Robustheit und Cybersicherheit
• Bereitstellung klarer Gebrauchsanweisungen für Betreiber

Hochrisiko-KI-Systeme müssen menschliche Aufsicht ermöglichen. Anbieter sind verpflichtet, eine EU-Konformitätserklärung auszustellen und die CE-Kennzeichnung anzubringen. Nach der Markteinführung gilt eine Pflicht zur Marktbeobachtung: Schwerwiegende Vorfälle müssen den Behörden gemeldet werden.

Welche KI-Praktiken sind nach dem EU AI Act verboten?

Der EU AI Act verbietet KI-Systeme, die ein inakzeptables Risiko für Grundrechte und die öffentliche Sicherheit darstellen. Folgendes ist verboten:

• Manipulative KI-Systeme, die Verhalten durch unterschwellige Beeinflussung steuern
• KI-Systeme, die Schwachstellen bestimmter Personengruppen ausnutzen, etwa von Kindern oder Menschen mit Behinderungen
• Social-Scoring-Systeme, die alltägliches Verhalten bewerten und zu Benachteiligungen führen
• Biometrische Echtzeit-Fernidentifikation im öffentlichen Raum, mit wenigen engen Ausnahmen
• KI-Systeme zur Vorhersage von Straftaten auf Basis von Persönlichkeitsmerkmalen

Welche Strafen drohen bei Verstößen gegen den EU AI Act?

Der Einsatz verbotener KI-Praktiken kann mit Bußgeldern von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes geahndet werden. Verstöße gegen Pflichten im Zusammenhang mit Hochrisiko-KI-Systemen ziehen Bußgelder von bis zu 15 Millionen Euro oder drei Prozent des Jahresumsatzes nach sich. Die Übermittlung falscher Informationen an Behörden kann bis zu 7,5 Millionen Euro oder 1,5 Prozent des Jahresumsatzes kosten. Für KMU gelten in bestimmten Fällen niedrigere Obergrenzen.

Wie kannst du dich auf den EU AI Act vorbereiten?

Als Anbieter solltest du zunächst eine Bestandsaufnahme aller KI-Systeme durchführen und diese nach den Risikokategorien des AI Acts klassifizieren. Eine strukturierte Vorbereitung umfasst die folgenden Schritte:

1. Bestandsaufnahme: Erfasse und dokumentiere alle KI-Systeme in deiner Organisation
2. Risikoklassifizierung: Weise jedem System gemäß dem EU AI Act eine Risikostufe zu
3. Gap-Analyse: Vergleiche bestehende Prozesse mit den gesetzlichen Anforderungen
4. Maßnahmenplan: Implementiere fehlende Dokumentations- und technische Anforderungen
5. Mitarbeiterschulung: Schule relevante Teams zu Anforderungen und Verantwortlichkeiten
6. Kontinuierliches Monitoring: Beobachte Systeme nach der Markteinführung und dokumentiere Vorfälle

So unterstützen wir dich bei der AI-Act-Compliance

Wir von mITSM bieten gezielte Trainings und Zertifizierungen rund um künstliche Intelligenz an, damit du und dein Team die notwendige Kompetenz aufbauen können. Unser Angebot im Bereich KI-Kompetenz und Weiterbildung umfasst:

• Trainings zu den Grundlagen und Anforderungen der KI-Verordnung
• Praxisorientierte Schulungen für Fach- und Führungskräfte
• Zertifizierungsvorbereitung durch erfahrene Trainer — mit Zertifizierungen über ICO-Cert als anerkannten Partner für KI-Themen
• Flexible Formate als Präsenztraining, Online-Live-Training oder Inhouse-Seminar

Nimm Kontakt mit uns auf und finde heraus, welches Training am besten zu deinen Bedürfnissen passt. Wir helfen dir dabei, deine AI-Act-Compliance strukturiert und nachhaltig aufzubauen.

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.