Gilt der EU AI Act auch für KI-Systeme aus den USA oder China?
Der EU AI Act ist das weltweit erste umfassende Rechtssystem für künstliche Intelligenz. Er betrifft nicht nur europäische Unternehmen, sondern wirft auch wichtige Fragen für Unternehmen in den USA, China und anderen Ländern auf: Können KI-Systeme aus dem Ausland weiterhin genutzt werden? Welche Pflichten entstehen dabei? Und was passiert, wenn Unternehmen nicht handeln?
Was ist der EU AI Act und für wen gilt er?
Der EU AI Act ist eine EU-Verordnung, die den Einsatz von KI-Systemen innerhalb der Europäischen Union regelt. Sie gilt für alle Unternehmen und Organisationen, die KI-Systeme in der EU entwickeln, vertreiben oder einsetzen – unabhängig davon, wo sie ihren Sitz haben. Die Verordnung ist im August 2024 in Kraft getreten und wird bis 2026 schrittweise vollständig anwendbar.
Der AI Act verfolgt einen risikobasierten Ansatz: Je höher das potenzielle Risiko eines KI-Systems, desto strenger die Anforderungen. Die Verordnung unterscheidet vier Risikokategorien: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko.
Gilt der EU AI Act auch für Unternehmen außerhalb der EU?
Ja, der EU AI Act hat einen ausdrücklich extraterritorialen Geltungsbereich: Sobald ein KI-System in der EU eingesetzt wird oder seine Ergebnisse Menschen in der EU betreffen, gilt das Gesetz – unabhängig davon, wo der Anbieter seinen Sitz hat. Ein Unternehmen in Tokio, New York oder Peking, das KI-Systeme an europäische Kunden verkauft, unterliegt denselben Anforderungen wie ein deutsches Unternehmen. Verstöße können mit Bußgeldern von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden.
Müssen US-amerikanische KI-Anbieter den EU AI Act einhalten?
US-amerikanische KI-Anbieter müssen den EU AI Act einhalten, wenn sie ihre Systeme in der EU anbieten oder wenn die Ergebnisse dieser Systeme Menschen in der EU betreffen – unabhängig von der Unternehmensgröße. Zu den Pflichten gehören Transparenzanforderungen, technische Dokumentation, Konformitätsbewertungen für Hochrisikosysteme sowie die Einhaltung von Verboten bestimmter KI-Praktiken. Europäische Unternehmen, die US-amerikanische KI-Tools einsetzen, tragen als Betreiber ebenfalls Verantwortung und sollten entsprechende Konformitätsnachweise von ihren Anbietern anfordern.
Welche Regeln gelten für KI-Systeme aus China auf dem EU-Markt?
KI-Systeme aus China unterliegen denselben Regeln wie die aus jedem anderen Drittland. In der Praxis stellt das besondere Herausforderungen dar, da viele chinesische KI-Systeme weniger transparent dokumentiert sind, was Konformitätsbewertungen erschwert. Europäische Unternehmen sollten daher besonders sorgfältig prüfen, ob Transparenz-, Datenschutz- und Dokumentationsanforderungen erfüllt sind – im Zweifelsfall liegt die Verantwortung beim europäischen Betreiber.
Welche KI-Systeme fallen unter die höchsten Risikokategorien?
KI-Systeme mit hohem Risiko werden in sensiblen Bereichen eingesetzt und können erhebliche Auswirkungen auf das Leben von Menschen haben. Dazu gehören unter anderem:
- KI-gestützte Bewerberauswahlsysteme im Personalwesen
- KI-Systeme zur Kreditbewertung
- biometrische Identifikationssysteme
- KI in der medizinischen Diagnostik
- Systeme zur Steuerung kritischer Infrastrukturen wie Strom- oder Wasserversorgung
- KI-Systeme in den Bereichen Strafverfolgung und Grenzkontrolle
Für diese Systeme gelten strenge Pflichten: technische Dokumentation, Konformitätsbewertung, Registrierung und laufende Überwachung mit menschlicher Aufsicht. Wer solche Systeme aus dem Ausland importiert und in der EU einsetzt, übernimmt als Betreiber einen erheblichen Teil dieser Verantwortung.
Wie bereiten sich Unternehmen auf den EU AI Act vor?
Die Vorbereitung beginnt mit einer strukturierten Bestandsaufnahme: Welche KI-Systeme setzt das Unternehmen ein, welcher Risikokategorie gehören sie an und wer trägt die Verantwortung? Ein sinnvoller Einstieg umfasst die folgenden Schritte:
- KI-Inventar erstellen: Erfasse alle eingesetzten KI-Systeme, einschließlich solcher aus den USA oder China.
- Risikoklassifizierung durchführen: Bewerte jedes System anhand der Kriterien des AI Acts.
- Anbieter prüfen: Fordere Konformitätsnachweise und technische Dokumentation von externen KI-Anbietern an.
- Interne Prozesse anpassen: Lege Verantwortlichkeiten, Überwachungsprozesse und Dokumentationspflichten innerhalb der Organisation fest.
- Mitarbeitende schulen: Mache relevante Teams mit den Anforderungen des AI Acts vertraut, insbesondere im Umgang mit Hochrisikosystemen.
Der AI Act erfordert nicht nur technische Maßnahmen, sondern auch ausreichende KI-Kompetenz bei den Mitarbeitenden, die KI-Systeme einsetzen oder überwachen – von IT-Fachleuten bis hin zu Führungskräften.
So helfen wir dir bei der Vorbereitung auf den EU AI Act
Bei mITSM bieten wir praxisnahe Schulungen und Zertifizierungen an, die genau dort ansetzen, wo der Bedarf am größten ist. Unsere Zertifizierungen im Bereich KI werden über ICO-Cert als anerkannten Zertifizierungspartner angeboten. Unser Angebot hilft dir dabei:
- die Anforderungen des EU AI Acts zu verstehen und auf deinen konkreten Anwendungsfall anzuwenden
- KI-Systeme korrekt zu klassifizieren und Risiken zu bewerten
- deine Mitarbeitenden gezielt auf den verantwortungsvollen Umgang mit KI vorzubereiten
- KI-Kompetenz nachzuweisen, wie es der AI Act für bestimmte Rollen vorschreibt
Unsere zertifizierten Trainer mit Beratungserfahrung vermitteln nicht nur Theorie – sie geben konkrete Handlungsempfehlungen, ob in Präsenz-, Online-Live- oder Inhouse-Formaten. Entdecke unsere KI-Schulungen und mach dein Team noch heute fit für den EU AI Act.
Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.