Der EU AI Act ist seit August 2024 in Kraft – doch was bedeutet er konkret für Unternehmen in Deutschland und Europa? Viele Fach- und Führungskräfte fragen sich: Bin ich betroffen, und was muss ich tun? Die Antwort hängt von Ihrer Branche und den eingesetzten KI-Systemen ab. Unternehmen, die frühzeitig verstehen, was die KI-Regulierung verlangt, verschaffen sich einen echten Wettbewerbsvorteil.

Was ist der EU AI Act und wen betrifft er?

Der EU AI Act ist die weltweit erste umfassende gesetzliche Regulierung für Künstliche Intelligenz. Er gilt für alle Unternehmen, die KI-Systeme in der EU entwickeln, vertreiben oder einsetzen – unabhängig vom Unternehmenssitz. Das Gesetz stuft KI-Systeme nach vier Risikokategorien ein: inakzeptables Risiko, Hochrisiko, begrenztes Risiko und minimales Risiko. KI mit inakzeptablem Risiko, etwa Social Scoring durch staatliche Stellen, ist verboten. Hochrisiko-KI darf eingesetzt werden, unterliegt aber strengen Anforderungen.

Welche Branchen fallen unter die Hochrisiko-Kategorien?

Besonders stark betroffen sind Gesundheitswesen, Finanz- und Versicherungsbranche, Bildungssektor, Personalwesen, kritische Infrastrukturen sowie Strafverfolgung und Justiz. Im Anhang III des EU AI Act sind die Hochrisiko-Kategorien konkret aufgelistet:

• KI in medizinischen Produkten und zur Diagnoseunterstützung
• Systeme zur Kreditwürdigkeitsprüfung und Bonitätsbewertung
• KI-gestützte Personalentscheidungen, zum Beispiel in Bewerbungsverfahren
• Systeme zur Bewertung von Schülerinnen und Schülern im Bildungsbereich
• KI in der Verwaltung kritischer Infrastrukturen wie Energie oder Wasser
• biometrische Identifikationssysteme

Wichtig: Nicht das Unternehmen als Ganzes, sondern das jeweilige KI-System fällt unter die Hochrisiko-Kategorie.

Welche Pflichten entstehen für Unternehmen?

Unternehmen, die Hochrisiko-KI einsetzen oder entwickeln, müssen konkrete Pflichten erfüllen: Risikomanagementsystem, technische Dokumentation, Transparenz gegenüber Nutzenden, menschliche Aufsicht sowie Registrierung in einer EU-Datenbank.

Pflichten für Anbieter von KI-Systemen

Anbieter müssen das System vor der Markteinführung einer Konformitätsbewertung unterziehen, eine CE-Kennzeichnung anbringen, das System registrieren und verständliche Gebrauchsanweisungen bereitstellen.

Pflichten für Betreiber von KI-Systemen

Betreiber müssen sicherstellen, dass das System gemäß Herstellervorgaben genutzt wird, eine menschliche Aufsicht gewährleisten und ein Nutzungsprotokoll führen. Besonders wichtig: Mitarbeitende müssen entsprechend geschult werden, damit sie KI-Systeme richtig einsetzen und überwachen können.

Wie können Unternehmen ihre Mitarbeitenden vorbereiten?

Der EU AI Act schreibt für bestimmte Rollen ausdrücklich vor, dass Mitarbeitende über ausreichende KI-Kompetenz verfügen müssen. Ein guter Ausgangspunkt ist eine interne Bestandsaufnahme: Welche KI-Systeme nutzt das Unternehmen? Welche Mitarbeitenden arbeiten damit? Welche Wissenslücken bestehen? Folgende Schritte helfen bei der systematischen Vorbereitung:

1. Bestandsaufnahme der genutzten KI-Systeme und ihrer Risikoeinstufung
2. Identifikation der betroffenen Rollen und Verantwortlichkeiten im Unternehmen
3. Planung und Durchführung von Schulungen zu KI-Grundlagen und AI-Act-Compliance
4. Aufbau interner Prozesse für laufende Überwachung und Dokumentation
5. Regelmäßige Überprüfung und Aktualisierung der Kenntnisse

Zertifizierte Weiterbildungen helfen Mitarbeitenden, die Anforderungen des EU AI Act zu verstehen und aktiv zur Umsetzung beizutragen. Für Zertifizierungen im Bereich KI arbeiten wir mit ICO-Cert als anerkanntem Zertifizierungspartner zusammen.

Wie wir Sie bei der Vorbereitung auf den EU AI Act unterstützen

Wir bei mITSM bieten praxisnahe Schulungen und Zertifizierungen, die Ihre Mitarbeitenden fit für die KI-Regulierung machen. Unsere KI-Kompetenz-Schulungen unterstützen Sie dabei konkret:

• Verständnis der Risikoklassen und Anforderungen des EU AI Act
• Aufbau von KI-Kompetenz für Fach- und Führungskräfte in betroffenen Branchen
• Vorbereitung auf anerkannte Zertifizierungen über ICO-Cert
• Flexible Formate: Präsenztraining, Online-Live-Schulung oder Inhouse-Seminar
• Trainer mit echter Praxiserfahrung

Schauen Sie sich unser Schulungsangebot im Bereich KI-Kompetenz an oder lassen Sie sich persönlich beraten, welche Weiterbildung am besten zu Ihrer Situation passt.

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.