Was müssen Nutzer von KI-Systemen im Unternehmen wissen?

Künstliche Intelligenz ist in vielen Unternehmen bereits Teil des Arbeitsalltags – als Chatbot, Analysetool oder automatisiertes Entscheidungssystem. Seit dem Inkrafttreten des EU AI Act gelten in ganz Europa verbindliche Regeln – nicht nur für Entwickler und Anbieter, sondern auch für Unternehmen und ihre Mitarbeitenden.

Was sind KI-Systeme im Sinne des EU AI Act?

KI-Systeme im Sinne des EU AI Act sind Softwaresysteme, die auf Basis von Daten trainiert werden und Ausgaben wie Prognosen, Empfehlungen oder Entscheidungen erzeugen, die reale Auswirkungen auf Menschen oder Prozesse haben können. Der EU AI Act klassifiziert diese Systeme nach Risikokategorien: von minimalem bis hin zu unannehmbarem Risiko.

Hochrisiko-KI-Systeme – etwa in der Personalauswahl, Kreditbewertung oder medizinischen Diagnose – unterliegen besonders strengen Anforderungen. Ein Spamfilter gilt als risikoarm, während ein automatisiertes Bewerbermanagementsystem als Hochrisikosystem eingestuft wird. Unwissenheit schützt nicht vor Haftung.

Welche Pflichten haben Mitarbeitende beim Einsatz von KI-Systemen?

Mitarbeitende, die KI-Systeme nutzen, tragen Mitverantwortung für deren korrekten Einsatz. Du musst den bestimmungsgemäßen Zweck kennen, das System nur für die vorgesehenen Anwendungsfälle nutzen und Fehlfunktionen melden. In der Praxis bedeutet das:

• KI-Systeme nur für ihren vorgesehenen Zweck verwenden
• Ergebnisse kritisch prüfen, statt sie blind zu übernehmen
• Ungewöhnliche oder fehlerhafte Ergebnisse melden
• Datenschutzregeln bei der Eingabe von Informationen einhalten
• Interne Richtlinien zur KI-Nutzung kennen und befolgen

Ein besonders unterschätztes Risiko ist die Nutzung öffentlicher KI-Tools wie ChatGPT für berufliche Aufgaben: Vertrauliche Unternehmensdaten können nach außen gelangen – ein datenschutzrechtliches Problem mit möglichen rechtlichen Konsequenzen.

Was bedeutet KI-Kompetenz für Mitarbeitende in einem Unternehmen?

KI-Kompetenz bedeutet, KI-Systeme zu verstehen, sie sicher zu bedienen und ihre Ergebnisse kritisch zu bewerten – nicht, Algorithmen zu programmieren. Der EU AI Act verpflichtet Unternehmen dazu, eine angemessene KI-Kompetenz bei ihren Mitarbeitenden sicherzustellen. Diese KI-Kompetenz umfasst:

• Grundlegendes technisches Verständnis: Wie funktioniert das eingesetzte System eigentlich?
• Kritisches Denken: Wann solltest du einem KI-Ergebnis vertrauen – und wann nicht?
• Rechtliches Bewusstsein: Welche Regeln gelten für die Nutzung?
• Ethische Sensibilität: Welche Auswirkungen hat das System auf Menschen?

Da sich KI-Technologien rasant weiterentwickeln, ist KI-Kompetenz kein einmaliges Trainingsziel, sondern ein fortlaufender Lernprozess. Eine gezielte KI-Kompetenz-Schulung hilft dabei, diese Anforderungen systematisch zu erfüllen.

Welche Risiken entstehen durch unkontrollierten KI-Einsatz?

Die Eingabe sensibler Kunden- oder Unternehmensdaten in externe KI-Systeme kann gegen die DSGVO verstoßen und zu erheblichen Bußgeldern führen. KI-Systeme können falsch liegen, diskriminieren oder auf veralteten Daten basieren – besonders kritisch bei Personalentscheidungen, Kreditbewertungen oder medizinischen Empfehlungen. Der EU AI Act sieht bei Verstößen Bußgelder vor, die auf Basis des Jahresumsatzes berechnet werden.

Wie bereiten Unternehmen ihre Mitarbeitenden auf KI-Systeme vor?

Der EU AI Act verpflichtet Unternehmen – insbesondere beim Einsatz von Hochrisiko-KI – dazu, ihre Mitarbeitenden durch klare Richtlinien und Schulungen vorzubereiten. Ein strukturiertes Vorgehen umfasst:

1. Bestandsaufnahme: Welche KI-Systeme sind bereits im Einsatz?
2. Risikobewertung: Welchen Risikokategorien sind diese Systeme zuzuordnen?
3. Richtlinien entwickeln: Klare Regeln für erlaubte und unerlaubte KI-Nutzung
4. Schulungen durchführen: Mitarbeitende auf allen Ebenen schulen
5. Regelmäßige Aktualisierungen: Schulungen und Richtlinien kontinuierlich anpassen

Wer im Unternehmen ist für den sicheren KI-Einsatz verantwortlich?

Die Verantwortung liegt auf mehreren Ebenen: Die Geschäftsführung trägt die Gesamtverantwortung, IT und Compliance setzen die Rahmenbedingungen um, und jede Mitarbeiterin und jeder Mitarbeiter ist im eigenen Arbeitsbereich rechenschaftspflichtig. In größeren Unternehmen empfiehlt sich eine dedizierte KI-Beauftragte oder ein dedizierter KI-Beauftragter, um den EU AI Act zu koordinieren und den Wissensstand der Belegschaft sicherzustellen.

Wie wir dich beim Aufbau von KI-Kompetenz in deinem Unternehmen unterstützen

Wir bei mITSM unterstützen dich dabei, die Anforderungen des EU AI Act praxisnah umzusetzen. Unsere KI-Kompetenz-Schulungen richten sich an Mitarbeitende auf allen Ebenen und vermitteln das Wissen, das für einen sicheren und regelkonformen KI-Einsatz erforderlich ist:

• Grundlagen und Risikokategorien gemäß EU AI Act
• Pflichten und Verantwortlichkeiten für KI-Nutzende im Unternehmen
• Praktischer Umgang mit KI-Tools im Arbeitsalltag
• Datenschutz und Compliance beim KI-Einsatz
• Aufbau interner KI-Governance-Strukturen

Unsere Schulungen sind flexibel als Präsenztraining, Online-Live-Session oder Inhouse-Seminar verfügbar und werden von zertifizierten Expertinnen und Experten durchgeführt. Nimm Kontakt mit uns auf und finde heraus, welches Format am besten zu deinem Unternehmen passt.

Dieser Inhalt wurde mithilfe von KI erstellt und kann Fehler enthalten.