Was müssen Nutzer von KI-Systemen im Unternehmen wissen?

Künstliche Intelligenz gehört in vielen Unternehmen bereits zum Arbeitsalltag – als Chatbot, Analyse-Tool oder automatisiertes Entscheidungssystem. Seit dem EU AI Act gelten in Europa verbindliche Regeln – nicht nur für Entwickler und Anbieter, sondern auch für Unternehmen und ihre Beschäftigten.

Was sind KI-Systeme im Sinne des EU AI Act?

KI-Systeme im Sinne des EU AI Act sind Softwaresysteme, die auf Basis von Daten trainiert werden und Ausgaben wie Vorhersagen, Empfehlungen oder Entscheidungen erzeugen, die reale Auswirkungen auf Menschen oder Prozesse haben können. Der EU AI Act klassifiziert diese Systeme nach Risikoklassen: von minimalem bis zu inakzeptablem Risiko.

Hochrisiko-KI-Systeme – etwa bei Personalauswahl, Kreditvergabe oder medizinischer Diagnose – unterliegen besonders strengen Anforderungen. Ein Spam-Filter gilt als risikoarm, ein automatisiertes Bewerbungsmanagementsystem dagegen als Hochrisiko-System. Unwissenheit schützt nicht vor Verantwortung.

Welche Pflichten haben Mitarbeiter beim Einsatz von KI-Systemen?

Mitarbeiter, die KI-Systeme nutzen, tragen Mitverantwortung für deren korrekten Einsatz. Sie müssen die Zweckbestimmung kennen, das System nur für vorgesehene Anwendungsfälle nutzen und Fehlfunktionen melden. Konkret bedeutet das:

• KI-Systeme nur für den vorgesehenen Zweck verwenden
• Ausgaben kritisch prüfen und nicht blind übernehmen
• Ungewöhnliche oder fehlerhafte Ergebnisse melden
• Datenschutzregeln beim Eingeben von Informationen einhalten
• Interne Richtlinien zum KI-Einsatz kennen und befolgen

Besonders unterschätzt wird die Nutzung öffentlicher KI-Tools wie ChatGPT für berufliche Aufgaben: Dabei können vertrauliche Unternehmensdaten nach außen gelangen – ein Datenschutzproblem mit möglichen rechtlichen Konsequenzen.

Was bedeutet KI-Kompetenz für Beschäftigte im Unternehmen?

KI-Kompetenz bedeutet, KI-Systeme zu verstehen, sicher zu bedienen und ihre Ergebnisse kritisch einzuordnen – nicht Algorithmen zu programmieren. Der EU AI Act schreibt vor, dass Unternehmen ausreichende KI-Kompetenz ihrer Mitarbeiter sicherstellen müssen. Diese AI Literacy umfasst:

• Technisches Grundverständnis: Wie funktioniert das eingesetzte System?
• Kritisches Denken: Wann ist einer KI-Ausgabe zu vertrauen, wann nicht?
• Rechtliches Bewusstsein: Welche Regeln gelten für den Einsatz?
• Ethische Sensibilität: Welche Auswirkungen hat das System auf Menschen?

Da sich KI-Technologien schnell weiterentwickeln, ist KI-Kompetenz kein einmaliges Schulungsziel, sondern ein fortlaufender Lernprozess. Eine gezielte KI-Kompetenz-Schulung hilft, diesen Anforderungen systematisch gerecht zu werden.

Welche Risiken entstehen durch unkontrollierten KI-Einsatz?

Sensible Kunden- oder Unternehmensdaten in externe KI-Systeme einzugeben kann gegen die DSGVO verstoßen und zu empfindlichen Bußgeldern führen. KI-Systeme können falsch liegen, diskriminieren oder auf veralteten Daten basieren – besonders heikel bei Personalentscheidungen, Kreditvergabe oder medizinischen Empfehlungen. Der EU AI Act sieht bei Verstößen Bußgelder vor, die sich am Jahresumsatz orientieren.

Wie bereiten Unternehmen ihre Mitarbeiter auf KI-Systeme vor?

Der EU AI Act verpflichtet Unternehmen – besonders beim Einsatz von Hochrisiko-KI – zur gezielten Vorbereitung ihrer Mitarbeiter durch klare Richtlinien und Schulungen. Ein strukturierter Ansatz umfasst:

1. Bestandsaufnahme: Welche KI-Systeme werden bereits genutzt?
2. Risikobewertung: In welche Risikoklassen fallen diese Systeme?
3. Richtlinien entwickeln: Klare Regeln für erlaubte und nicht erlaubte KI-Nutzung
4. Schulungen durchführen: Mitarbeiter auf allen Ebenen schulen
5. Regelmäßige Updates: Schulungen und Richtlinien kontinuierlich anpassen

Wer ist im Unternehmen für den sicheren KI-Einsatz verantwortlich?

Die Verantwortung liegt auf mehreren Ebenen: Die Unternehmensführung trägt die Gesamtverantwortung, IT und Compliance setzen die Rahmenbedingungen um, und jeder Mitarbeiter ist im eigenen Arbeitsbereich zuständig. In größeren Unternehmen empfiehlt sich ein dedizierter KI-Beauftragter oder AI Officer, der den EU AI Act koordiniert und den Wissensstand der Belegschaft sicherstellt.

Wie wir Sie bei der KI-Kompetenz im Unternehmen unterstützen

Wir bei mITSM unterstützen Sie dabei, die Anforderungen des EU AI Act praxisnah umzusetzen. Unsere Schulungen zur KI-Kompetenz richten sich an Beschäftigte aller Ebenen und vermitteln das nötige Wissen für einen sicheren und regelkonformen KI-Einsatz:

• Grundlagen und Risikoklassen nach EU AI Act
• Pflichten und Verantwortlichkeiten für KI-Nutzer im Unternehmen
• Praktischer Umgang mit KI-Tools im Arbeitsalltag
• Datenschutz und Compliance beim KI-Einsatz
• Aufbau interner KI-Governance-Strukturen

Unsere Trainings sind flexibel als Präsenztraining, Online-Live-Schulung oder Inhouse-Seminar buchbar und werden von zertifizierten Experten durchgeführt. Sprechen Sie uns an und finden Sie heraus, welches Format am besten zu Ihrem Unternehmen passt.

18.06.2026