Was sind die Anforderungen an KI-Systeme in der Medizin laut EU AI Act?

Künstliche Intelligenz verändert die Medizin rasant: von der Diagnoseunterstützung bis zur automatisierten Auswertung bildgebender Verfahren. Der EU AI Act – der weltweit erste umfassende Rechtsrahmen für KI – soll sicherstellen, dass diese Systeme sicher und vertrauenswürdig bleiben.

Was regelt der EU AI Act für KI-Systeme in der Medizin?

Der EU AI Act legt verbindliche Anforderungen an Entwicklung, Einsatz und Inverkehrbringen von KI-Systemen in der EU fest. Medizinische KI-Anwendungen fallen überwiegend in die Kategorie der Hochrisiko-KI. Das Gesetz verfolgt einen risikobasierten Ansatz: Je höher das potenzielle Risiko für Gesundheit, Sicherheit oder Grundrechte, desto strenger die Anforderungen.

Welche KI-Systeme in der Medizin gelten als Hochrisiko-KI?

Als Hochrisiko-KI gelten medizinische Systeme, die als Sicherheitskomponente eines Medizinprodukts eingesetzt werden oder selbst als Medizinprodukt klassifiziert sind. Konkrete Anwendungsfälle umfassen:

KI-gestützte Auswertung von Röntgen-, MRT- oder CT-Aufnahmen
Algorithmen zur Früherkennung von Krankheiten wie Krebs oder Herzerkrankungen
Systeme zur Vorhersage von Patientenrisiken in der Intensivmedizin
Automatisierte Empfehlungen für Medikamentendosierungen
KI in der Roboterchirurgie oder in medizinischen Assistenzsystemen

Rein administrative KI-Systeme – etwa für Terminplanung oder Abrechnung – fallen nicht unter Hochrisiko, sofern sie keinen direkten Einfluss auf klinische Entscheidungen haben.

Welche konkreten Anforderungen stellt der EU AI Act an medizinische KI?

Hochrisiko-KI-Systeme müssen vor Markteinführung verbindliche Anforderungen erfüllen:

Risikomanagementsystem: Systematische Identifikation, Bewertung und Minimierung von Risiken.
Datenqualität: Trainingsdaten müssen repräsentativ, fehlerfrei und zweckgeeignet sein.
Technische Dokumentation: Vollständige Dokumentation des Systems und seiner Leistungsgrenzen.
Transparenz und Erklärbarkeit: Nutzer müssen Ergebnisse nachvollziehen können.
Menschliche Aufsicht: Medizinisches Personal muss KI-Entscheidungen prüfen, korrigieren oder außer Kraft setzen können.
Genauigkeit und Robustheit: Zuverlässiger Betrieb unter verschiedenen Bedingungen.
Cybersicherheit: Schutz vor unbefugtem Zugriff und Manipulation.

Vor der Markteinführung ist eine Konformitätsbewertung – in vielen Fällen durch eine benannte Stelle – sowie die CE-Kennzeichnung erforderlich.

Wie verhält sich der EU AI Act zur EU-Medizinprodukteverordnung (MDR)?

EU AI Act und MDR gelten parallel: KI-Systeme, die als Medizinprodukt eingestuft sind, müssen beide Regelwerke erfüllen. MDR-konforme Hersteller haben eine gute Grundlage, müssen aber zusätzlich die AI-Act-Anforderungen erfüllen. Unter bestimmten Bedingungen lassen sich beide Konformitätsbewertungen zusammenführen.

Wer ist für die Einhaltung der KI-Anforderungen in der Medizin verantwortlich?

Anbieter (Hersteller): Technische Konformität, Dokumentation, Risikomanagement und Konformitätsbewertung.
Betreiber (z. B. Krankenhäuser): Bestimmungsgemäßer Einsatz, Personalschulung und Meldung schwerwiegender Vorfälle.
Importeure und Händler: Sicherstellung, dass nur konforme Systeme in Verkehr gebracht werden.

Wichtig: Verändert ein Betreiber ein bestehendes KI-System wesentlich oder passt es für einen medizinischen Anwendungsfall an, wird er selbst zum Anbieter im Sinne des AI Act.

Ab wann müssen KI-Systeme in der Medizin den EU AI Act erfüllen?

Der EU AI Act ist am 1. August 2024 in Kraft getreten. Hochrisiko-KI im Gesundheitswesen muss ab dem 2. August 2026 vollständig konform sein; für bereits nach MDR oder IVDR zertifizierte Systeme gilt eine verlängerte Frist bis zum 2. August 2027. Der Umsetzungsaufwand ist erheblich – Unternehmen sollten jetzt mit der Bestandsaufnahme beginnen, Lücken identifizieren und einen Umsetzungsplan entwickeln.

So unterstützen wir Sie beim Thema KI-Regulierung und AI Act

Wir bei mITSM bieten praxisnahe Schulungen und Zertifizierungen, um den AI Act verständlich und umsetzbar zu machen. Unsere Trainings im Bereich KI-Kompetenz und künstliche Intelligenz decken ab:

Grundlagen und Anforderungen des EU AI Act
Risikoklassifizierung von KI-Systemen
Aufbau eines KI-Risikomanagementsystems
Compliance-Strategien für Hochrisiko-KI im Gesundheitswesen
Vorbereitung auf anerkannte KI-Zertifizierungen über ICO-Cert

Unsere zertifizierten Trainer mit Praxiserfahrung vermitteln komplexe Regulierungsthemen anwendbar – flexibel als Präsenz-, Online-Live- oder Inhouse-Seminar. Erfahren Sie mehr über uns oder sprechen Sie uns direkt an.

KI-Wissen