KI in der Medizin
Definition
Künstliche Intelligenz in der Medizin bezeichnet Verfahren, die aus Daten Muster ableiten und daraus Vorhersagen oder Einschätzungen erzeugen. Eingesetzt wird sie unter anderem in der Bildgebung, bei der Befundunterstützung, in der Dokumentation und bei der Auswertung großer Datenbestände.
Für die rechtliche Einordnung ist entscheidend, wofür ein System bestimmt ist. Software, die Informationen für diagnostische oder therapeutische Entscheidungen liefert, ist ein Medizinprodukt und unterliegt der Medizinprodukteverordnung.
Der zweite prägende Punkt ist die Verantwortung. Die Entscheidung über Diagnose und Behandlung bleibt ärztlich. Ein System kann unterstützen, aber die Verantwortung nicht übernehmen.
Rechtliche Grundlagen
Nach Regel 11 des Anhangs VIII der Medizinprodukteverordnung fällt Software, die Informationen für Entscheidungen zu Diagnose oder Therapie liefert, mindestens in die Risikoklasse IIa, bei schwerwiegenden möglichen Folgen höher.
Damit ist eine Benannte Stelle einzubinden, und es sind technische Dokumentation, klinische Bewertung und Risikomanagement erforderlich.
Ergänzend gilt die europäische Verordnung über künstliche Intelligenz. Systeme, die als Medizinprodukt eingestuft sind und eine Konformitätsbewertung durch eine Benannte Stelle durchlaufen, gelten dort als Hochrisikosysteme mit zusätzlichen Anforderungen.
Diese Anforderungen betreffen unter anderem:
- Qualität und Repräsentativität der Trainings- und Testdaten
- technische Dokumentation und Protokollierung
- Transparenz gegenüber den anwendenden Personen
- menschliche Aufsicht über den Betrieb
- Genauigkeit, Robustheit und Cybersicherheit
Haftungsrechtlich ändert sich der Maßstab nicht. Wer ein System einsetzt, muss dessen Grenzen kennen. Ein Fehler wird nicht dadurch entschuldigt, dass ein System ihn vorgeschlagen hat.
Bedeutung in der Praxis
Verbreitete Einsatzfelder:
- Auswertung von Röntgen-, CT- und MRT-Aufnahmen, etwa zur Markierung auffälliger Bereiche
- Screening in der Augenheilkunde und der Dermatologie
- Auswertung von EKG- und Langzeitmessungen
- Unterstützung der Dokumentation, etwa durch Spracherkennung und automatische Zusammenfassungen
- Prüfung von Arzneimittelwechselwirkungen im Rahmen der Arzneimitteltherapiesicherheit
Ein zentrales Risiko ist der Automation Bias, also die Neigung, einem System stärker zu vertrauen als der eigenen Einschätzung. Er wirkt in beide Richtungen: Ein übersehener Befund wird eher akzeptiert, ein falsch markierter eher bestätigt.
Ebenso bedeutsam ist die Frage der Trainingsdaten. Ein System erkennt zuverlässig das, was in seinen Daten ausreichend vertreten war. Sind bestimmte Gruppen unterrepräsentiert, etwa nach Alter, Geschlecht oder Hauttyp, sinkt die Zuverlässigkeit für sie.
Für die Beschaffung sind deshalb zwei Fragen entscheidend: Woran wurde das System entwickelt und woran validiert, und wie verhält es sich bei der eigenen Patientengruppe. Eine Studie an einer anderen Population ist nur begrenzt übertragbar.
Für die Dokumentation gilt, dass der Einsatz eines unterstützenden Systems und die eigene Bewertung nachvollziehbar bleiben müssen. Aus der Patientenakte sollte hervorgehen, worauf eine Entscheidung beruht.
Gegenüber Patientinnen und Patienten besteht kein allgemeiner Zwang, jeden Einsatz zu offenbaren. Wird eine Entscheidung jedoch wesentlich auf ein System gestützt, gehört das zur Aufklärung.
Abgrenzung und verwandte Begriffe
Ein regelbasiertes System arbeitet nach festen, von Menschen formulierten Regeln. Es ist nachvollziehbarer, aber weniger anpassungsfähig.
Die reine Verwaltungssoftware ohne Bezug zu Diagnose oder Therapie ist kein Medizinprodukt.
Ein allgemeines Sprachmodell ohne Zweckbestimmung als Medizinprodukt darf nicht als Entscheidungsgrundlage für Diagnose oder Therapie eingesetzt werden.
Verwandte Begriffe: MDR, Risikoklassen, klinische Bewertung.
Häufige Fragen (FAQ)
Ist medizinische KI ein Medizinprodukt? Wenn sie Informationen für diagnostische oder therapeutische Entscheidungen liefert, ja. Nach Regel 11 der Medizinprodukteverordnung fällt solche Software mindestens in Klasse IIa, bei schwerwiegenden möglichen Folgen höher.
Wer haftet bei einem Fehler? Die Verantwortung für Diagnose und Behandlung bleibt ärztlich. Ein Fehler wird nicht dadurch entschuldigt, dass ein System ihn vorgeschlagen hat. Wer ein System einsetzt, muss dessen Grenzen kennen.
Was ist Automation Bias? Die Neigung, dem Ergebnis eines Systems stärker zu vertrauen als der eigenen Einschätzung. Er wirkt in beide Richtungen und ist eines der zentralen Risiken beim Einsatz unterstützender Systeme.
Warum sind Trainingsdaten so wichtig? Weil ein System zuverlässig das erkennt, was in seinen Daten ausreichend vertreten war. Sind Gruppen unterrepräsentiert, etwa nach Alter, Geschlecht oder Hauttyp, sinkt die Zuverlässigkeit für diese Gruppen.
Muss ich erfahren, ob KI eingesetzt wurde? Einen allgemeinen Offenbarungszwang für jeden Einsatz gibt es nicht. Wird eine Entscheidung jedoch wesentlich auf ein System gestützt, gehört das zur Aufklärung.