Künstliche Intelligenz in der Medizin: Zwei Experten diskutieren über Chancen und Risiken

Thomas Jack: KI lässt sich überall sinnvoll einsetzen, wo sich regelmäßig Abläufe wiederholen und wo wir immer wieder große Datenmengen oder neue Fakten beurteilen müssen. Momentan sprechen wir von Systemen, die ein bestimmtes Problem lösen können. In der intensivmedizinischen Arbeit verfügen wir beispielsweise über viele Daten. Das können Vitalwerte sein wie die Verläufe von Herzfrequenzen oder Laborwerten, die wir in einer hohen Frequenz erheben. Dieses Fachgebiet ist sehr fordernd, weil wir ständig evaluieren müssen, ob das, was wir tun, richtig ist und zum Behandlungserfolg führt. Da kann die KI-Analyse dieser Daten sehr hilfreich sein. Genauso wie Alarmsysteme, die aus dem Zusammenspiel verschiedener Faktoren rechtzeitig erkennen, wenn sich der Zustand einer Patientin oder eines Patienten verschlechtert – und dann gegebenenfalls selbst bestimmte Parameter verändern. 

Bert Heinrichs: Zur Veranschaulichung führe ich ein einfacheres Beispiel an: Bildanalysen sind etwas, was KI sehr gut kann, das kennen wir von unseren Smartphones. Ähnliche Algorithmen lassen sich nutzen, um unter anderem Befunde für MRT-Bilder zu erstellen. Die Medizin greift auf diese Technik schon seit Längerem bei der Analyse von Hautkrebsbildern zurück. Eine Kamera nimmt ein Bild von einer veränderten Hautstelle auf, und ein entsprechend gut trainiertes KI-System ordnet den Befund dann schnell und verlässlich ein. 

Thomas Jack: Das ist wie mit allen neuen Technologien: Sie birgt Chancen und Risiken. Wir müssen die Anwendung von KI so gestalten, dass wir mögliche Gefahren berücksichtigen, ohne uns von vorneherein die Chancen zu verbauen. Gerade in den wissenschaftlichen Anwendungen der Datenanalysen müssen wir aufpassen, dass bestimmte Gruppen nicht durch einseitige Trainingsmodelle benachteiligt werden. Außerdem ist es wichtig zu wissen und zu erklären, wie die Maschine zu ihren Ergebnissen kommt, ansonsten führen KIgesteuerte Verfahren eher zu Verunsicherung als zu Vertrauen 
 

Bert Heinrichs: Für die von Ihnen angesprochenen Verzerrungen ist die Hautkrebsanalyse ein gutes Beispiel, weil die KI überwiegend auf Trainingsdaten hellhäutiger Menschen zurückgegriffen hat. Darum hat das System bei weißen Patientinnen und Patienten sehr viel genauere Ergebnisse erzielt als bei People of Color. Was wir uns insbesondere bei der Bildanalyse immer wieder vor Augen führen müssen, ist, dass diese Algorithmen nicht verstehen, was sie tun. Sie diagnostizieren keinen Hautkrebs oder andere Krankheiten. Die Systeme analysieren Pixel. Darum darf die Automatisierung nicht zu weit getrieben werden. Darüber hinaus besteht die Gefahr, dass die Kompetenz der Ärztinnen und Ärzte perspektivisch darunter leiden könnte, wenn zu viele Entscheidungskompetenzen an Algorithmen ausgelagert werden. Es muss sichergestellt sein, dass der Mensch weiterhin in der Lage ist, die Kontrolle zu behalten. 

Bert Heinrichs: Unterstützungen, wie wir sie teilweise jetzt schon anwenden, werden künftig bei der Erstellung von Diagnosen und bei Therapie-Entscheidungen noch häufiger zum Einsatz kommen. Wie die meisten technischen Innovationen wird das zu Effizienzsteigerungen führen. Damit ist die Hoffnung verbunden, dass wieder mehr Zeit für die Kommunikation zwischen medizinischem Fachpersonal und den Patientinnen und Patienten bleibt. Ob das Szenario eintritt, müssen wir abwarten. Außerdem wird KI die Medizin auch bei der Organisation von Alltagsabläufen verändern, zum Beispiel dann, wenn ein Smartphone ein Arztgespräch aufzeichnet und ein Programm direkt daraus einen Patientenbrief generiert.

Thomas Jack: Ein Kernpunkt ärztlichen und pflegerischen Handelns ist und bleibt der direkte Kontakt zu Patientinnen und Patienten. Das wird immer unabdingbar notwendig sein, wenn wir gute Medizin machen wollen. Darum müssen wir darauf achten, dass sich technologischer Fortschritt und menschlicher Austausch nicht gegenseitig ausschließen. Ähnliche Tools wie das von Ihnen erwähnte gibt es auch in der Notfallmedizin für die Interaktion im Schockraum. In diesem Fall ergeben sich aus den aufgezeichneten Mitschnitten Hinweise darauf, welche Probleme eine in Behandlung befindliche Person noch entwickeln könnte. 

Thomas Jack: Wir können nicht abstreiten, dass wir in der Medizin eine enorme Verdichtung der Arbeit bei gleichzeitiger Verknappung des Personals haben. Da kann diese Abnahme von bestimmten Tätigkeiten, die eine Maschine mindestens genauso gut ausführt, schon für Entlastung sorgen – auch im Pflegealltag. Da sehe ich große Chancen, dem Personal wieder mehr Freiraum zu verschaffen. Und wenn es gelingt, das transparent zu kommunizieren, wird die Akzeptanz groß sein. 
 

Bert Heinrichs: Das haben wir eben schon diskutiert: Wenn neue Technologien eingeführt werden, ist das immer ambivalent. Natürlich gibt es auch Nachteile. Es können Fehler passieren. Es kann zu einer Vertiefung von Ungerechtigkeiten im Gesundheitssystem kommen, wenn vielleicht nur noch Wohlhabende Zugang zu bestimmten medizinischen Leistungen haben. Wir wünschen uns, dass es mehr Zeit für emotionale Zuwendung, für Empathie gibt. Aber es kann natürlich auch sein, dass die Ausgestaltung über die Nutzung der Technik noch mehr Zeit in Anspruch nimmt. Das sind keine gewichtigen Argumente dagegen. Aber es sind Fakten, die wir bedenken müssen. 
 

Thomas Jack: Ich setze große Hoffnungen in KI-Anwendungen. Sie können für unabwendbare Probleme im Gesundheitswesen – und die haben viel damit zu tun, dass wir nicht ausreichend viele Menschen für alle Aufgaben haben – eine echte Hilfe sein. Wir müssen immer komplexere Entscheidungen treffen, weil wir immer mehr Diagnostik und immer mehr Anwendungen integrieren, um zu diesen Entscheidungen zu kommen. Darum brauchen wir in Zukunft Methoden, die uns im Handling dieser unterschiedlichen Punkte unterstützen. Wenn wir das mit viel Vorsicht und Transparenz den Menschen näherbringen, wird die medizinische Versorgung dadurch besser. Sowohl in der Behandlung als auch in der Vorsorge. 

Bert Heinrichs: Letztlich ist KI nur ein Werkzeug. Sie wird uns weder ins gelobte Land führen noch in den Untergang stürzen. Anwendungen, in denen KI vorkommt, halten große Potenziale bereit und können die Medizin besser machen, da stimmte ich Ihnen zu. Letztlich ist ein Werkzeug aber immer nur so gut wie diejenigen, die es benutzen. Manchmal ist in der Debatte über KI zu viel Dystopie oder Utopie, und beides scheint mir falsch zu sein. Es kommt auf die vernünftige Implementierung an. 

Vielen Dank für das Gespräch.

Interview: Anne-Katrin Wehrmann 

Bilder: Thomas Jack; Forschungszentrum Jülich, FUSE-AI GmbH