Interview mit Anton Dolgikh

»Nicht alle Tätigkeiten lassen sich automatisieren«

19. Oktober 2018, 16:30 Uhr | Melanie Ehrhardt
Anton Dolgikh: »Das Maximum. das KI tun kann, ist, Diagnosen nach ihrer Wahrscheinlichkeit zu sortieren«
© DataArt

Künstliche Intelligenz ist längst zu einem Synonym geworden – ein Synonym dafür, was der Mensch Maschinen und Algorithmen zutraut. Das weckt Erwartungen und Befürchtungen gleichermaßen– unabhängig davon, wie weit die Forschung tatsächlich ist.

Ersetzt Künstliche Intelligenz bald den Arzt? Nein, sagt Anton Dolgikh, KI-Projektleiter innerhalb der Healthcare and Life-Sciences-Abteilung bei DataArt. Im Interview mit der MEDIZIN+elektronik erklärt er, was Menschen und Maschinen anders machen, wo sie sich gegenseitig unterstützen und wann selbst der intelligenteste Algorithmus an seine Grenzen stößt.

MEDIZIN+elektronik: Der Begriff Künstliche Intelligenz (KI) ist mittlerweile zu einem gängigen Begriff in der Medizin geworden, weckt allerdings oft falsche Erwartungen. Was also verbirgt sich (heute) dahinter?

Anton Dolgikh: Der Begriff KI hat eine lange Geschichte. Anfangs beschrieb er ein Computersystem, das die Intelligenz eines Menschen besitzt. Heute verwenden wir KI unter anderem auch, um Systeme zu beschreiben, die Krankheiten auf die gleiche Weise diagnostizieren können wie Menschen. Noch häufiger bezieht sich dieser Begriff auf Computersysteme, die nicht nur Krankheiten diagnostizieren können, sondern eine breitere Klasse von Aufgaben erfüllen. Beispielsweise bezeichnen Experten ein Modell, das den Aufenthalt eines Patienten in einem Krankenhaus voraussagt, als KI-basiert; oder auch ein Modell, das die Tiefe der Anästhesie nach einem Enzephalogramm auswertet. Eigentlich ist Künstliche Intelligenz ein Oberbegriff, der verschiedene Bereiche wie Machine Learning, Computer Vision, Decision Theory, Robotics umfasst. So stimmt es beispielsweise: Ein System, das eine Lungenentzündung auf dem Röntgenbild erkennen kann, als KI-System zu bezeichnen. Aber trotz der vielen Artikel, die lautstark über die großen Erfolge der KI berichten, gibt es auch eine Menge Kritik.

Können Sie das konkretisieren? Wo stehen wir?

All die Probleme, die KI heute löst, werden auf ausgefeilte Mustererkennung und letztlich auf Kurvenanpassung reduziert, das Potenzial scheint noch lange nicht ausgeschöpft. Statistiker und Machine-Learning-Experte Michael Jordan sieht es ähnlich: »Gegenwärtig legt die KI-Forschung den Fokus auf das Sammeln von Daten, den Einsatz von Deep-Learning-Infrastrukturen und die Demonstration von Systemen, die bestimmte eng definierte menschliche Fähigkeiten nachahmen – mit wenig aufkeimenden Erklärungsprinzipien«. Das lenkt die Aufmerksamkeit weg von den ungelösten Problemen der klassischen KI. Dazu gehört auch die Notwendigkeit, Sprachsystemen Bedeutung und Argumentation beizubringen; die Notwendigkeit, Kausalität abzuleiten und darzustellen; die Notwendigkeit, rechnerisch tragfähige Darstellungen von Unsicherheit zu entwickeln und weiterhin die Notwendigkeit, Systeme langfristige Ziele formulieren und verfolgen zu lassen. Das sind klassische Ziele in der menschlich-imitativen KI, aber im aktuellen Trubel über die KI-Revolution gerät schnell in Vergessenheit, dass sie noch nicht gelöst sind.

Wenn diese Probleme gelöst sind, wo wird sich KI durchsetzen?

In naher Zukunft beobachten wir die zunehmende Verbreitung der KI-basierten Systeme in Krankenhäusern und im Gesundheitswesen insgesamt. Zwei Dinge beschleunigen diesen Trend: zum einen die Entwicklung mathematischer Methoden, die die Genauigkeit KI-basierter medizinischer Lösungen erhöhen, zum anderen die Zulassung bestimmter Behörden wie der FDA. In vielen grundlegenden medizinischen Bereichen wie der Arzneimittel-Entwicklung und -Diagnose kommt Künstliche Intelligenz bereits aktiv zum Einsatz, und oft übertrifft die Genauigkeit, mit der KI medizinische Scans erfasst, das Können des Radiologen.

Trotz der Kritik und der Probleme kommt KI schon heute zum Einsatz…

… In der Diagnostik wird die KI sowohl in Diagnosemodulen eines CDSS (Clinical Decision Support System) als auch bei Symptom-Checkern eingesetzt. Symptom-Checker ersetzen die Google-Suche, die Menschen zur Klärung ihrer eigenen Symptome heranziehen und meist das Gegenteil hervorruft: nämlich Verwirrung und Beunruhigung. Experten nutzen Künstliche Intelligenz für die Verarbeitung verschiedener Scans (computertomographische und Röntgenscans, Scans zu Erkennung von Lungenentzündung oder Krebs).

In der Behandlung kam KI bereits in den siebziger Jahren beim Clinical Deci­sion Support System MYCIN zum Einsatz. MYCIN schlug eine optimale Behandlung von Bakteriämie vor. Seitdem hat sich die Entscheidungslogik von der regelbasierten Logik in MYCIN zu einer probabilistischen in modernen Systemen gewandelt.

In der Pflege hilft KI beispielsweise beim Erkennen früher Anzeichen eines unerwünschten Ereignisses. Sie kann das Risiko solcher Ereignisse vorhersagen und optimale Intervention vorschlagen.

Nicht unerwähnt lassen möchte ich die Vorhersage des Krankenhausaufenthaltes, die Entwicklung sowie Neupositionierung neuer Medikamente, Anwendungen im Bereich Genetik. Das Spektrum ist groß, doch existieren manche der gelösten Pro­blemstellungen bislang nur in Form wissenschaftlicher Publikationen und schafften es noch nicht bis ins Krankenhaus.

Und außerhalb des Krankenhauses?

Auch Telemedizin entfaltet sich. Ihre Popularität verdankt sie der Fähigkeit, erheblich Zeit einzusparen, da der Weg zum Arzt sowie das Ausharren im Wartezimmer entfallen. Sehr oft wird ein Arztbesuch aus Zeitmangel sogar auf unbestimmte Zeit verschoben, was im schlimmsten Fall zur Chronifizierung einer Erkrankung führen kann. Die Behandlung chronischer Krankheiten wiederum stellt nicht nur für die Patienten und Gesundheitseinrichtungen, sondern auch für das Versicherungssystem eine große wirtschaftliche Belastung dar.

Die Verbesserung mobiler Gesundheitsüberwachungssysteme schließlich ver­ringert auf lange Sicht die Zahl der Fälle, in denen eine Krankheit entweder ins akute Stadium übergeht oder tatsächlich fortschreitet. Ein einfaches Smartphone powered by KI macht es zum Beispiel möglich, die frühen Symptome der Alzheimer-Krankheit nur durch tägliche Stimm-Analyse zu erkennen. Eine solche Analyse erfordert keine zusätzlichen Aktionen vom Smartphone-Nutzer und läuft im Hintergrund. Systeme dieser Art sind in Zukunft allgegenwärtig.

Trotz der vielen Potenziale steckt die Technik noch in den Kinderschuhen. Was bremst den Fortschritt aus?

KI steckt an sich nicht mehr in den Kinderschuhen. Im letzten halben Jahrhundert legte sie einen langen Weg zurück und brachte neue wissenschaftliche Gebiete wie die Kognitionswissenschaft hervor. Am aktivsten entfalten sich praktische Anwendungen, während grundlegende Fragen der KI-Theorie eher unberücksichtigt bleiben. So durchdringen KI-basierte Lösungen Krankenhäuser nur sehr langsam. Der Grund dafür ist denkbar einfach: Das Gesundheitswesen befasst sich mit der menschlichen Gesundheit und letztlich dem menschlichen Leben. Im Falle eines Schadens durch Anwendung einer KI-basierten Lösung riskieren Krankenhäuser eine erhebliche Geldstrafe. Ja, wir sind noch weit davon entfernt, menschenähnliche Roboter zu schaffen – aber wir sollten den bedeutenden Fortschritt auf diesem Weg anerkennen.  

Wo wir gerade beim Thema sind: Statistiken besagen, dass allein in den USA medizinisches Versagen die dritthäufigste Todesursache nach Herzkrankheiten und Krebs ist. Wie kann KI hier helfen und was macht sie besser als der Mensch?

Unerwünschte Konsequenzen aufgrund von Wechselwirkungen oder falscher Dosierung können zum Tod des Patienten führen. Daher hilft die Einführung des CDSS mit einem Wirkungs-Dosierungs- und einem Medikamenten-Wechselwirkungsmodul.

Auch eine falsche Diagnose kann Grund für einen Todesfall im Krankenhaus sein. Die Wahrscheinlichkeit einer Fehldiagnose steigt mit zunehmender Arbeitsbelastung der Ärzte. Zunehmende Arbeitsbelastung verschlechtert die Aufmerksamkeit des Arztes und reduziert seine Argumentationsfähigkeiten. Klar ist, dass die KI keine solchen Schwächen hat. Es konnte bereits gezeigt werden, dass der Einsatz von Symptom-Checkern die Treffsicherheit von Ärzten erhöht.

Was die KI besser macht als der Mensch? In jedem Fall eine komplexe Mustererkennung. Dies macht sich besonders in Bereichen wie der Bildverarbeitung bemerkbar, zum Beispiel bei der Suche nach Krebszellen auf CT-Scans oder beim Herauskristallisieren verborgener Gesetzmäßigkeiten in komplexen Signalen. Hier dient die Analyse von Enzephalogrammen oder Kardiogrammen als Beispiel. Auch bei Klassifikationsaufgaben mit einer Vielzahl von Merkmalen, Klassifizierung von medizinischen Artikeln oder Vorhersage der Verweildauer in einem Krankenhaus unterstützt die KI bei der Mustererkennung.

Gibt es noch andere Eigenschaften, die die KI dem Menschen voraus hat beziehungsweise Aufgaben, bei denen sie überlegen ist?

Ich möchte der KI nicht die Eigenschaften eines Menschen zusprechen. Es liegt auf der Hand, dass sie natürliche Personen in jenen Aufgaben übertrifft, die die Verarbeitung großer Informationsmengen erfordern. Bei der Suche nach verborgenen Mustern unter diesen Informationen sticht sie jeden Menschen aus. Die Liste reicht hier von automatischer Verarbeitung von Kardiogrammen und medizinischen Bildern bis hin zur Suche nach vielversprechenden Molekülen für neue Medikamente. Auch wird die KI nie müde. Die Aufmerksamkeit eines menschlichen Radiologen wetzt sich im Laufe der Schicht ab. Am Ende des Tages ist er wesentlich anfälliger für Fehler als beim Start. Bei der KI ist das nicht der Fall, die Genauigkeit eines künstlichen Radiologen bleibt vom ersten Tag bis zum Ende der Zeit immer gleich.

Müssen sich Ärzte vor KI also fürchten?

Manche speziellen Tätigkeiten können so weit automatisiert werden, dass die Rolle des Arztes reduziert wird. So erkennt die KI heute schon Krankheitsbilder auf Röntgenaufnahmen genauer als Pathologen. Die diagnostischen Möglichkeiten der KI erlauben es uns jedoch nicht, eine genaue Bestimmung für die gegebenen Symptome zu nennen. Das Maximum, das KI tun kann, ist, Diagnosen nach ihrer Wahrscheinlichkeit zu sortieren. Das streift den Argumentationsprozess eines Arztes, kommt aber nicht an ihn heran. Wenn eine KI Masern diagnostiziert, bedeutet das nicht, dass sie sich bei der Diagnose zu 100 % sicher ist. Vielmehr bedeutet es, dass bei den aktuellen Symptomen die Wahrscheinlichkeit von Masern bei 90 % liegt. Das genügt, um einem Arzt zu helfen, Fehldiagnosen auszuschließen. Die diagnostische Genauigkeit der modernen Modelle kann im besten Fall derjenigen von Ärzten nahe kommen. In ganz seltenen Fällen übertrifft die KI einen Arzt bei der Diagnosestellung, aber das stellt bei weitem nicht die Regel dar.

In einer Studie stellten die Autoren Frey und Osborne eine Methode vor, die das Risiko, dass ein Beruf von KI-basierten Werkzeugen überholt wird, abschätzen kann. Im Moment sind wir weit davon entfernt, Ärzte oder Chirurgen durch künst­liche Konkurrenten zu ersetzen. Ich möchte diese Frage mit einem Zitat von Warner V. Slack, Professor für Medizin an der Harvard Medical School, beenden: »Jeder Arzt, der durch einen Computer ersetzt werden könnte, sollte es werden.« 

Dann andersrum gefragt: Welche Stärken des Menschen fehlen denn der KI?

Das erste, was mir in den Sinn kommt, ist der freie Wille. Eine solche Antwort würde jedoch erfordern, dass ich definiere, was freier Wille ist. Das sprengt den Rahmen des Interviews. Lieber gebe ich das Wort an Judea Pearl (Anm. d. Red.: US-amerikanischer Informatiker und Preisträger des Turing Awards), der im Quanta Magazin sagt, »dass Maschinen nicht über Interventionen und Introspektion reden können«. Das gehört zu den Dingen, die Menschen können und Künstliche Intelligenz nicht. Noch nicht. Pearl entwickelt allerdings tatsächlich gerade an dem mathematischen Formalismus, den die Beantwortung solcher Fragen erfordert. Nennen wir das Fantasie? Zum Teil, ja. Aber auch eine genaue Definition von Fantasie wage ich hier nicht zu geben.

Wird sich das noch ändern?

Die Zukunft vorauszusagen, ist eine knifflige Angelegenheit. Machen Sie eine falsche Vorhersage, wird sie Ihnen später definitiv vorgehalten. Deshalb ziehe ich es vor, noch einmal Judea Pearl zu zitieren, einen der Begründer des probabilistischen Ansatzes für Ursache, Wirkung und Argumentation: »Wir werden Roboter mit freiem Willen haben. Wir müssen verstehen, wie man sie programmiert und was wir daraus gewinnen können. Aus irgendeinem Grund hat die Evolution dieses Gefühl des freien Willens als rechnerisch wünschenswert empfunden.«

Zum Abschluss: Künstliche Intelligenz ist eine der Schlüsseltechnologien, wenn es darum geht, die Medizin der Zukunft mitzugestalten. Wie sieht diese dank KI Ihrer Meinung nach aus?

KI greift den Menschen unter die Arme, wenn es darum geht, die riesige Datenflut zu beherrschen, zu analysieren und nach versteckten Beziehungen zu suchen. Manche Wissenschaftler vermuten, damit das Leben verlängern zu können. Ein Alter von 150 Jahren betrachten einige als durchaus möglich! Aber ob 100 oder 150 – die zusätzlichen Jahre erleben wir in Zukunft weniger gebeutelt von Krankheiten. KI hilft uns, die Medizin verfügbarer, treffender und personalisierter zu machen.

Vielen Dank für das Gespräch!

Dieser Beitrag stammt aus der Medizin+elektronik Nr. 5 vom 10.09.2018. Hier geht’s zur vollständigen Ausgabe.

 


Das könnte Sie auch interessieren

Jetzt kostenfreie Newsletter bestellen!

Weitere Artikel zu DataArt München