KI in Medizinprodukten

»Die Rahmenbedingungen müssen sich anpassen«

17. Februar 2020, 10:30 Uhr   |  medical design

»Die Rahmenbedingungen müssen sich anpassen«
© Pixabay

Was darf KI und was nicht? Und wer erklärt das den Algorithmen?

Interview | Künstliche Intelligenz ist zwar meist noch grün hinter den Ohren, dennoch braucht auch sie Regeln und Normen. Aber wie schafft man sichere Rahmenbedingungen, ohne den Fortschritt aufzuhalten? Das weiß KI-Experte Dr. Andreas Purde von Tüv Süd.

Auch beim Thema Künstliche Intelligenz (KI) geht Europa seinen ganz eigenen Weg. In Abgrenzung zu China und den USA soll KI nach dem Willen der EU-Kommission nach strengeren ethischen Regeln entwickelt werden. Bis 2020 sollen Unternehmen, Forschungsinstitute und Behörden die Vorgaben testen und ihre Erfahrungen teilen. Konkrete Gesetzesvorschläge sollen dann gegebenenfalls anschließend folgen.

Das ist nur konsequent, schließlich wird auch die EU-Medizinprodukteverordnung (MDR) die Rahmenbedingungen für den KI-Feldeinsatz verschärfen. Aber ist es auch der richtige Weg? Darüber haben wir mit Dr. Andreas Purde, Global Director Functional Safety, Software und Digitization bei der Tüv Süd Product Service GmbH, gesprochen.

medical design: Herr Dr. Purde zum warm werden: Für welche Aufgabenstellungen nutzen Medizintechnikhersteller bereits Künstliche Intelligenz?
Dr. Andreas Purde: Die meisten Anwendungen, die wir hier sehen, sind Algorithmen für die Bildverarbeitung, zum Beispiel, um Strukturen und Muster in MRT-Aufnahmen zu erkennen. Was es natürlich auch schon gibt, sind Künstliche Intelligenzen, die Symptome abfragen und abschätzen, was sinnvollerweise als nächstes zu tun ist oder die schätzen, mit welcher Wahrscheinlichkeit eine bestimmte Krankheit auftreten kann. Speziell im Bereich der Diabetestherapie gibt es beispielsweise auch Anwendungen, die den Verlauf des Blutzuckerspiegels prognostizieren.

In den meisten Fällen reden wir bei Künstlicher Intelligenz von einem Begriff, der – so scheint es – keiner klaren Definition folgt. Was versteckt sich für Sie als Benannte Stelle hinter diesem Begriff?
Die Schwierigkeit hierbei ist, dass sich hinter dem Begriff der Künstlichen Intelligenz natürlich viele verschiedene Technologien verbergen. Das alles zu greifen und in einer Definition abzubilden, ist fast unmöglich. Daher haben wir uns als Tüv Süd darauf verständigt: Alles, was nicht einem deterministischen Algorithmus folgt, ist im weitesten Sinne als KI zu bezeichnen.

Beim Thema KI ist man auch immer schnell beim Thema Ethik. Zu Recht? Braucht KI tatsächlich Ethikleitlinien?
Wir sind zwar mit KI in der Medizintechnik noch nicht in dem Bereich, in dem es kritisch wird. Aber das kann sich natürlich schnell ändern. Daher ist es durchaus sinnvoll, sich heute schon mit dem Thema Ethik auch im Bereich der Künstlichen Intelligenz zu befassen. Sich zu fragen, was darf KI und was darf sie nicht, ist absolut berechtigt. Leitlinien heißt ja nicht, dass ich etwas einschränke, sondern das ich eben einen Rahmen von Möglichkeiten, aber auch Grenzen definiere.

Derzeit gibt es keine Gesetze und harmonisierte Normen, die speziell den Einsatz von KI in Medizinprodukten regulieren. Haben die Hersteller/Unternehmen hier also völlig freie Hand oder welche Anforderungen gelten für die Produkte?
Also völlig freie Hand haben die Unternehmen nicht, einige Grenzen sind auch schon bekannt beziehungsweise durchgesickert. Man lehnt sich dabei stark an dem, was die FDA für sich beschrieben hat. Wir von Tüv Süd haben zudem gemeinsam mit dem Johner Institut einen entsprechenden Leitfaden für KI bei Medizinprodukten erarbeitet.

Die FDA hat im Gegensatz zu den europäischen Gesetzgebern ihre Sichtweise zur Künstlichen Intelligenz auf ihrer Webseite formuliert. Ist die USA nur nicht so streng oder sollten wir uns (Deutschland, Europäische Union) ein Beispiel nehmen?
Das kann man so pauschal nicht beantworten, denn die FDA hat dort etwas ganz anderes beschrieben. Die FDA geht der Frage nach, unter welchen Bedingungen muss ein Unternehmen, wenn es KI einsetzt, nochmal durch ein Zulassungsverfahren. In Europa haben wir ein anderes System, also zum Beispiel die Medizinprodukterichtlinie; ob und wie wir uns an den USA orientieren, wird sich erst in der Zukunft zeigen.

Die MDR ist ein sehr gutes Stichwort! Mit der neuen EU-Verordnung wird es ja zumindest eine Verschärfung der regulatorischen Rahmenbedingungen geben. Welche sind das konkret?
Teilweise! Es mag heute KIs geben, die bereits im Feld sind und noch unter Produktklasse I laufen. Diese Einordnung wird es unter der MDR nur noch ganz selten geben. Das heißt, viele der Hersteller brauchen dann eine Benannte Stelle, um ihr Produkt überhaupt in den Verkehr bringen zu können. Dabei muss auch die technische Dokumentation des Medizinprodukts bewertet werden – in diesem Fall der KI. Sollte eine KI unter der MDR sogar Klasse III sein, müssten von der Benannten Stelle ferner die meisten Änderungen bewertet werden – bei Klasse II ist das seltener der Fall.

Aber es gibt auch Menschen, die das anders sehen. Christoph Lütge von der TU München sagt zum Beispiel, dass die Technik noch viel zu jung für eine Regulierung ist. Wie sehen Sie das als Benannte Stelle?
Es ist richtig, dass sich in diesem Bereich noch vieles verändern wird. Aber wir dürfen auch keinen Wildwuchs erlauben. Es wird unsere Aufgabe sein, die Rahmenbedingungen, die es schon teilweise gibt, den Entwicklungen anzupassen.

In einer Sache hat Lütge natürlich Recht: Die meisten KI-Anwendungen stecken noch in den Kinderschuhen. Aber sie lernen verdammt schnell dazu. Was heißt das auch regulatorischer Sicht?
Das heißt, wir müssen versuchen, auch regulatorisch mit den Fortschritten der KI Schritt zu halten.

Am Ende geht es ja – wie immer – nicht nur um Regularien, sondern auch um Verantwortung. Wer trägt diese, beispielsweise bei einem MRT mit KI? Der MRT-Hersteller oder der KI-Programmierer?
Das kommt drauf an, wer hier wie auftritt. Wenn der KI-Hersteller sein Produkt als solches auf dem Markt hat, ist er in der Pflicht. Hat der MRT-Hersteller die KI sein Gerät integriert und bringt es als Gesamtsystem auf dem Markt, dann ist er gemäß MDR auch dafür verantwortlich.

Das ähnelt stark dem, wie wir mit Software in der Medizintechnik umgehen: Entweder ist die KI ein Medizinprodukt oder sie ist nur Teil eines Medizinproduktes. Könnte das auch zukünftig der Weg sein, wie wir mit KI umgehen?
Es würde zumindest Sinn machen, denn KI kann eigenständig sein, sie kann aber auch nur einfach in ein System integriert sein. Am Ende ist jedoch nur die Bewertung anders, die Anforderungen bleiben für beide Varianten gleich.

Vielen Dank für das Gespräch!

Das Interview führte Melanie Ehrhardt, Redakteurin medical design

Schlagworte:Künstliche Intelligenz, Medizinprodukte, Politik & Recht

Dr. Andreas Purde, KI-Experte bei Tüv Süd
© Tüv Süd

Dr. Andreas Purde: »Leitlinien heißt ja nicht, dass ich etwas einschränke.«

Auf Facebook teilenAuf Twitter teilenAuf Linkedin teilenVia Mail teilen

Das könnte Sie auch interessieren

»Wir brauchen keinen Formalismus, sondern endlich Klarheit«

Verwandte Artikel

TÜV SÜD AG