„Ethische Probleme entstehen auch durch Verzicht auf den Einsatz“ – Teil 2

In der Diagnostik haben sich KIs bereits bewiesen. In kurzer Zeit können sie mit großer Treffsicherheit Bilder danach kategorisieren, ob sie krankhafte Veränderungen zeigen oder nicht. (Interview zu KI in der Radiologie, Anm.). Anders verhielt es sich bisher beim zeitlichen Verlauf von Veränderungen und anderen Modalitäten. Doch auch diese Hürde scheint genommen, geht es nach Forschern der TU Wien. Diese stellten die Sepsis, eine der häufigsten Todesursachen auf der Intensivstation, ins Zentrum ihrer Untersuchung. Mit einem großen Datensatz aus Intensivstationen unterschiedlicher Krankenhäuser wurde eine Künstliche Intelligenz entwickelt, die Vorschläge für die Behandlung von Menschen liefert, die wegen einer Sepsis intensivmedizinische Betreuung brauchen. Den Analysen der Forscher zufolge übertrifft die Künstliche Intelligenz die Qualität menschlicher Entscheidungen bereits. 

medinlive: Was hat den Einsatz der Technologie bzw. die Anwendung Krankheitsverläufe zu analysieren möglich gemacht?

Heizinger: Es sind drei Faktoren, die heutzutage zusammenwirken. Erstens haben wir erst jetzt Datensätze in ausreichender Größe und Qualität zur Verfügung. Zweitens sind die Berechnungen sehr aufwändig, wobei sie in vielen Fällen erst durch GPUs (Grafikprozessoren, Anm.) praktisch möglich gemacht wurden. Drittens passieren ständig algorithmische Weiterentwicklungen und Verbesserungen, die überhaupt die Voraussetzungen für KI-Modelle dieser Art darstellen.

medinlive: Gab es eine Änderung in der Verfügbarmachung von Diagnosedaten? Wie steht es um den Datenschutz? Können diese Daten auch anderen Wissenschaftern zur Verfügung gestellt werden?

Heizinger: Was den Datenschutz betrifft, bekommen wir ohnehin nur bestmöglich anonymisierte Daten. Datenschutz ist wichtig, gerade in der Medizin, und weil es ein wichtiges Problem ist, kann man es für Studien dieser Art als gelöst ansehen. Es gibt keine Möglichkeit, die Daten, die wir bekommen, auf einzelne Patient:innen zurückzuverfolgen.

Auf der anderen Seite sollte man auch bedenken, dass alle Patient:innen, deren Daten zur Verfügung stehen, zukünftigen Patient:innen helfen. Es ist ein tatsächlicher Beitrag, medizinische Behandlungen noch weiter zu verbessern. Die rechtlichen Fragen, wer welche Daten für welchen Zweck verwenden darf, hängen von der Quelle und der Lizenz ab.

medinlive: Welche Methoden verwenden Sie derzeit, um die Ergebnisse zu evaluieren? Für welche anderen medizinischen Anwendungsbeispiele eignet sich diese Technologie?

Heizinger: Die wichtigste Herangehensweise zur Evaluierung ist die, die berechneten Strategien auf Daten anzuwenden, die während des Trainings nicht verwendet wurden, um eine völlige Unabhängigkeit zu gewährleisten. Weiters arbeiten wir an fortgeschrittenen Methoden, um noch genauere untere Schranken für die Leistungsfähigkeit des KI-Modells angeben zu können.

medinlive: Wo gibt es noch Schwierigkeiten in der Anwendung? Wo gibt es noch offene Fragen/Baustellen?

Heizinger: Richtige Schwierigkeiten sehe ich eigentlich keine. Die aktuelle Arbeit konzentriert sich auf Verbesserungen sowohl der Berechnung der Strategien als auch ihrer Evaluierung. Wir wollen weiterhin die weltweit besten Berechnungen durchführen.

medinlive: Wie war die Zusammenarbeit zwischen Forschungseinrichtung und medizinischer Praxis beziehungsweise mit Ärzt:innen?

Heizinger: Ausgezeichnet. Herr Prof. Oliver Kimberger an der MedUni Wien und seine Kollegen sind ausgezeichnete Wissenschaftler, denen alle Verbesserungen für die Patient:innen wirklich am Herzen liegen. Eine Stärke unserer Kooperation ist definitiv, dass wir die Bedeutung hochqualitativer Datensätze und moderner KI-Algorithmen erkannt haben, darin Arbeit investieren und dadurch international mit an der Spitze agieren können.

medinlive: Wie könnte die Methode in der Praxis eingesetzt werden?

Heizinger: KI-Systeme dieser Art eigenen sich heute schon zur Entscheidungsunterstützung. Der behandelnde Arzt kann seine geplante Behandlung mit den Vorschlägen des Systems vergleichen und daraus seine Schlüsse ziehen. Man kann mehrere virtuelle Patient:innen auch schnell über längere Zeiträume behandeln und verfolgen und so die Effekte verschiedener Varianten besser verstehen.

Riesiges Potential gibt es auch in der Ausbildung. Wie viele Patient:innen mit einem seltenen Krankheitsbild oder einem ungewöhnlichen Verlauf sieht ein Arzt während der Ausbildung? Manchmal sind es nur sehr wenige. Mit solch einem KI-System kann man das Gelernte vertiefen, an virtuellen Patient:innen gefahrlos ausprobieren und später auch schnell und gezielt wieder auffrischen. Großes Potential gibt es also auch in der Weiterbildung.

Es gibt eine starke Analogie zur Luftfahrt. In Flugsimulatoren kann man schwierige Situationen, die in der Praxis zum Glück nur selten auftreten, gezielt simulieren. Der Pilot kann sich Situationen zum Üben selbst zusammenstellen oder wird in Prüfungen mit zufällig ausgewählten Situationen konfrontiert. Genau so kann der Arzt hier auch vorgehen. Zusätzlich kann das KI-System Behandlungsvorschläge machen und weiters sogar das Risiko der Patientenzustände und verschiedener Behandlungsschritte angeben.

medinlive: Was ist der bisherige Stand beim Datenschutz und in der ethischen Debatte?

Heizinger: Die Fragen des Datenschutzes sind geklärt. Es werden nur Daten verwendet, die so anonymisiert wurden, dass sie bestimmt zu keinem bestimmten Patienten zurückverfolgt werden können. Es besteht für Patient:innen daher kein Risiko. Ganz im Gegenteil hilft man als Patient auf jeden Fall der Allgemeinheit und allen zukünftigen Patient:innen, wenn Daten für Forschungszwecke verwendet werden.

In der ethischen Debatte gibt es zwei wesentliche Aspekte: Probleme, die durch den Einsatz entstehen könnten, und solche, die durch Verzicht auf den Einsatz entstehen könnten. Wenn man ein KI-System einsetzt, könnte es schlechte Behandlungsvorschläge machen. Andererseits haben wir beim Entwickeln viel Zeit investiert, um bestmögliche Strategien auszurechnen und sie auf verschiedene Arten zu validieren, und wir werden auch weiterhin so verfahren. Da die KI mit einer großen Anzahl von Aufenthalten in Intensivstationen trainiert wurde, ist es sehr unwahrscheinlich, dass sie etwas übersieht und schlechte Vorschläge macht.

Ethische Probleme entstehen aber auch durch Verzicht auf den Einsatz. Die KI hat viele, viele Patient:innen während des Lernens gesehen, wahrscheinlich mehr als ein Arzt in seiner Ausbildung oder sogar in seiner ganzen Laufbahn behandeln kann. Ist es moralisch vertretbar, auf diesen Erfahrungsschatz zu verzichten, wenn Algorithmen (unter Umständen sogar beweisbar) optimale Behandlungsstrategien berechnen können? Ist es vertretbar auf KI-Systeme zu verzichten, wenn sie auf Fehler aufmerksam machen und sie dadurch vermeiden können?

Ich denke, dass diese Fragen auf juristische Fragen hinauslaufen, insbesondere auf Haftungs- und Versicherungsfragen. Diese werden bestimmt geklärt werden, weil sie sich nicht substantiell von den Fragen unterscheiden, die schon bei anderen medizinischen Geräten aufgetreten sind. Jeden Tag werden komplizierte Geräte eingesetzt, aber daran haben wir uns eben schon gewöhnt.

medinlive: Ist die Technologie bereits im Einsatz? Wird der Einsatz durch die Ethikdebatte blockiert?

Heizinger: Die Technologie ist im Krankenhaus noch nicht im Routineeinsatz. Wie gesagt meine ich, dass die juristischen Fragen ganz ähnlich wie bei anderen medizinischen Geräten geklärt werden.

medinlive: Wie ist das weitere Vorgehen?

Heizinger: Wir arbeiten ständig an Weiterentwicklungen und Verbesserungen. Die Berechnung der Strategien wird laufend verbessert, und ebenso wichtig ist die Evaluierung der Strategien. Medizinische Anwendungen wie Sepsis sind wichtig, weil die KI den Menschen hier tatsächlich hilft. Die Anwendungen geben aber auch Impulse für die Weiterentwicklung der Theorie hinter den Algorithmen.

medinlive: Sollte ein Arzt die Letztentscheidung treffen, warum ja oder nein?

Heizinger: KI-Systeme, wie wir sie entwickelt haben, sind ausgezeichnet als System zur Entscheidungsunterstützung geeignet und haben großes Potential in der Ausbildung. Ärzt:innen werden aber weiterhin die Letztentscheidungen treffen.

Weiterlesen:

Teil 1 zu Technologie

medinlive ist bestrebt, eine Vielzahl von Leserbriefen zu veröffentlichen.
Wir würden gerne wissen, was Sie über diesen oder einen anderen unserer Artikel denken.
Welche Erfahrungen haben Sie mit dem Einsatz Künstlicher Intelligenz im Praxisalltag gemacht?
Schreiben Sie uns auf: redaktion@medinlive.at.
Folgen Sie unseren Beiträgen auch auf Facebook, Twitter und linkedin.