Magazin Forschung 2019

14 | KÜNSTLICHE INTELLIGENZ
Medizin der Zukunft?
Künstliche Intelligenz und ihre medizindiagnostischen
Chancen & Herausforderungen
Künstliche Intelligenz (KI) als die Universaltechnologie
des 21. Jahrhunderts – darin sind sich Forschung, Wirtschaft
und Politik einig. Doch es werden auch vermehrt
Stimmen laut, die auf die damit einhergehenden Fragen
und die damit verbundene Verantwortung aufmerksam
machen:
“THE NEW SPRING IN AI (Artifical Intelligence,
Anm. d. Red.) IS THE MOST SIGNIFICANT DEVE-
LOPMENT IN COMPUTING IN MY LIFETIME. EVERY
MONTH, THERE ARE STUNNING NEW APPLICATI-
ONS AND TRANSFORMATIVE NEW TECHNIQUES.
BUT SUCH POWERFUL TOOLS ALSO BRING WITH
THEM NEW QUESTIONS AND RESPONSIBILITIES.”
- so zum Beispiel Sergey Brin, einer der Google-Gründer.
Der Einsatz neuer Technologien eröffnet nicht nur Chancen,
sondern stellt uns alle stets auch vor Herausforderungen.
Für eine dauerhafte Verwendung der KI sind
deshalb nicht nur technologische Lösungen gefragt,
sondern ebenso der gesellschaftliche Dialog.
Prof. Dr. Karsten Weber, vom Institut für Sozialforschung
und Technikfolgenabschätzung an der OTH Regensburg,
erforscht derzeit die KI in der diagnostischen Medizin in
seinem vom Bayerischen Staatsministerium für Wissenschaft
und Kunst geförderten Forschungsprojekt „Stakeholderperspektiven
auf KI-unterstützte medizinische
Entscheidungsfindung und Entwicklung ethischer Leitlinien
für den Einsatz von KI-Systemen in der Medizin“.
Herr Professor Weber, wie darf man sich die Ausgangssituation
und die daraus abzuleitenden Schritte bzw.
Ziele Ihres Projekts vorstellen?
Die Ausgangssituation ist durch interdisziplinäre Zusammenarbeit
geprägt, denn in meinem Projekt arbeiten wir
eng mit einem technisch orientierten Projekt zusammen,
das von Prof. Christoph Palm von der OTH Regensburg
geleitet wird. Er und seine Mitarbeitenden entwickeln KI-
Systeme zur Diagnose von Speiseröhrenkrebs und arbeiten
dabei selbst wieder eng mit Medizinerinnen und
Medizinern der Universität Augsburg zusammen. So können
wir die medizinische, informatische und ethische
Perspektive kombinieren. Ich halte das für einen Glücksfall,
denn wir können die ethischen Herausforderungen
nicht ohne grundlegende Kenntnis der fachspezifischen
Aspekte der KI untersuchen. Am Ende soll auf der einen
Seite ein KI-System entstehen, dessen Gestaltung ethische
Überlegungen berücksichtigt, und auf der anderen
Seite sollen ethische Leitlinien für den Einsatz solcher
Systeme formuliert werden, die in der Praxis tatsächlich
auch umgesetzt werden können, weil die Praxis von Beginn
an berücksichtigt wurde.
Wo sehen Sie die Chancen und Potenziale der Künstlichen
Intelligenz im medizinischen/diagnostischen Bereich?
Man muss bedenken, dass die Forschung an KI-Systemen
seit mehr als 60 Jahren andauert. Die theoretischen
Grundlagen neuronaler Netze für KI-Systeme wurden in
den 1950er und 1960er-Jahren gelegt, doch konnten diese
nicht umgesetzt werden, weil die verfügbaren Computer
zu langsam und teuer waren. Heute können Sie sich einen
leistungsfähigen Rechner unter den Schreibtisch stellen
und damit sehr umfangreiche neuronale Netze gestalten.
Allein das trägt schon erheblich zum Potenzial der KI in
der Medizin bei. Da sich außerdem zeigt, dass diagnostische
Prozesse der Medizin viel mit Mustererkennung zu
tun haben, die von neuronalen Netzen sehr gut übernommen
werden können, scheint es, also ob hier ein Aufgabengebiet,
eben die medizinische Diagnostik, gerade
auf ein neues und potenziell sehr leistungsfähiges Werkzeug
getroffen ist. Noch sind KI-Systeme nicht so gut wie
erfahrene Ärztinnen und Ärzte. Aber die Forschung hat
im Grunde erst begonnen, so dass damit zu rechnen ist,
dass in wenigen Jahren KI-Systeme zumindest in ausgewählten
Bereichen ähnliche gute Diagnosen wie Menschen
stellen werden.
…und wie sieht es mit den Herausforderungen und
Gefahren aus?
Es gibt meines Erachtens vier zentrale Herausforderungen.
Erstens ist eine Antwort auf die Frage zu finden, wer
die Verantwortung trägt, wenn KI-Systeme regelmäßig
in der medizinischen Diagnose eingesetzt werden, Behandlungsentscheidungen
mitbestimmen und Ärztinnen
und Ärzten sich zunehmend auf die KI-Systeme verlassen.
Was, wenn Fehlentscheidungen getroffen werden?
Stehen dann das KI-System oder das herstellende Unternehmen
oder die Programmierinnen und Programmierer
mit in der Verantwortung? Man kann das sowohl aus
einer moralischen als auch aus einer (haftungs)rechtlichen
Perspektive fragen – gute Antworten gibt es dafür
bisher noch nicht. Zweitens benötigen KI-Systeme große
Mengen an Trainingsdaten, um im Einsatz leistungs fähig
zu sein. Im medizinischen Bereich haben solche Daten
notwendigerweise immer einen Personenbezug. Es wird
also notwendig sein, hier über datenschutzrechtliche
Fragen sehr genau nachzudenken – am besten auf internationaler
Ebene, damit es keine unterschiedlichen
Standards gibt. Drittens wäre es wichtig darauf zu achten,
dass die Trainingsdaten so ausgewählt werden, dass
keine Diskriminierung stattfindet. Viertens müssen KI-
Systeme so gestaltet werden, dass deren Ausgaben im
Prinzip nachvollziehbar und überprüfbar sind. Vermutlich
ist die Liste dieser Herausforderungen nicht im Ansatz