Fokus: Digital Entscheidung und Würde im Zeitalter der KI In jüngster Zeit wird im Gesundheitswesen viel über künstliche Intelligenz geschrieben und nachgedacht. Neben grossen Hoffnungen und Befürchtungen gibt es auch eine Menge neuer Begriffe: Augmented Reality, Deep Learning, Machine Learning, ChatGPT – man hat Mühe, die Konzepte zu verstehen und nicht den Anschluss zu verlieren. Prof. Dr. Rouven Porz, Medizinethik und ärztliche Weiterbildung, Insel Gruppe, Inselspital Bern Unethisch oder moralisch wertvoll? Wie und wo KI eingesetzt werden soll, muss die Gesellschaft als Ganzes entscheiden. Bilder: Adobe Stock 28 3/23 <strong>vsao</strong> /asmac <strong>Journal</strong>
Fokus: Digital KI und die damit verbundenen Entwicklungen stellen auch uns in der Ethik vor neue Herausforderungen. Schliesslich reden wir hier über Themen, über die – ausser in Science-Fiction-Filmen – noch nie eine Generation ernsthaft nachdenken musste. In vielerlei Hinsicht müssen wir nicht zuletzt die ethische Bewertung der künstlichen Intelligenz neu erlernen. Vieles, was uns bislang klar schien, kann jetzt in Frage gestellt werden. Allein wenn ich z. B. zum Telefon greife, um im Restaurant eine Tischreservierung vorzunehmen, ist heute nicht mehr klar, ob ich mit einem echten Menschen oder mit einem Chatbot spreche. Das muss in diesem Fall kein grosses Problem sein, vielleicht ist der Chatbot freundlicher als der echte Mensch, aber es illustriert, wie sehr sich unsere Realität bald ändern könnte, auch im Gesundheitswesen. Fakt ist, sowohl die Digitalisierung wie auch der Einsatz von künstlicher Intelligenz könnten die Medizin optimieren und effizienter machen. Gewisse Bedenken werden schnell laut: «Wir wollen keinesfalls, dass irgendwann Computer für uns entscheiden!» Darüber scheinen sich eigentlich alle Ärzte und Ärztinnen im Moment einig zu sein. Man will grundsätzlich ebenso wenig, dass Computer irgendwann Arbeitskräfte ersetzen, obwohl wir das wohl kaum vermeiden werden können. Eine verbreitete Angst ist im Weiteren, dass es würdelos sein könnte, wenn ein intelligenter Pflegeroboter irgendwann eine demente, alte Patientin pflegt, und die Dame vielleicht gar nicht versteht, dass der Pflegende kein Mensch ist. Was ist eine Entscheidung? Beschränken wir uns kurz auf die Themen Entscheidungen und Würde – sie beide haben direkte Auswirkungen auf die neuen Partnerschaften, die wir mit intelligenten Maschinen eingehen werden. Beide Themen werden oft genannt. Gerade weil uns KI bei Entscheidungen helfen soll und weil wir Angst haben, dass Maschinen vielleicht würdeloser mit uns umgehen werden als Menschen. Es fragt sich aber in unserer ethischen Neubewertung dieser Zusammenhänge, ob wir uns nicht sowieso schon jeden Tag bei Entscheidungen helfen lassen, und ob wir nicht – Achtung, Kehrtwende – irgendwann vielleicht würdelos mit den intelligenten Maschinen umgehen. Was bedeutet Entscheidung? Wenn mein Navigationsgerät im Auto in einer fremden Stadt eine Tankstelle in meiner Nähe raussucht und mich dorthin führt, trifft dann das Navigationssystem nicht bereits eine Entscheidung für mich? Wenn mir mein Musik-Streaming-Anbieter Spotify ein Lied, basierend auf meinem Hörverhalten der letzten Monate, vorschlägt, trifft dann das algorithmische System nicht bereits eine Entscheidung für mich? Nein, werden Sie jetzt vermutlich denken. Das seien keine wirklichen Entscheidungen, das seien lediglich Vorschläge. Ich bin mir da nicht mehr so sicher. Ich glaube, das könnten tatsächlich schon Entscheidungen sein, es hängt davon ab, wie man Entscheidungen definiert. Und darüber redet in der aktuellen Diskussion leider fast niemand. Wir alle glauben zu wissen, was eine Entscheidung ist. Aber ist das Ergebnis einer komplexen Rechenleistung nicht vielleicht doch schon eine Entscheidung? Insbesondere dann, wenn die Rechenleistung des Deep-Learning-Systems so komplex ist, dass ich sie weder verstehen, noch nachvollziehen, noch selbstständig interpretieren kann? Oder ist eine Entscheidung erst dann eine Entscheidung, wenn ein Mensch sie emotional eingeordnet hat? (Zum Beispiel: «Oh nein, dieses vorgeschlagene Lied gefällt mir nicht, es erinnert mich an meine erste unglückliche Liebe.») Wer oder was verdient Würde? Jetzt noch ein kurzer Blick auf die Würde: Irgendwie sind wir uns alle einig, dass einem System mit künstlicher Intelligenz wohl nie die Würde zukommen kann, die wir uns als Menschen gegenseitig per se zusprechen, richtig? Auch hierüber bin mir nicht mehr so sicher, verwischt doch die Trennlinie zwischen «künstlich» und «natürlich» zunehmend stärker. Was macht denn das «Natürliche» besser als das «Künstliche»? War Dolly ein schlechteres Schaf als andere, nur weil es durch Klonen auf die Welt gekommen ist? Hatte es deswegen weniger Anspruch auf eine artgerechte Haltung? Ich ahne schon, Sie denken jetzt, der Vergleich hinke: Klonen sei doch nicht dasselbe, wie künstliche Intelligenz zu erzeugen. Nein, ist es sicher nicht, aber es trägt dieselbe Handschrift. Beide Techniken tragen die Handschrift eines möglichen Dual-Use-Dilemmas. Das heisst: Je nachdem, wie wir die Errungenschaften einsetzen, interpretieren und nutzen, können sie gute oder schlechte Folgen haben. Natürlich ist das bei jeder Art von Technik so. Auch ein Messer kann man verwenden, um ein Brot zu streichen, oder jemand damit umzubringen – Dual Use. Aber die Folgen könnten bei der KI weitaus verheerender sein als bei einem Messer. Und das ist es, was wir im Auge behalten müssen. Noch können wir die Richtung der Anwendung steuern. Aber diese Aufgabe und die damit einhergehende Verantwortung müssen wir auch übernehmen. Wir können sie nicht allein den Juristinnen und Juristen zuschieben, sondern müssen anfangen, darüber nachzudenken, in welche Beziehung wir uns zu welcher Art von intelligenten Maschinen setzen wollen. <strong>vsao</strong> /asmac <strong>Journal</strong> 3/23 29
Change language