medizin&technik 05.2020

TITELTHEMA Warum Ethik

TITELTHEMA Warum Ethik früh in die KI-Entwicklung gehört Entwicklung künstlicher Intelligenz | Ethik und Verantwortungsbewusstsein – das gehört zum Selbstbild des Ingenieurs. Aber wie viel davon fließt in die Entwicklung neuer Produkte ein? Die zunehmende Digitalisierung und die Verbreitung künstlicher Intelligenz machen diese Frage sehr aktuell. Wie sich ethische Überlegungen handhabbar integrieren lassen, erarbeiten derzeit mehrere Forschergruppen in Deutschland. 18 medizin&technik 05/2020

(Bild: Elnur/stock.adobe.com) KI aller Art entgegensehen Gut, wenn Forscher ethische Fragen greifbar machen. Dann sind Industrie und Gesellschaft besser vorbereitet. Dr. Birgit Oppermann Triage: Wenn Mediziner entscheiden, welcher von mehreren Patienten im letzten freien Bett auf der Intensivstation behandelt wird, spielen ethische Aspekte eine Rolle. Eine schwerwiegende Entscheidung – schwerer als die Verant - wortung, die Ingenieure üblicherweise zu tragen haben, selbst in der Medizintechnik. Oder gibt es inzwischen Bereiche, bei denen auch Ingenieure genauer hinschauen müssten als bisher? Zwei Kandidaten, die da Herausforderungen versprechen, sind Digitalisierung und Künstliche Intelligenz. Sie können Produkte hervorbringen, die binnen kurzer Zeit weitreichende Effekte auslösen. Konkretes Beispiel: Eine KI wurde ent - wickelt, um aus der Vielzahl möglicher Medikamente für die Krebstherapie die - jenigen zu empfehlen, die bei einem bestimmten Patienten den größten Erfolg versprechen. Das System – IBM Watson for Oncology – verbreitete sich sehr schnell und wurde in vielen Krankenhäusern eingesetzt. Doch dann fiel einem Ethische Fragen zu KI in der Entwicklung Forschung zur praktischen Umsetzung Initiativen: Lübeck, München, DGBMT Ethik fördert Akzeptanz der Produkte Ingenieure auch in Ethik ausbilden IHR STICHWORT ■ ■ ■ ■ ■ Intelligente cyberphysische System sind eine der kommenden Entwicklungen in der Digitalisierung. Das wird Ingenieure vermehrt vor ethische Fragen stellen: Was sollte ich tun? Wie weit darf ich dabei gehen – und warum? Was gilt es zu unterlassen? Aktuell erarbeiten Techniker und Ethiker die Grundlagen, um solche Überlegungen in die Entwicklung zu integrieren Arzt ein Fehler auf. Das System empfahl einen Wirkstoff, der für den Patienten eindeutig kontraindiziert war und zu dessen Tod hätte führen können. Der Mediziner schlug Alarm, der Fehler wurde korrigiert, alle betroffenen Krankenhäuser informiert. Dieser reale Fall zeigt laut Dr. Christian Herzog, „dass sich eine digitale Technologie schnell auf viele Menschen auswirken kann und damit eine besondere ethische Dimension hat.“ Ethical Innovation Hub ging 2020 in Lübeck an den Start Herzog ist Elektroingenieur – aber nicht nur. Sein Interesse an ethischen Fragen hat ihn zu einem Studium der angewandten Ethik geführt. An der Universität Lübeck leitet er eine Institution, die 2020 an den Start ging: die institutsübergreifende Arbeitsgruppe Ethical Innovation Hub (EIH). Organisatorisch ist der EIH eine Kooperation zwischen dem Institut für Medizinische Elektrotechnik und dem Institut für Medizingeschichte und Wissenschaftsforschung. Das Ziel: ethische Fragen schon in der Ideenfindung für ein Produkt und in den darauf folgenden Entwicklungsstufen mit zu berücksichtigen. Aber: Ethik. Das ist doch ein Begriff, vor dem man sich ein bisschen fühlt wie das Kind vorm Kirchturm. Man muss den Kopf ziemlich weit in den Nacken legen, um die Dimension auch nur annähernd erfassen zu können. So einen Brocken in den Entwicklungsprozess zu integrieren, dürfte eine riesige Aufgabe werden. Zumal Ethik in der Welt der technischen Entwicklungen bisher keine große Rolle spielt. „Traditionell gab es eher Begleitfor- 05/2020 medizin&tec hn i k 19