medizin&technik 05.2020

TITELTHEMA „Das alles

TITELTHEMA „Das alles sind ethische Fragen“, sagt Mischkewitz. Darauf, sie zu beantworten, hat ihn das Informatik-Studium nicht vorbereitet. „Letzten Endes mussten wir Techniker aber erkennen, dass es diese Fragen gibt und sie für unser Produkt eine Rolle spielen. Dafür, dass es von den Anwendern genutzt werden kann. Aber auch dafür, dass wir es mit gutem Gewissen bis zur Marktreife bringen können.“ Mischkewitz, der vor ein paar Jahren mit Anfang 20 seine Geschäftsidee entwickelte, betont, dass es ihm nicht darum gehe, in einem Industrieland die Unter - suchung eines Patienten um zehn Minuten zu beschleunigen, damit die Klinik Geld spare. Sein Ideal: Das Produkt Auto- TVT soll in Entwicklungsländern ein - setzbar sein, in abgelegenen Gegenden, wo es nicht einmal Ärzte unter Zeitdruck gibt, sondern gar keine Mediziner. „Vor allem bei solchen Szenarien muss ich mir als Entwickler sehr klar machen, was schief gehen kann, was die Folgen wären und was zu tun ist, um das zu vermeiden.“ Der finanzielle Aspekt ist für ihn nicht unwichtig. „Aber es geht mir wie vielen Leuten aus meiner Generation: Das Finanzielle steht nicht an erster Stelle. Ich will ein reines Gewissen haben und mein Know-how für etwas einsetzen, hinter dem ich stehen kann.“ Manche Risiken sind nur für den Entwickler erkennbar Gerade in der Softwareentwicklung sei die wahre Komplexität eines Systems, seine Risiken und Fehlermöglichkeiten, oft nur noch für den Programmierer selbst erkennbar. „Außenstehende können das nicht mehr beurteilen. Damit ist es aber eventuell auch die Sache des Entwicklers, das Ergebnis zu bewerten und gegebenenfalls zu sagen: So will ich das Produkt nicht weiter entwickeln, ich sehe diese und jene Risiken.“ Aber auch wenn künstliche Intelligenz den Stein ins Rollen brachte, sind beim Thema Ethik nicht nur Software-Hersteller angesprochen. Jeder Anbieter von Medizinprodukten kann damit konfrontiert sein. Zum Beispiel, wenn in ein Medizingerät eine KI integriert werden soll, um neue Funktionen zu ermöglichen. Wie weit die Auswirkungen gehen können und wie ambivalent ihre Einschätzung sein kann, erläutert der Ethiker Prof. Über Thinksono und das Projekt Co-Co-AI Das Start-up Thinksono hat die KI-basierte Software Auto-TVT leitet Anfänger dabei an, eine Venenuntersuchung mit Ultraschall auszuführen, um eine eventuelle tiefe Venenthrombose (TVT) nachzuweisen. Sie gibt dabei das Vorgehen Schritt für Schritt vor und liefert bei Bedarf Tipps, was der Untersuchende besser machen könnte. Das Ergebnis der Untersuchung bewertet ein erfahrener Arzt. Anhand dieses konkreten Produkt - beispiels wird im Rahmen des Projektes Co-Co-AI untersucht, welche ethischen Fragen auftauchen. Im Projekt geht es um die empirisch fundierte Entwicklung von Informations- und Kommunikationstechnologien, die eine Zusammenarbeit zwischen KI und Menschen bestmöglich unterstützen. Betrachtet werden dabei ethische und gesellschaftliche Herausforderungen, die sich ergeben, wenn KI bestehende Strukturen – zum Beispiel im Krankenhaus – ergänzt. Methodische Grundlagen sollen erarbeitet werden, damit Patienten, Ärzte und KI-Ingenieure besser zusammenarbeiten können. KI soll erklärbar sein und moderne Mensch-Computer-Schnittstellen nutzen. Wie verantwortungsvolle Forschung und Innovation mit KI aussehen kann, sollen ethische Studien und Workshops zeigen. Zu Co-Co-AI: http://hier.pro/wjApO Um eine tiefe Venenthrombose festzustellen, setzt bisher der Arzt den Ultraschallkopf an. Mit der Software von Thinksono könnte das auch jemand mit wenig Erfahrung übernehmen (Bild: Aleksey Khripunkov/stock.adobe.com) Arne Manzeschke, der den Fachausschuss Medizintechnik und Gesellschaft der Deutschen Gesellschaft für Biomedizinische Technik (DGBMT) im VDE leitet. „Stellen Sie sich ein intelligentes Herzimplantat vor, das im Körper Daten misst, entsprechende Impulse abgibt und den Herzschlag bestimmt.“ Dass das technische Produkt in den physio logischen Prozess eingreift, geht weit über das bisher verbreitete Monitoring hinaus. „Aber was heißt das für den Patienten mit Implantat? Wenn wir uns erschrecken, der Puls steigt, ist das eine menschliche Empfindung. Wie aber fühlt sich der Implantatträger, dessen Puls vom Gerät beeinflusst wird? Traut er seinen Empfindungen?“ Solche Fragen müsse man in der Entwicklung stellen – und Menschen müssen vielleicht auf lange Sicht lernen, mit Technik umzugehen, die solche Effekte haben kann. Ethische Entscheidungen fällen und verantworten können Auch der DGBMT-Fachausschuss befürwortet eine intensivere Beschäftigung mit ethischen Fragen in der Entwicklung. Und für 2021 hat Manzeschke ein BMBF-gefördertes Projekt zur integrierten Forschung angedacht, an dem sich Wissenschaftler aus ganz Deutschland beteiligen werden. „Natürlich sind immer verschiedene Standpunkte denkbar. Aber viele Unternehmen erkennen derzeit, welche Auswirkungen Technik haben kann, wollen bestimmte – zum Beispiel militärische – Anwendungen ihrer Ideen ausschließen.“ Für die Zukunft hält es Manzeschke für wahrscheinlich, dass Ethik in Unternehmen stärker integriert wird, in Form eines Beirates, der regel mäßig zusammenkommt, oder durch externe Beratung. Aber auch die Ausbildung und Weiterbildung von Technikern könnte sich künftig wandeln. „Wir müssen Leute befähigen, über Ethik nachzudenken, Entscheidungen zu fällen und diese auch zu verantworten“, sagt Manzeschke. Den ethischen Aspekt bei Ingenieuren besser zu verankern, sieht auch Herzog als wichtig an. In Lübeck gibt es bereits Studiengänge in den Ingenieurwissenschaften, in denen das Fach Ethik Pflicht ist. Das betrifft die Medizininformatik sowie den KI-orientierten Studiengang Robotik und autonome Systeme. Heißt konkret: Die Studierenden werden hier mit Fragen aus der Praxis konfrontiert 22 medizin&technik 05/2020

(Bild: Uni Lübeck) und sollen diese beantworten helfen. Die Idee dazu stammt aus den Nieder landen. „Wir wollen Ingenieuren im Sinne des Systems Engineering auch geeignete Prozesse an die Hand geben“, sagt Herzog. Kausalitäten zu visualisieren, könne helfen, die richtigen Fragen zu stellen und Ergebnisse zu dokumentieren. Auch das werde jedoch nicht dazu führen, dass Ethik per Checkliste abgehakt werden kann. „Es wird immer um eine Diskussion Dr. Christian Herzog leitet an der Uni Lübeck den neu gegründeten Ethical Innovation Hub gehen – im Entwicklerteam oder bei Bedarf mit Vertretern betroffener Gruppen wie Ärzten, Pflegern, Patienten oder Angehörigen.“ Den Aufwand im Unternehmen müsse man aber gering halten. Den Markt würde das vermutlich verändern: Mit zunehmendem Bewusst - sein für ethische Fragen in der Gesundheitswirtschaft könnte sich der Blick der Einkäufer ändern. Und natürlich be - rühren ethische Fragen gerade bei Dia - gnose-Tools schnell haftungsrechtliche Aspekte. Das Thema Ethik in der Technik steht also noch am Anfang. Laut Prof. Sami Haddadin verspricht die Zukunft allerdings Entwicklungen, die zur intensiveren Beschäftigung damit führen werden. „Die erste Digitalisierungswelle haben wir hinter uns“, sagt der Münchner Forscher. Sie habe die Gesellschaft unvorbereitet getroffen und zur nachgelagerten ethischen Bewertung fertiger Technologien geführt. „Ich bin mir sicher, dass eine zweite Digitalisierungswelle folgen wird, zum Beispiel mit intelligenten cyberphysischen Systemen. Darauf sollten wir in Forschung, Industrie und Gesellschaft vorbereitet sein und entscheiden können, was wir tun wollen und was nicht.“ ■ Dr. Birgit Oppermann birgit.oppermann@konradin.de Online weiterlesen Wie der Fachausschuss Medizintechnik und Gesellschaft im VDE/DGBMT ethische Fragen in der Medizintechnik mit Veranstaltungen und Publikationen angeht, lesen Sie im Interview mit Prof. Manzeschke auf der Website. www.medizin-und-technik.de/online weiterlesen biologisch • chemisch • toxisch • partikulär Akkreditiertes Prüflabor für Medizinprodukte Biokompatibilität nach ISO 10993-1 Prüfungen zur Validierung der Endreinigung Validierung der Aufbereitung im Rahmen der ISO 17664 Validierung der Sterilisation im Rahmen der ISO 17665-1 End-of-Life, Zyklus-Simulationen, beschleunigte Alterung Prüfung auf partikuläre Verunreinigung Sterilitätsprüfungen gem. ISO 11737-2 Produkte für mikrobiologisch-hygienisches Monitoring Gehrenstraße 11a D-78576 Emmingen-Liptingen www.cleancontrolling.com Tel. +49 74 65 / 92 96 78-0 Fax +49 74 65 / 92 96 78-10 info@cleancontrolling.com 05/2020 medizin&tec hn i k 23