vsao Journal Nr. 3 - Juni 2023

Fokus: Digital
Die FMH veröffentlichte im
Herbst 2022 eine ausführliche
Publikation über die Einsatzgebiete
künstlicher Intelligenz
im ärztlichen Arbeitsalltag und
benannte dabei auch ethische Herausforderungen.
Offensichtlich haben neue
innovative Softwareprogramme damit
begonnen, die klinische Patientenversorgung
und die ärztliche Arbeitswelt in
Spitälern zu verändern. Diese Entwicklung
bringt neue Aspekte mit sich, die es
den Behandelnden erschweren werden,
die umfassend richtigen, weil fachlich
besten, und ethisch primär am Patientenwohl
ausgerichteten Entscheidungen zu
treffen.
Ärztliches Handeln bedeutet immer,
Entscheidungen unter (Rest-)Unsicherheit
treffen zu müssen. Damit verbunden
ist die Verantwortung für die Konsequenzen
und die Hoffnung, den bestmöglichen
medizinischen Outcome für die sich anvertrauenden
Patienten zu erzielen. Ärztliches
Fachwissen und berufliche Expertise,
ergänzt um die kollegiale Mentorenschaft
durch erfahrene Ärztinnen und Ärzte, ermöglichen
es von jeher, die mit den Behandlungsentscheidungen
verbundenen
Behandlungsrisiken bestmöglich zu berücksichtigen.
Ärztliches Handeln ist somit
immer auch das stetige Bemühen, Unsicherheiten
in therapeutische Gewissheit
zu transformieren.
Keine Chance ohne Risiken
Algorithmenbasierte Softwareprodukte
scheinen ihren klinischen Benutzern eine
attraktive Option anzubieten, das persönliche
Handeln in der Patientenver sorgung
zu optimieren. Insbesondere die klinische
Dokumentation, klinische Entscheidungsunterstützungssysteme
und das Patientenmonitoring
zur Überwachung des Therapiefortschritts
und der Therapieadhärenz
können eine hilfreiche Unterstützung
sein. So administrativ aufwendig das
Füt tern dieser Digitaltools mit relevanten
Informationen sein mag, so verlockend
erscheint die neue Perspektive, die eigene
ärztliche Entscheidung nun besser
fachlich vorbereiten und begründen zu
können.
Der Einbezug digital berechneter Wirkungs-
und Erfolgswahrscheinlichkeiten
in die ärztlichen Versorgungsentscheidungen
erweitert bisherige Versorgungsmöglichkeiten
um eine digitaltechnologisch
erzeugte Datenrationalität. Bei Misserfolg
sinken aber auch die Chancen für
die Ärzteschaft, spätere Kritik an ihren
Therapieentscheidungen und auch persönliche
Haftungsrisiken abwehren zu
können; spätestens dann, wenn der Technologieeinsatz
seinen ausdrücklichen Eingang
in die allgemein anerkannten medizinisch-wissenschaftlichen
Versorgungsstandards
gefunden hat. Wie steht es dann
um die berufsethische Verpflichtung der
Ärzteschaft, das Wohl der Patientinnen
und Patienten stets in den Mittelpunkt der
Versorgungsüberlegungen zu stellen?
Moral Distress als Nebenwirkung
Der Einbezug entscheidungsunterstützender,
wenn nicht sogar entscheidungserleichternder
KI-gestützter Softwaretools
am klinischen Arbeitsplatz könnte für
Behandelnde zukünftig moralisch herausfordernde
Situationen mit sich bringen.
Eine Grundbedingung sinnhafter Berufsausübung
für medizinisches Personal ist
die persönliche Gewissheit, dass das eigene
berufliche Handeln nicht im zermürbenden
Konflikt mit den eigenen berufsethischen
und versorgungsethischen
Werten und moralischen Überzeugungen
steht. Die anhaltenden Diskussionen in
Bezug auf Ökonomisierungs-, Kommerzialisierungs-
und Kommodifizierungstrends
in der Patientenversorgung weisen
auf die Bedeutung von Sinnhaftigkeitsfragen
und Purpose-Themen insbesondere
auch für den ärztlichen Berufsnachwuchs
hin. Moral Distress führt zu erheblichen
emotionalen Belastungen bei den Betroffenen.
Diese empfinden ihr Handeln nicht
nur als im Widerspruch mit ihren persönlichen
Überzeugungen stehend, auch das
Auseinanderfallen von eigenem moralischem
Wollen und dem ihnen abverlangten
tatsächlichen beruflichen Tun wird als
ausweglos mit nur geringer Hoffnung auf
Lösbarkeit gesehen. Niemand lebt gerne
in dauerhafter Inkongruenz zwischen moralischem
Wollen und klinikalltäglichem
Müssen.
In einer zunehmend digitaltechnologisch
eingerahmten Spitalwelt entfaltet
ein technizistisches Narrativ seine Wirkung,
nämlich dass intelligente Software
eine auf das Patientenwohl ausgerichtete
Behandlung stets effizient und ressourcenschonend
unterstützt. Die Urteilskraft
des Arztes und der Ärztin reicht vielleicht
aber nicht mehr dafür aus, die Qualität der
durch komplexe Algorithmen berechneten
Wahrscheinlichkeiten bei Diagnosen, Therapieempfehlungen
und Gesundungsprädiktionen
ausreichend umfänglich zu beurteilen.
Das Vertrauen der Ärzte in die
Richtigkeit häufig schwer erklärbarer Berechnungsergebnisse
der eingesetzten Kliniksoftware
wird zum hilflosen Ausweg,
um dem Vertrauen der Kranken in die Behandelnden
gerecht werden zu können.
Nicht ohne Grund betrachten die industriellen
Softwareanbieter das menschliche
Vertrauen in ihre neuen Technologien als
wichtigste Akzeptanzbedingung für ihre
kommerzielle Verwertung.
So wenig ein Mensch allein die Summe
seiner mathematisch-digital abgebildeten
biologischen Strukturen und Prozesse
ist (auch wenn Digital-Twins-Konzepte
als quasi digital-descartessche Menschensynthese
es als machbar erscheinen lassen
wollen), so wenig sind Ärztinnen und
Ärzte am erkrankten Menschen eingesetzte
Fachingenieure. Viele Ergebnisse
wissenschaftlicher Evaluationen von im
Gesundheitssektor eingesetzter KI-Software
zeigen auf, dass die ärztliche Urteilskraft
als bedeutendes Element ärztlicher
Heilkunst mehr denn je gefordert ist, um
die Möglichkeiten und die Grenzen dieser
neuen Arbeitsinstrumente kritisch zu
hinterfragen. Die Einschränkung ihrer
Urteilskraft ist für die Betroffenen häufig
eine belastende Begrenzung ihrer individuellen
Handlungsoptionen und ihrer beruflichen
wie persönlichen Autonomie.
Eine durch klinische KI-Programme
eingegrenzte ärztliche Urteilskraft kann
im Versorgungsalltag nicht nur Schaden
für Patienten mit sich bringen, sondern bei
den betroffenen Ärzten auch das destruktive
Gefühl des eigenen Nicht-(mehr-)Genügens
und erhebliche Selbstzweifel erzeugen.
Die berufliche Unmöglichkeit, alles
umfassend wissen zu können und gleichzeitig
die Erwartung des Wissen-Müssens
auszuhalten, wird zur moralischen Herausforderung.
Die Situation, den eigenen
Ansprüchen vielleicht nicht mehr genügen
zu können, aber trotzdem weiterzumachen
(oder weitermachen zu müssen),
ist ein guter Nährboden für ungesunden
und leistungsschädlichen Moral Distress
bei Ärztinnen und Ärzten. Auch könnten
zukünftig verstärkt psychologische Phänomene
wie das Imposter-Syndrom auftreten.
Verstärkte Ökonomisierung durch
digitale Industrialisierung?
Klinisch tätige Ärzte sind nicht nur Anwender
neuer Technologien in der Patientenversorgung,
sondern mindestens mittelbar
auch Produktentwickler. Die durch
die Behandlungen entstehenden neuen
Datenmengen werden vielfach zur Weiterentwicklung
der eingesetzten Software
vsao /asmac Journal 3/23 47