11. Osnabrücker Wissensforum

34
daran, dass Maschinen auf fundamental anderen
Prinzipien der Informationsverarbeitung basieren als
wir Menschen. Deshalb sind sie uns Menschen auch
in einigen Dingen deutlich überlegen, in anderen aber
nicht.
Soweit haben wir einen Widerspruch, was meine
Antworten auf die beiden Fragen angeht. Aber,
und dies ist ein entscheidender Punkt: Maschinen
können natürlich moralisches Handeln simulieren,
beziehungsweise lernen, dieses zu simulieren. Ich
würde so weit gehen zu behaupten, sie können das
vermutlich in Zukunft so gut simulieren, dass sie darin
nicht unbedingt signifikant schlechter sein müssen als
wir Menschen.
Maschinen können nämlich eine Bewertung s ­
funktion lernen, die neue, noch ungesehene
Situationen klassifiziert, beispielsweise in eine
Situation, in der Kollateralschäden beim Abfeuern
einer Luft-Boden-Rakete minimal sein würden – oder
eben auch nicht. Auf dieser Grundlage könnten sie
dann eine Entscheidung fällen, so ähnlich wie das ein
Colonel der US-Armee heute auch macht.
Aber eine solche Bewertungsfunktion könnte
eventuell auch noch andere Dinge: Sie könnte beispielsweise
absolute Regeln beinhalten, zum Beispiel
ein absolutes Folterverbot, oder sie könnte aus vielen
Beispielen eine Hierarchie von Werten erlernen, das
ihr erlaubt, in bestimmten Situationen zu lügen,
um Schlimmeres zu verhindern; oder sie könnte
Abschätzungen erlernen, um den Gesamtnutzen einer
Handlung zu maximieren im Sinne einer utilitaristischen
Ethik. Dadurch würde ein solches System
Entscheidungen fällen können, die wir von außen als
moralische Entscheidungen interpretieren würden,
wenngleich die Maschine im menschlichen Sinne
nicht moralisch handelt. Und in diesem Sinne würde
der scheinbare Widerspruch aufgelöst werden.
Prof. Dr. Kai-Uwe Kühnberger
Universität Osnabrück
Künstliche Intelligenz
Fachbereich Humanwissenschaften
E-Mail: kkuehnbe@uni-osnabrueck.de
Internet: www.ikw.uni-osnabrueck.de/das_
institut/personal.html?no_cache=1