Leseprobe_Fast_Forward

Im Jahr 2013 hat ein von der niederländischen Regierung eingesetzter Algorithmus
das Leben von 25.000 Eltern durcheinandergebracht. Künstliche Intelligenz wurde
eingesetzt, um eine ihrer besonderen Stärken auszuspielen, nämlich Vorhersagen
durch die Analyse großer Datenmengen zu treffen. Die Regierung wollte wissen,
welche Personen am ehesten Betrug mit Kinderbetreuungsgeld begehen würden.
Anstatt jedoch auf Beweise zu warten, bestrafte sie die durch KI identifizierten
Familien sofort und forderte sie auf, jahrelang bezogene Leistungen zurückzuzahlen.
Die Familien wurden anhand von „Risikofaktoren“ wie geringem Einkommen
oder doppelter Staatsangehörigkeit in Kategorien eingeteilt. Infolgedessen mussten
Zehntausende von Menschen unnötigerweise Geld zurückzahlen und mehr als
1.000 Kinder wurden in Pflegefamilien untergebracht bevor das Problem erkannt
wurde. 40
Es gibt auch aktuellere Beispiele. So wurden KI-Algorithmen zur Vorhersage von
Rückfallquoten eingesetzt, die wiederum als Grundlage für Entscheidungen über
Kautionen und Verurteilungen dienen. Algorithmen wie das COMPAS-System, das
in den US-Bundesstaaten Kalifornien, Florida, New York und Wisconsin eingesetzt
wird, haben sich jedoch als voreingenommen gegenüber bestimmten rassischen
und ethnischen Gruppen erwiesen und diskriminierende Ergebnissen gebracht,
die in einigen Fällen zu Strafen von bis zu sechs Jahren für ein geringfügiges Vergehen
führten. 41 Eine Möglichkeit, solche Ergebnisse zu vermeiden und KI-Modelle
vertrauenswürdiger zu machen, bestünde darin, ihre Vorhersagen oder Empfehlungen
mit einem „Confidence Score“ (Wert über die Vertrauenswürdigkeit) zu
versehen.
In vielen Fällen wissen die Menschen, die Maschinen trainieren, sehr wenig
über die Realitäten, die sie durch ihre Arbeit beeinflussen. Aber einige erkennen
mittlerweile, dass es notwendig und möglich ist, tragische Fehler wie die oben
beschriebenen zu verhindern. Die Lösung liegt auf der Hand: Man muss Menschen
einbeziehen, die sich mit der Materie auskennen. Einfach nur vage Empfehlungen
für eine breitere Beteiligung auszusprechen geht an der Sache vorbei. Ja,
wir brauchen eine viel breitere Beteiligung und damit eine Repräsentation unterschiedlicher
gesellschaftlicher Belange, aber manchmal müssen wir sehr genau
52