KEM Konstruktion 04.2020

MAGAZIN PORTRÄT „Mit

MAGAZIN PORTRÄT „Mit KI-Prinzipien beginnt die eigentliche Arbeit erst. Man kann die Ingenieure und Informatiker nicht allein damit lassen.“ Christoph Lütge ist Leiter des 2019 gegründeten Institute for Ethics in Artifi - cial Intelligence (IEAI) an der TU München KEM Konstruktion: Impliziert „explainable AI“ letztlich Transparenz für Anwender? Lütge: Hier wird es interessant, denn diese ganzen Prinzipien sind halt abstrakt. Wir wollen erklären, was Ethik auf Ebene eines konkreten Systems bedeutet. Nun bringt Transparenz nicht sehr viel, wenn es sich um einen einfachen Code – bei Machine Learning oftmals der Fall – handelt, der Anwender allerdings nicht weiß, was aus diesem Code resultiert. Insofern lautet die Frage eher: Wie programmiere ich zum Beispiel verschiedene Interfaces, auf denen ich sehen kann, welche Faktoren das Resultat beeinflusst haben? Wem das etwas bringt, wird kontextabhängig sein. KEM Konstruktion: Sie wollen „Leitlinien für die Identifikation und Beantwortung ethischer Fragen der künstlichen Intelligenz“ erarbeiten. Was ist das Wichtigste dabei? Lütge: Das Wichtigste dabei ist sicherlich Erklärbarkeit, also Ergebnisse von KI-Prozessen erklärbar zu machen – explainable AI. Das finden Sie so nicht in anderen Bereichen der Ethik. KEM Konstruktion: Leitlinien besagen noch nicht unbedingt, was zu tun ist. Wo beginnt die Arbeit für Entwickler oder industrielle Entscheider? Lütge: An uns treten Unternehmen und KI-Entwickler heran, die auf der konkreten Entwicklungsebene mit uns zusammenarbeiten möchten, weil wir zusammen mit den geistes- und sozialwissenschaftlichen Hintergründen eine entsprechende Orientierung bieten und einschätzen können, ob die Richtung stimmt. Mit KI-Prinzipien beginnt die eigentliche Arbeit erst. Man kann die Ingenieure und Informatiker nicht allein damit lassen. Und das wollen diese auch nicht. Unser Institut versteht sich als Plattform, um die Kooperationen zwischen den unterschiedlichen Disziplinen zu ermöglichen, also zwischen Ingenieurwissenschaften beziehungsweise Informatik und Geistes- sowie Sozialwissenschaften. Wir sprechen Bild: Andreas Heddergott/TUM mit KI-Forschern und bringen sie mit weiteren Disziplinen zusammen. In unseren Forschungsprojekten geht es darum, auf der Forschungs- und Entwicklungsebene am konkreten System zu arbeiten. KEM Konstruktion: In einem Ihrer Forschungsprojekte, „A Human preference-aware optimization system“, geht es speziell um maschinelles Lernen in der Fertigung und Fragen dazu, welche Rückschlüsse die Datenanalyse der Produktionsprozesse auf die Werker zulässt und wie sich Daten letztlich im Sinne des Werkers nutzen lassen. Was steckt hinter diesem Forschungsansatz? Lütge: Es geht vor allem darum, diejenigen in ihren Bedürfnissen zu berücksichtigen, die konkret mit KI-Systemen arbeiten, also etwa Teams in Unternehmen. Hier fühlen sich Mitarbeiter oft nicht mitgenommen. Das wollen wir ändern. KEM Konstruktion: Damit sind zutiefst kulturelle Fragen verbunden. Lütge: In unterschiedlichen Ländern und Kulturen geht man unterschiedlich unbefangen und pragmatisch mit KI um. Also wir haben ein gewisses kulturelles Problem in Deutschland. Eine Herausforderung für Unternehmen ist es, das nicht zum Risiko werden zu lassen. Wir haben einiges aufzuholen. KEM Konstruktion: Wie nehmen Sie Unternehmen in Deutschland wahr? Lütge: Im Laufe des vergangenen Jahres sind einige große Player aufgewacht. Sie investieren nun massiv. Volkswagen ist ein Beispiel, das Kooperationen mit großen Partnern eingeht. Und man darf auch nicht sagen, bestimmte Kooperationen sind auszuschließen. Das halte ich für völlig verfehlt, weil es den Standort Deutschland zurückwerfen würde. Also einige sind aufgewacht, bei anderen bin ich mir nicht sicher. Das betrifft nicht nur den Mittelstand, sondern auch so manche große Unternehmen, die zu zögerlich sind, KI umzusetzen. Mittelständler fühlen sich gerade in Nischen von Marktführerschaften zu sicher. Nur rate ich zur Vorsicht, denn KI ist eine Technologie, die viel ändern wird. Es betrifft gerade die Großtechnologien, die sich ändern werden, wenn ein Fahrzeug beispielsweise autonom und rein elektrisch fährt. Die Technik, Zuliefererketten und Prozesse verändern sich. Und viel Wissen wird einfach entwertet. Ich meine, wir reden über KI, doch allein Digitalisierung ist bei einigen Unternehmen noch nicht angekommen. KEM Konstruktion: Stichwort Plattform-Ökonomie: Wird KI zum kritischen Wettbewerbsfaktor? Lütge: Plattform-Ökonomie ist in den vergangenen Jahren häufig ein massives Problem der deutschen Industrie gewesen. Gerade den B2C-Bereich haben Unternehmen 14 K|E|M Konstruktion 04 2020

vernachlässigt. Mittlerweile gibt es Anzeichen dafür, dass sich etwas verändert. KEM Konstruktion: Worin sehen Sie Gründe für zu zögerliches Vorgehen? Lütge: Das Thema Datenschutz wird teils zu stark vorgeschickt. Es gibt Datenschutzbeauftragte in den Unternehmen, die viel zu streng vorgehen und genauer hinsehen müssten, was in den einzelnen Gesetzen steht. Die Datenschutzgrundverordnung (DSGVO) existiert, um mit den Daten etwas machen zu können. Eine zu rigide Auslegung der Richtlinien ist gefährlich. Man muss also mit Daten umgehen können. Es reicht nicht, an der Firewall- Grenze damit aufzuhören, sondern es geht um Kooperationen mit anderen Unternehmen über die interne Datennutzung hinaus. Wenn also Automobilkonzerne in verschiedenen Bereichen, gerade beim autonomen Fahren, kooperieren, wird es darum gehen, Daten im großen Stil auszutauschen. Und das ist mit der DSGVO möglich – das sagen diejenigen selbst, die sie entwickelt haben. KEM Konstruktion: Ihre Arbeit ist ein sozio-ökonomischer Balanceakt. Wie bringen Sie unterschiedliche gesellschaftliche (System-) Interessen dennoch zu einem Common Sense in Sachen KI voran? Lütge: Vorteile künstlicher Intelligenz müssen sichtbar sein und herausgestellt werden. Es wird nicht reichen, zu sagen, KI ist für die deutsche Wirtschaft wichtig. KEM Konstruktion: Das bedeutet, nützliche und vertrauenswürdige Systeme zu entwickeln? Lütge: Entwickler und Manager treten an mich heran, weil sie merken, dass sie auf rein technischer Seite nicht vorankommen – zum Beispiel beim Programmieren, um die Systeme vertrauenswürdig zu machen, sodass sich Vertrauen breiter gesellschaftlicher Gruppen entwickeln kann. Mir sind Fälle bekannt, wo technische, KI-basierte Lösungen entwickelt worden sind, aber nicht angenommen wurden, weil den Anwendern das Vertrauen fehlte. KEM Konstruktion: Könnte ein besonderer KI-Ethik- Fokus ein Alleinstellungsmerkmal europäischer Hersteller werden? Lütge: Im Grundsatz ist es möglich. Also die Frage dahinter ist, ob es eine Art Gütesiegel werden könnte. Ich halte das für denkbar, nur erfordert es seitens Unternehmen die Bereitschaft, jetzt tätig zu werden und massiv zu investieren. KEM Konstruktion: Wie stark wird KI bereits von der Industrie genutzt? Lütge: Es ist natürlich immer die Frage, wo KI anfängt und wo sie aufhört. Relativ stark wird KI in Deutschland bisher in kontrollierten Umgebungen wie in der Logistik oder in Teilen der Produktion genutzt. Im Moment geht es aber darum, diese kontrollierten Umgebungen zu verlassen. Das bedeutet sowohl auf der technischen als auch auf der ethischen Seite eine Menge an Arbeit. Es geht um die Robustheit von Systemen, sodass diese mit Unwägbarkeiten zurecht kommen. KEM Konstruktion: Welche erfolgsversprechenden KI-Geschäftsmodelle sehen Sie? Lütge: Betrachten wir beispielsweise Preisbildung bei Buchungssystemen, geht es um Skalierung. KI kann dabei helfen, wenn man bereit ist, zu skalieren. Was man in Deutschland eher unterschätzt – gerade bei den Mittelständlern und Hidden Champions – ist die Erweiterbarkeit und Wachstumsfähigkeit von Plattformen, die mehr sind als bloß lokale Plattformen – nehmen Sie Mobilitätsplattformen wie Uber oder Lyft. Also mit KI-Systemen ließen sich viele Geschäftsmodelle aufbauen. Vielleicht ist eines der Probleme in Deutschland, dass man in den Großkonzernen zu sehr von den Entwicklungsabteilungen her denkt. KEM Konstruktion: Unser Verhalten und Miteinander wird sich durch zunehmend KI-gestützte technische Anwendungen wohl noch deutlicher verändern. Worauf sollten wir gefasst sein? Lütge: Es wird natürlich weitere Veränderungen geben. Die Frage ist ja, wie man diese bewertet, also ob man eine positive oder negative Konsequenz ableiten möchte. Viele Menschen schauen in der U-Bahn aufs Smart - phone. Und das ist nicht schlimm. Ich beobachte bei den Kritikern ein Festhalten am Überholten um seiner selbst willen. Aber ich finde, es geht doch darum, Interaktionen zu fördern – in welcher Form diese Interaktionen ablaufen, ist eine zweite Frage. KEM Konstruktion: Abschließend gefragt, da Facebook das IEAI bis 2023 mit insgesamt 6,5 Mio. Euro in seiner Forschung im Bereich Ethik der KI fördern wird: Gibt es über den thematischen Forschungsrahmen hinaus inhaltliche Vorgaben durch den Konzern? Lütge: Es gibt und es gab keine inhaltlichen Vorgaben durch Facebook. Es geht darum, zu Ethik der künstlichen Intelligenz zu forschen. Die Forschungsschwerpunkte werden über ein Advisory Board bewertet und ausgewählt, das mit externen Mitgliedern besetzt ist, und ohne Facebook-Vertreter. Die endgültigen Entscheidungen werden von einem Research Selection Committee getroffen. ieai.mcts.tum.de Details zu den aktuellen Forschungsprojekten am IEAI hier.pro/hZ5PZ K|E|M Konstruktion 04 2020 15