1-2021

Editorial
Künstliche Intelligenz und
menschliche Dummheit
Unser Leben wird mehr und mehr durch Technik dominiert, bis hin zur Künstlichen Intelligenz (KI) in
die eigenen vier Wände. Doch lohnt es sich, hierbei kritisch abzuchecken, ob die damit verbundenen
Erwartungen auch erfüllt werden können. Anhand von drei Beispielen aus dem Bereich „Haus und
Elektronik“ möchte ich dies illustrieren.
Ing. Frank Sichla
Haus und Elektronik
Das erste Beispiel ist recht lustig: Ein technikbegeisterter Bekannter hatte für teures Geld eine intelligente
Katzenklappe installieren lassen. Die öffnete nur nach innen, wenn sich die mit einem Chip ausgestattete
eigene Katze näherte, während sie nach außen ohne diese Einschränkung öffnete. Nun gab es da in der
Nähe einen kleinen Waschbären, der das Hereingehen und Herauskommen der Katze beobachtete. Er
gelangte ganz einfach ins Haus, indem er die Klappe zu sich herauszog, machte sich über das Katzenfutter
her und flüchtete, vom Hausherrn überrascht, zunächst mal in den Keller, um nach einiger im Haus
gestifteten Unordnung wieder durch die Klappe zu verschwinden. Dumm gelaufen für den auf seine
vermeintlich intelligente Lösung stolzen Hausherren…
Das zweite Beispiel ist nach meiner Meinung ein echter Skandal: Das kriminaltechnische Labor Bundpol
testet Technik auf Schwachstellen und Sicherheitslücken, etwa Funkalarmanlagen, die sich dank ihrer
Flexibilität und einfachen Installation großer Beliebtheit erfreuen. Unbekannt ist dabei oft, dass Diebe
eine solche Alarmanlage leicht deaktivieren können. Daher fielen alle Funkalarmanlagen, die vom
Bewegungsmelder über Fenstermelder sowie mit dem Handynetz verbunden werden, bei Tests auf
Manipulationssicherheit durch. Die Deaktivierung gelingt leicht mit handelsüblichen Geräten, sogenannten
Jammern, die man legal für wenig Geld im Internet erhält. Da macht auch die „Sicherheitsfrequenz“ 868
MHz keine Ausnahme. Anwender, die aufgrund der Installationsvorteile eine Funkalarmanlage wählen,
wiegen sich dummerweise leider in falscher Sicherheit…
Beispiel Nummer drei: Im smarten Heim der Zukunft soll Künstliche Intelligenz (KI) das Kommando in der
Steuerungszentrale übernehmen und für eine automatisierte Rundumversorgung sorgen. „Bei der weiteren
Entwicklung von Smart Living wird KI eine entscheidende Rolle spielen“, meint Michael Schidlack von der
Wirtschaftsinitiative Smart Living. Denn die KI könne mithilfe von Sensoren, Mikrofonen und Kameras alle
Wünsche der Bewohner erfüllen.
Doch Sicherheitsspezialisten wie Rolf Haas von McAfee wissen: Wer auf die Wohnungssteuerung
zugreifen kann, der beherrscht Haus und Bewohner. Deshalb muss diese extrem gut abgesichert
sein. Genau da aber gibt es noch viel Nachholbedarf: Die Verschlüsselung ist oft mangelhaft, die
Steuerungssysteme lassen sich teilweise über wenig abgesicherte Apps bedienen. Daher gilt die
Steuerungs-Software für das Smart Living unter Sicherheitsexperten als recht offen. In Sachen Sicherheit
besteht also auch beim Smart Living noch Nachholbedarf.
Solch intelligente Systeme lassen sich dank KI per Spracheingabe steuern. Das führt uns zu
Spracheingabesystemen wir Alexa, Siri und Google Home. Dass diese datenschutzrechtlich erhebliche
Sicherheitslücken aufweisen, stört die meisten Nutzer nicht, was steigende Verkaufszahlen untermauern.
Olaf Pusch, IT-Sicherheitsexperte, verweist darauf, dass so ein Gerät die ganze Zeit mithören muss, um
reagieren zu können. Dabei kann es sich auch einmal „verhören“ und dann private Gespräche an einen
zufälligen Kontakt versenden. Das Marktwächter-Team der Verbraucherzentrale Nordrhein-Westfalen
fand heraus, dass Alexa keineswegs nur auf ihr festgelegtes Signalwort reagiert, sondern auch auf ähnlich
klingende Begriffe. Daher sind die Nutzer und ihre Privatsphäre nicht absolut sicher.
Alexa-Nutzer stimmen zu, dass ihre Gespräche ausgewertet werden könnten – aber ob von einer KI oder
von Menschen, das lässt Amazon offen. Bekannt ist nur, dass alles, was nach Aussprechen des Code-
Wortes gesagt wird, auf amerikanischen Servern landet. Und das unabhängige IT-Sicherheitsinstitut
AV-Test stellte bei Alexa sogar einen permanenten Datenversand fest, auch wenn das Gerät eigentlich aus
sein sollte.
Lt. DSGVO müssen „Kunden über alles einfach, klar und verständlich informiert werden“.
Bundesjustizministerin Katarina Barley hält daher die Praktik, Sprachbefehle aufzuzeichnen, nur weil die
Datenschutzerklärung schwammig sei, für „nicht akzeptabel“ und droht mit Bußgeldern in Höhe von 4 %
des Jahresumsatzes. Dies ist nach meiner Meinung vielleicht etwas dumm, denn wie will man Amazon
bestrafen, wenn man es nicht einmal besteuern kann?
Ing. Frank Sichla
Haus und Elektronik 1/2021 3