NK 07_2023

28 SICHERHEIT ©

28 SICHERHEIT © AdobeStock / WrightStudio FÜNF TRENDS BEIM BETRUG MIT KI! Die Künstliche Intelligenz kann in den verschiedensten Bereichen ungemein nützlich sein, öffnet aber auch Cyberkriminellen die Tore und neue Betrugsmethoden entwickeln sich schneller denn je. Künstliche Intelligenz (KI) und Large Language Models (LLM) sind in aller Munde – insbesondere ChatGPT sorgt täglich für Schlagzeilen und erhitzte Gemüter. Eines scheint dabei sicher: KI kann ungemein nützlich sein – vor allem im Kampf gegen Internet-Scammer und Finanzbetrüger. Immer mehr Unternehmen vertrauen daher auf entsprechende Werkzeuge, um ihre KYC-Prozesse (Know Your Customer) zu digitalisieren und die Legitimität von Zugriffen zu überprüfen. Mit KI-basierten Tools lassen sich beispielsweise Analyse und Verarbeitung von Benutzerdaten sowie Transaktionen automatisieren. Unternehmen können auf diese Weise ihr Onboarding verbessern und Engpässe im System vermeiden. Ebenso können Nutzer mit Sanktionslisten abgeglichen werden, um Betrugsabsichten und verdächtige Aktivitäten in Echtzeit anzuzeigen. Allerdings führt jede technologische Innovation unweigerlich auch zu neuen Betrugsmethoden, die Lücken in Regulierungen und Gesetzen ausnutzen. Das zeigen auch die jüngsten Entwicklungen im Bereich KI und LLM, auf die IDnow als Plattform für Identitätsprüfung in einer ebenso aktuellen wie hochinteressanten Medienmitteilung hinweist. Gefälschte Informationen: 5 Trends beim Betrug mit Künstlicher Intelligenz von IDnow 1. Social Engineering wird einfacher und schneller ChatGPT und ähnliche Tools haben gensbilanzen – oftmals noch personalisierter und genauer als die Originale. Bisher enthielten solche gefälschten Dokumente zudem häufig Rechtschreib- oder Grammatikfehler und waren damit leichter als Betrug zu erkennen. Mithilfe von KI lassen sich solche Fehler jedoch leichter vermeiden und die Grenze zwischen echten und falschen Dokumenten verschwimmt immer mehr. 2. Cyberkriminalität erfordert kaum mehr technisches Know-how Früher mussten Cyberkriminelle Software und Code verstehen, um glaubwürdige Dokumente oder Websites für ihre Betrugsversuche zu erstellen. Mithilfe der nutzerfreundlichen KI-basierten Tools können Cyberkriminelle auch mit wenig IT-Wissen und oft sogar ohne Programmierkenntnisse Malware, schädliche VBA-Skripte (Visual Basic for Appliances) und realistische Chatbots erstellen, um Opfer noch schneller und effektiver zu manipulieren. tätsdiebstahl und den Zugriff auf sensible Dokumente sowie die darin enthaltenen biometrischen Informationen. Ohne strenge Security-Checks oder moderne Gesichtserkennungssoftware wird es also schwieriger für Unternehmen, Dokumente auf ihre Echtheit zu überprüfen. 4. Chatverlauf als Risiko für den Datenschutz Eine der großen ChatGPT-Schlagzeilen kam im März 2023 als Italiens Datenschutzbehörde den Zugang zu ChatGPT im Land zwischenzeitlich gesperrt hatte. Grund war eine weitere Gefahr bei der Nutzung des Tools: Die Plattform enthielt einen Fehler, durch den der Chatverlauf und persönliche Daten für andere Benutzer sichtbar waren – Klarnamen, Adressen, Passwörter sowie alle Eingaben in das LLM waren betroffen. Diese Lücke im System öffnete Betrügern Tür und Tor, sich diese Daten zu eigen zu machen und sich als die betreffenden Personen auszugeben. ren Wahrheitsgehalt überprüft werden. Unternehmen sollten sich keinesfalls ausschließlich auf LLM verlassen, um beispielsweise ihre KYC- Prozesse und Geldwäsche-Checks durchzuführen. Unzählige Informationen – gerade in Bezug auf Sanktionslisten – lassen sich in den LLM manipulieren und führen so zu falschen Schlussfolgerungen. Achtung vor den Krypto-Betrügern! Neben meinen fundierten Empfehlungen befasse ich mich auch fortlaufend sehr intensiv mit schwarzen Schafen und unseriösen Krypto-, Mining- oder Trading-Anbietern. Diese missbrauchen den Krypto-Boom, um ihre – meist in betrügerischer Absicht konzipierten – Shitcoins oder angeblichen Krypto-Investment- (SCAM) bzw. Schneeball-Systeme (PONZI) gezielt und bewusst an unbedarfte Anleger zu verkaufen. Ich warne Sie regelmäßig vor dubiosen Anbietern und aktuellen Betrugsmaschen. Markus Miller Gründer und Chefanalyst KRYPTO-X.BIZ und GEOPOLITICAL.BIZ die Produktivität erhöht – jedoch leider auch die von Cyber-Kriminellen. Diese betreiben immer häufiger Social Engineering mithilfe von KI-basierten Tools, um sich beispielsweise erfolgreich als reale Personen bei Romance Scams auszugeben. Auch bei Phishing-Angriffen erstellen sie verstärkt mithilfe von künstlicher Intelligenz gefälschte Dokumente wie Rechnungen, Verträge und Vermö- 3. Anspruchsvolle Dokumentenfälschung Nicht nur LLM gehören zu den aktuellen KI-Trends. Auch Bilder, Stimmen und sogar ganze 3D-Modelle lassen sich glaubwürdig mit künstlicher Intelligenz erstellen. Damit sind Betrüger in der Lage, Pässe und andere offizielle Dokumente zu fälschen. Generative KI-Modelle vereinfachen Identi- 5. Manipulierte Informationen Was ist wahr und was ist gefälscht? Das ist nicht nur in Bezug auf klassische Betrugsfälle immer schwieriger zu erkennen. Die Gefahr durch „Fake News“ wird voraussichtlich exponentiell zunehmen, während die manipulierten Inhalte immer authentischer klingen. Auch Datenbanken müssen in dieser Hinsicht sorgfältiger auf ih- Markus Miller Markus Miller war viele Jahre für renommierte Privatbanken in den Bereichen Private Banking, Discount Brokerage, Treasury, Asset Management, Wertpapierhandel und Business Development tätig. Neben dem Bankplatz Deutschland hat der diplomierte Vermögensmanager und Vertriebsleiter Erfahrungen bei international tätigen Banken und Beratungsfirmen in Österreich, Liechtenstein sowie der Schweiz gesammelt. www.geopolitical.biz · www.krypto-x.biz 07.2023

BRANCHE ZUKUNFT 29 © AdobeStock / Viks_jin © AdobeStock / Monkey Business SPALTUNG ZWISCHEN WOHLHABENDEN UND HABENICHTSEN Neun von zehn Bundesbürgern erwarten für die Zukunft eine zunehmende Spaltung zwischen Arm und Reich in Deutschland. Innerhalb der Bevölkerung sind hierbei kaum Unterschiede nachweisbar. Im Zeitvergleich zu 2012 erhöhte sich die Sorge deutlich von 75 auf 91 Prozent. Spaltung zwischen Wohlhabenden und Habenichtsen: Von je 100 Befragten sagen, dass die Kluft zwischen Arm und Reich in Deutschland immer größer wird: Gründe als armutsgefährdet, da sie weniger Zusammenhaltes und der Demokra- als 60 Prozent des Durchschnittsein- tie sowie letztendlich des Wohlstands Weltweit gibt es etwa 22 Millionen Mil- kommens erhalten. Besonders betrof- und der Sicherheit. lionäre von denen knapp 3.000 sogar fen sind hiervon Personen ohne Schul- mehr eine Milliarde Dollar besitzen. abschluss, Alleinerziehende, Mitbür- Entscheidungsträger sind sich dieser Die wohl höchsten Einkommen hatten ger mit Migrationshintergrund sowie Gefahren durchaus bewusst, zeigen zuletzt Bernard Arnault, Elon Musk Erwerbslose. sich jedoch noch uneins welche Maß- und Jeff Bezos, die in jeder Sekunde nahmen ergriffen werden müssen, des letzten Jahres in etwa genauso viel Auf der anderen Seite gibt es rund um die Ungleichheit zu verringern verdienten wie der Durchschnitts- über 1,5 Millionen Millionäre in und soziale Mobilität zu fördern. Ob haushalt in Deutschland netto pro Mo- Deutschland und immerhin 22 Pro- die Betonung von Leistung, eine an- nat zur Verfügung hat: 3.813€. zent aller Haushalte verfügen über dere Steuerpolitik, mehr Investitionen mehr als 5.000 € netto monatlich. Be- in Bildung, Infrastruktur oder Arbeits- Diese Summe setzt sich zusammen sonders häufig umfasst dieser Perso- plätze, ein bedingungsloses Grund- aus dem Einkommen von Erwerbstä- nenkreis Männer im mittleren Alter einkommen oder ein höherer Min- tigkeiten (64%), öffentlichen Transfer- aus Westdeutschland, die gut ausge- destlohn erfolgreich sein werden, zahlungen (21%) aus Vermögenswer- bildet sind und selbstständig arbeiten. wird sich zeigen. ten (10%) sowie nicht öffentlichen Transferleistungen wie z.B. Betriebs- Prognose Klar ist zudem, dass die Politik dieses renten, Unterstützung der Familie, private Versicherungen etc. (5%). Große Unterschiede zeigen sich einerseits zwischen Ost- (3.015€) und West- Die Unterschiede beim Einkommen und der Vermögensverteilung sind groß. Nehmen diese Ungleichheiten nicht allein wird regeln können, sondern auch die Unterstützung aus der Wirtschaft sowie die Bereitschaft jedes Bürgers braucht Veränderungen © Xxxxxxxxx deutschland (3.830€), noch viel stär- weiter zu, so drohen in der Gesell- mitzutragen. ker allerdings abhängig von den jewei- schaft wachsenden soziale Spannun- ligen Lebensumständen. So gelten gen, eine zunehmende Radikalisie- Quelle: Stiftung für Zukunftsfragen über 20 Prozent aller Bundesbürger rung, eine Gefährdung des sozialen