IT Security Januar / Februar 2024

Weitere Magazine

Empfehlungen

Info

8 | IT SECURITY Ausblick auf 2024 KI VERSCHÄRFT DIE BEDROHUNGSLAGE KI hat zwar das Potenzial viele Sicherheitslösungen zu verbessern, doch auch Cyberkriminelle machen sich die Technologie mehr und mehr zunutze. Ein Ausblick darauf, wie KI das Security- Business in den kommenden Monaten verändern wird. ChatGPT hat vielen Unternehmen die Augen geöffnet, wozu moderne KI-Tools inzwischen fähig sind. Sie beantworten Fragen, fassen Meetings zusammen, verbessern Präsentationen, analysieren Kennzahlen und optimieren Quellcode, und das viel schneller als Menschen es je könnten. Wurde 2023 noch viel experimentiert, werden mehr und mehr Unternehmen die KI-Nutzung in den kommenden Monaten zielgerichtet und koordiniert angehen, um ihren Mitarbeitern den Arbeitsalltag zu erleichtern. Damit dürften die Nutzerzahlen weiterhin schnell wachsen und die Dienste zunehmend für Cyberkriminelle attraktiv werden – schließlich können sie über ein einziges kompromittiertes KI-Angebot eine Vielzahl von Opfern erreichen. Ein möglicher Angriffsvektor ist das sogenannte Data Poisoning, bei dem versucht wird, die Algorithmen zu manipulieren, damit sie weniger genau arbeiten oder sogar falsche Ergebnisse liefern. Wirklich neu ist das nicht: Schon seit Jahren versuchen Cyberkriminelle auf diese Weise, Spam-Filter zu unterlaufen, und 2016 machte der Austausch mit Twitter-Nutzern einen lernenden Chatbot von Microsoft binnen weniger Stunden zum Rassisten. Mit den vielen neuen KI- oder KI-basierten Tools und dem einfachen Zugang zu Rechenleistung in der Cloud wird die Zahl solcher Manipulationen jedoch zunehmen, um beispielsweise Falschinformationen zu Januar/Februar 2024 | www.it-daily.net
IT SECURITY | 9 Quelle: Gerd Altmann | Pixabay verbreiten oder die Erkennungsmechanismen von Sicherheitslösungen zu schwächen. Vergiftete Trainingsdaten Grundsätzlich basiert Data Poisoning auf dem Verfälschen von Trainingsdaten. Dabei werden bereits zugewiesene Labels für Datensätze ausgetauscht oder die Datensätze selbst verändert und mit „Approved“-Labels versehen, damit die KI falsche Klassifizierungen vornimmt und False Positives oder False Negatives produziert. Je nach der Menge der Manipulationen kann das komplette KI-Modell kompromittiert sein, sodass es insgesamt ungenauer arbeitet (Availability Attacks), oder nur ein Teil – dann arbeitet es größtenteils korrekt und hat nur in einzelnen Bereichen Schwächen (Targeted Attacks und Subpopulation Attacks). Durch gezielte Manipulationen können Cyberkriminelle aber auch eine Art von Hintertür einbauen, damit das KI-Modell später im Produktiveinsatz bei einigen Inputs einen ganz bestimmten Output liefert (Backdoor Attacks). Wollen Cyberkriminelle die KI in bestimmten Bereichen schwächen oder spezifische Outputs hervorrufen, müssen sie das Modell und die Trainingsparameter genau kennen. Geht es nur darum, die Genauigkeit der KI insgesamt zu verringern, kommen sie ohne dieses Wissen aus. Unabhängig davon ist es meist schwer, ein Data Poisoning zu entdecken, solange die KI keine groben Auffälligkeiten zeigt. Zudem ist es extrem aufwendig, das KI-Modell zu reparieren, da Unternehmen alle Trainingsdatensätze analysieren und in der Lage sein müssen, die manipulierten Datensätze aufzuspüren und zu entfernen. Das anschließende Neutraining des Modells erfordert viel Rechenleistung und verursacht hohe Kosten, weshalb das beste Mittel gegen Data Poisoning ein zuverlässiger Schutz der Trainingsdaten ist. Bewährt hat sich Zero Trust, das unberechtigte Zugriffe und damit Manipulationen verhindert. Mit statistischen Methoden lassen sich darüber hinaus Anomalien in den Daten aufspüren, und während des Trainings helfen Tools wie Azure Monitor und Amazon SageMaker, die Leistung der Modelle zu überwachen und unerwartete Schwankungen in der Genauigkeit zu erkennen. Zunehmende Regulierung Nicht immer rühren Ungenauigkeiten in KI-Modellen allerdings von einer Manipulation durch Cyberkriminelle her. Manchmal sind die Trainingsdaten bereits von vornherein vorurteilsbehaftet, weil sie älteren Ursprungs sind oder von Menschen erstellt wurden. Die KI-Modelle trainieren sich diese Vorurteile an, was zu diskriminierenden oder unfairen Ausgaben und Entscheidungen führt. Im Security-Bereich könnte eine Sicherheitslösung dann beispielsweise den legitimen Zugriff auf ein System verweigern, weil der betreffende Anwender oder das betreffende System in der Vergangenheit in einen Sicherheitsvorfall involviert war. Verhindern lässt sich das durch die Auswahl von geeigneten Trainingsdaten und transparente KI-Modelle, deren Entscheidungen nachvollzogen und erklärt werden können. Solche Best Practices wollen Organisationen wie die UNESCO und Unternehmen wie Microsoft und IBM durch Frameworks für ethische KI vorantreiben. Darüber hinaus arbeiten die EU und die USA an Gesetzen, die Leitplanken für die Entwicklung und den Einsatz von KI abstecken sollen. Das dürfte zunächst zu einer uneinheitlichen Regulierungslandschaft und einem hohen Compliance-Aufwand für Unternehmen führen, das wilde Herumexperimentieren ohne Grenzen und Regeln – das manche KI-Experten schon mit dem Wilden Westen verglichen haben – jedoch unterbinden. NICHT NUR FÜR NORMALE BÜROANGE- STELLTE SIND KI-TOOLS NÜTZLICHE HELFER, SONDERN LEIDER AUCH FÜR CYBERKRIMINELLE. Fabian Glöser, Team Leader Sales Engineering, Forcepoint, www.forcepoint.com www.it-daily.net | Januar/Februar 2024
Seite 1 und 2: Detect. Protect. Respond. Januar/Fe
Seite 3 und 4: INHALT | 3 Inhalt 04 COVERSTORY 4 E
Seite 5 und 6: COVERSTORY | 5 DIE VERMITTLUNG VON
Seite 7: IT SECURITY | 7 Was sind ihre Top-p
Seite 11 und 12: IT SECURITY | 11 Cyber sicherheitse
Seite 13 und 14: IT SECURITY | 13 zahl von Kontextin
Seite 15 und 16: IT SECURITY | 15 SO LANGE DAUERT ES
Seite 17 und 18: IT SECURITY | 17 einstieg in Kali L
Seite 19 und 20: IT SECURITY | 19 Die Krux also: Die
Seite 21 und 22: IT SECURITY | 21 lungen oder verein
Seite 23 und 24: IT SECURITY | 23 Fragmentierung und
Seite 25 und 26: IT SECURITY | 25 Die Verhaltenslüc
Seite 27 und 28: IT SECURITY | 27 gangsformat entspr
Seite 29 und 30: IT SECURITY | 29 sichere dateien in
Seite 31 und 32: IT SECURITY | 31 Zero Trust GANZHEI
Seite 33 und 34: IT SECURITY | 33 Ulrich Parthier: W
Seite 35 und 36: IT SECURITY | 35 geführt werden. D
Seite 37 und 38: IT SECURITY | 37 gehörten OWASP AP
Seite 39 und 40: IT SECURITY | 39 passwort managemen
Seite 41 und 42: IT SECURITY | 41 PAP 1. View record
Seite 43 und 44: IT SECURITY | 43 ➤ eine Ressource
Seite 45 und 46: IT SECURITY | 45 funktionsweise von
Seite 47 und 48: Cyberkriminelle überall da tut Hil

IT Security Januar / Februar 2024

Erfolgreiche ePaper selbst erstellen

Template löschen?

Als Template speichern?