IT Security Januar / Februar 2024

IT SECURITY | 9
Quelle: Gerd Altmann | Pixabay
verbreiten oder die Erkennungsmechanismen
von Sicherheitslösungen zu
schwächen.
Vergiftete Trainingsdaten
Grundsätzlich basiert Data Poisoning
auf dem Verfälschen von Trainingsdaten.
Dabei werden bereits zugewiesene
Labels für Datensätze ausgetauscht
oder die Datensätze selbst verändert
und mit „Approved“-Labels versehen,
damit die KI falsche Klassifizierungen
vornimmt und False Positives oder False
Negatives produziert. Je nach der Menge
der Manipulationen kann das komplette
KI-Modell kompromittiert sein,
sodass es insgesamt ungenauer arbeitet
(Availability Attacks), oder nur ein Teil
– dann arbeitet es größtenteils korrekt
und hat nur in einzelnen Bereichen
Schwächen (Targeted Attacks und Subpopulation
Attacks). Durch gezielte
Manipulationen können Cyberkriminelle
aber auch eine Art von Hintertür einbauen,
damit das KI-Modell später im
Produktiveinsatz bei einigen Inputs einen
ganz bestimmten Output liefert
(Backdoor Attacks).
Wollen Cyberkriminelle die KI in bestimmten
Bereichen schwächen oder
spezifische Outputs hervorrufen, müssen
sie das Modell und die Trainingsparameter
genau kennen. Geht es nur
darum, die Genauigkeit der KI insgesamt
zu verringern, kommen sie ohne
dieses Wissen aus.
Unabhängig davon ist es meist schwer,
ein Data Poisoning zu entdecken, solange
die KI keine groben Auffälligkeiten
zeigt. Zudem ist es extrem aufwendig,
das KI-Modell zu reparieren, da Unternehmen
alle Trainingsdatensätze analysieren
und in der Lage sein müssen,
die manipulierten Datensätze aufzuspüren
und zu entfernen. Das anschließende
Neutraining des Modells erfordert
viel Rechenleistung und verursacht hohe
Kosten, weshalb das beste Mittel
gegen Data Poisoning ein zuverlässiger
Schutz der Trainingsdaten ist. Bewährt
hat sich Zero Trust, das unberechtigte
Zugriffe und damit Manipulationen verhindert.
Mit statistischen Methoden lassen
sich darüber hinaus Anomalien in
den Daten aufspüren, und während des
Trainings helfen Tools wie Azure Monitor
und Amazon SageMaker, die Leistung
der Modelle zu überwachen und
unerwartete Schwankungen in der Genauigkeit
zu erkennen.
Zunehmende Regulierung
Nicht immer rühren Ungenauigkeiten in
KI-Modellen allerdings von einer Manipulation
durch Cyberkriminelle her.
Manchmal sind die Trainingsdaten bereits
von vornherein vorurteilsbehaftet,
weil sie älteren Ursprungs sind oder von
Menschen erstellt wurden. Die KI-Modelle
trainieren sich diese Vorurteile an,
was zu diskriminierenden oder unfairen
Ausgaben und Entscheidungen führt. Im
Security-Bereich könnte eine Sicherheitslösung
dann beispielsweise den
legitimen Zugriff auf ein System verweigern,
weil der betreffende Anwender
oder das betreffende System in der Vergangenheit
in einen Sicherheitsvorfall
involviert war.
Verhindern lässt sich das durch die Auswahl
von geeigneten Trainingsdaten
und transparente KI-Modelle, deren
Entscheidungen nachvollzogen und erklärt
werden können. Solche Best Practices
wollen Organisationen wie die
UNESCO und Unternehmen wie Microsoft
und IBM durch Frameworks für ethische
KI vorantreiben. Darüber hinaus
arbeiten die EU und die USA an Gesetzen,
die Leitplanken für die Entwicklung
und den Einsatz von KI abstecken sollen.
Das dürfte zunächst zu einer uneinheitlichen
Regulierungslandschaft und
einem hohen Compliance-Aufwand für
Unternehmen führen, das wilde Herumexperimentieren
ohne Grenzen und Regeln
– das manche KI-Experten schon
mit dem Wilden Westen verglichen haben
– jedoch unterbinden.
NICHT NUR FÜR
NORMALE BÜROANGE-
STELLTE SIND KI-TOOLS
NÜTZLICHE HELFER,
SONDERN LEIDER AUCH
FÜR CYBERKRIMINELLE.
Fabian Glöser,
Team Leader Sales Engineering,
Forcepoint, www.forcepoint.com
www.it-daily.net | Januar/Februar 2024