IT-Nachwuchsforschung in Österreich

Abwehrmaßnahmen bei Cyberangriffen
von Andrea Siposova
Datenexfiltration mit Hilfe
von Modellen des
maschinellen Lernens
Sensible Daten, insbesondere in Bereichen
wie dem Gesundheits-, dem Versicherungs-
und dem Bankwesen, wo die
Datensätze häufig personenbezogene
Informationen enthalten, gehören zu
den wertvollsten Datenarten. Insbesondere
beim maschinellen Lernen werden
Daten zu einem entscheidenden Faktor,
da die Qualität und Robustheit der
Modelle direkt von der Qualität der Trainingsdaten
abhängen. Die mit der Datenerhebung
oder -weiterverarbeitung
verbundenen Kosten erhöhen den Wert
der Daten zusätzlich.
Wertvolle Daten ziehen natürlich auch
die Aufmerksamkeit von Angreifer*innen
auf sich und in den letzten Jahren ist die
Zahl der Cyberangriffe, wie z. B. Datenlecks
durch Phishing und Ransomware,
erheblich gestiegen. Dieser Trend hat
Schwachstellen in Systemen aufgedeckt,
die bisher als sehr sicher gegen solche
Bedrohungen galten. Im Mai 2021 wurde
beispielsweise die irische Gesundheitsbehörde
Health Service Executive (HSE) Opfer
eines schweren Ransomware-Angriffs,
der zu einem landesweiten Ausfall aller
IT-Systeme führte. Dieser Angriff war der
größte bekannte Angriff auf ein Computersystem
eines Gesundheitssystems. In
einem Ransomware-Angriff verschafften
sich Angreifer*innen Zugang zu sensiblen
Daten und drohten damit, über 700
Gigabyte an Daten zu verkaufen oder
zu veröffentlichen, wovon über 100,000
Personen betroffen waren. Sensible Daten
von 520 Patient*innen sowie weitere
Unternehmensdokumente, wurden tatsächlich
ins Netz gestellt.
Angreifer*innen werden in der Regel
durch die Aussicht auf finanzielle oder
strategische Vorteile motiviert, sich unbefugten
Zugang zu verschaffen. Laut dem
Verizon 2023 Data Breach Investigation
Report waren 94,6 % der Datenschutzverletzungen
finanziell motiviert. Im oben
genannten Fall soll die Angreifergruppe
Berichten zufolge ein Lösegeld in Höhe
von 16,5 Millionen Euro gefordert haben.
ANGRIFFSVEKTOREN UND
SCHWACHSTELLEN
Wenn es um maschinelles Lernen geht,
ist es wichtig zu erkennen, dass es neben
dem Einsatz von Malware oder Ransomware
auch andere Arten von Cyberangriffen
geben kann. So können beispielsweise
auch scheinbar harmlose Praktiken
wie kollaboratives Lernen oder Outsourcing
an Data Science Expert*innen als
mögliche Angriffsvektoren für Cyberangriffe
dienen. Schwachstellen können
entstehen, wenn ein Dateneigentümer
die Modellerstellung auslagert, möglicherweise
unter Verwendung von Programmbibliotheken
von Drittanbietern,
oder die Nutzung von Daten durch Dritte
erlaubt wird, wie z. B. bei Forschungsprojekten
oder Federated Learning Szenarien,
bei denen der „Code zu den Daten“
kommt, ohne dass die Daten explizit freigegeben
werden.
Der gemeinsame Ausgangspunkt für
Angriffe auf die Daten ist daher die Anwendung
von Algorithmen Dritter auf
vertrauliche Daten. Die Angreifer*innen
müssen zudem in der Lage sein, auf
das trainierte ML-Modell zuzugreifen.
Durch die Ausnutzung der Kapazität von
ML-Modellen können Angreifer*innen,
die Daten exfiltrieren, selbst wenn der
bereitgestellte Code in einer isolierten,
sicheren Computerumgebung ausgeführt
wird. Dazu wird zusätzlich zu dem
gutartigen Code, der das maschinelle
Lernmodell trainiert, bösartiger Code bereitgestellt,
der steganografische Techniken
implementiert, um das Modell als
versteckten Kanal für die Datenexfiltration
zu nutzen. Dieses Szenario ist in Abbildung
1 dargestellt.
Die Partei, die das Modell auf ihren Daten
trainiert, hat die Möglichkeit, Abwehrtechniken
auf das trainierte Modell anzuwenden,
bevor es veröffentlicht wird.
Der rechte Teil von Abbildung 1 zeigt eine
Verteidigung, die darauf abzielt, die im
Modell versteckten Informationen zu entfernen,
um zu verhindern, dass die Angreifer*innen
die versteckten Trainingsdaten
rekonstruieren können, sobald sie
Zugang erhalten.
ANGRIFFE MITTELS MASCHINEL-
LEN LERNENS
Song et al. 1 haben erstmals Angriffe zur
Datenexfiltration mittels maschinellen
Lernens vorgestellt und dabei zwei
Kategorien unterschieden. Beim White-Box-Zugriff,
d. h. dem vollständigen
20 OCG Journal | 01 • 2024