IT-Nachwuchsforschung in Österreich

Weitere Magazine

Empfehlungen

Info

WIE KANN MAN SICH SCHÜT- ZEN? Der Schutz des Kontextes in LLMs vor Prompt Injections ist wichtig, aber herausfordernd. Da der Kontext ein zentraler Teil des LLM Anweisungspakets ist und die Prompts der Nutzer*innen einschließt, sollte er keine sensiblen Informationen beinhalten. Zusätzlich ist es entscheidend, das Backend der Applikation vom LLM zu trennen und bewährte Sicherheitsmaßnahmen wie Prepared Statements zu nutzen, um SQL Injections durch Prompts zu verhindern. Eine effektive Strategie zur Sicherung der Applikation ist es auch, die Kontexte innerhalb der Nutzersitzungen zu begrenzen, um das Risiko von Angriffen zu reduzieren. Insgesamt sind Prompt Injections nur schwer über klassisches Blacklisting oder Filtering zu begrenzen, da diese über natürliche Sprache formuliert werden. Ein Angriff kann also verschiedensten Sprachkonstruktionen entspringen, was solche Ansätze zur Abwehr schwierig gestaltet. Des Weiteren kann man solche Filter umgehen, indem man die Anweisungen verschlüsselt und diese vom LLM entschlüsseln lässt. Zusammenfassend lässt sich sagen, dass LLMs nicht als vertrauenswürdige Quelle zur Datenverarbeitung betrachtet werden sollten. Nutzer*innen haben direkten Zugriff auf den Anweisungscode des LLMs, wodurch die Ausgaben des Modells als potenziell nicht vertrauenswürdig gelten. Dies erfordert besondere Aufmerksamkeit und angemessene Sicherheitsvorkehrungen. Caroline Lawitschka ist Masterstudentin für Artificial Intelligence an der JKU sowie für Philosophie an der Universität Wien. Derzeit ist sie an der Unversität Wien als Researcher in der Forschungsgruppe für Security und Privacy tätig. Transparenz und Nachvollziehbarkeit des Forschungsprozesses von Josef Taha FAIRE Forschung mit dynamischen Daten Die Welt der Forschung ist im Wandel – dynamische Datenströme sind das Rückgrat vieler Wissenschafts- und Forschungsfelder. Die Fähigkeit, diese Daten nicht nur zu analysieren, sondern auch die Forschung zu einem späteren Zeitpunkt exakt reproduzieren zu können, ist von entscheidender Bedeutung. Hier setzt VRE+ an, ein Konzept, das durch die Integration diverser Open-Source-Tools eine modulare und FAIR-konforme virtuelle Forschungsumgebung darstellt. In der Wissenschaft rücken Reproduzierbarkeit und Transparenz, besonders in Bereichen wie Machine Learning, immer stärker in den Vordergrund. Es ist entscheidend, sowohl Ergebnisse als auch den gesamten Forschungsprozess nachvollziehen zu können, insbesondere bei dynamischen Daten, die sich stetig ändern. Die FAIR-Prinzipien – Findability, Accessibility, Interoperability und Reusability – spielen dabei eine Schlüsselrolle, indem sie die Effizienz und Integrität wissenschaftlicher Arbeit steigern 1 . VRE+: FAIR, MODULAR UND OPEN-SOURCE VRE+ ist eine an der TU Wien entwickelte, modulare und FAIRE Architektur für virtuelle Forschungsumgebungen, die auf den folgenden Open-Source-Komponenten basiert: JupyterHub, Binder, GitLab, InvenioRDM und DBRepo 2 . Diese Architektur zielt darauf ab, die Reproduzierbarkeit und Transparenz in der Datenforschung zu optimieren, insbesondere im Umgang mit dynamischen Daten 3. InvenioRDM und DBRepo dienen hierbei als FAIR-konforme Datenrepositories. Während InvenioRDM für die Verwaltung von Dateien und Forschungsartefakten genutzt wird, spezialisiert sich DBRepo auf die Handhabung strukturierter relationaler Daten sowie Echtzeitdaten, die sich kontinuierlich ändern. GitLab kommt für das versionierte Management von Forschungscodes in Form von Jupyter Notebooks zum Einsatz. JupyterHub und Binder bilden die Rechenumgebung für die Forschung und ermöglichen das automatisierte Aufsetzen von Forschungsumgebungen mit einem Klick. VALIDIERUNG MITTELS LUFT- QUALITÄTSDATEN Die Luftqualitätsüberwachung in Österreich diente als Test-Anwendungsbeispiel für die Evaluierung von VRE+. Sie umfasste zwei Datenquellen: (i) historische 10 OCG Journal | 01 • 2024
Young Researchers‘ Day Daten aus einem 20-jährigen Archiv, die aufwändige Vorverarbeitung benötigten, und (ii) aktuelle Echtzeitdaten, die im 30-Minuten-Takt von 200 Messstationen erfasst wurden. Für den Test wurden die historischen Rohdaten aus InvenioRDM in ein Jupyter-Notebook geladen, aufbereitet und wieder in InvenioRDM als saubere, analysierbare Daten mit Metadaten gespeichert, die auf den Ursprungsdatensatz und das verarbeitende Notebook hinweisen. Echtzeitdaten wurden ebenfalls in den Test integriert, indem sie über DBRepo bezogen und für die Erstellung von Datensnapshots verwendet wurden. Diese mit einem DOI versehenen Snapshots ermöglichten es, sowohl aktuelle als auch spezifische historische Zustände, wie beispielsweise Stromausfälle, präzise festzuhalten und reproduzierbar zu machen. In diesem Test wurden Jupyter-Notebooks verwendet, um die aufbereiteten historischen Daten in Trainings- und Testsets umzuwandeln, die dann in DBRepo gespeichert wurden. Auf dieser Basis wurde ein prädiktives Wettervorhersagemodell entwickelt und in Invenio hochgeladen. Die Metadatenverknüpfung in Invenio wies auf die Daten in DBRepo und den Code in GitLab hin. Über Binder wurde eine teilbare, automatisch ausführbare Forschungsumgebung bereitgestellt, um die Workflows des Testfalls auszuführen. Diese Anwendung demonstrierte die Transparenz und Nachvollziehbarkeit des Forschungsprozesses gemäß FAIR-Prinzipien und zeigte die Potenziale von VRE+ in der Handhabung dynamischer Daten auf. Josef Taha ist Masterstudent im Fachbereich Data Science an der Technischen Universität Wien und arbeitet als Cloud Engineer im Bereich Jupyter Services an der TU.it. Seine Forschungsinteressen sind im Bereich Entwicklung optimaler Umgebung für Forschung und Lehre. 1 Neil P. Chue Hong, Daniel S. Katz, Michelle Barker, Anna-Lena Lamprecht, Carlos Martinez, Fotis E. Psomopoulos, Jen Harrow, Leyla Jael Castro, Morane Gruenpeter, Paula Andrea Martinez, and Tom Honeyman. FAIR Principles for Research Software (FAIR4RS Principles). Research Data Alliance, 2021. doi: 10.15497/RDA00068. 2 Robert N Allan. Virtual Research Environments: From Portals to Science Gateways. Elsevier, 2009. ISBN 9781843345626. 3 Martin Weise, Cornelia Michlits, Moritz Staudinger, Eva Gergely, Kirill Stytsenko, et al. DBRepo: A Data Preservation Repository Supporting FAIR Principles, Data Versioning and Reproducible Queries. In Proceedings of the 17th International Conference on Digital Preservation, 2021. doi: 10.17605/ OSF.IO/B7NX5. Grafik zu VRE, Jänner 2024 (c) Josef Taha 01 • 2024 | OCG Journal 11
Seite 1 und 2: OCG Journal Ausgabe 01 • 2024 | C
Seite 3 und 4: Inhalt [ 20 Young Researchers‘ Da
Seite 5 und 6: Young Researchers‘ Day AK IT-Sich
Seite 7 und 8: Young Researchers‘ Day Bluetooth
Seite 9: Young Researchers‘ Day Sicherheit
Seite 13 und 14: Young Researchers‘ Day Grafik Glo
Seite 15 und 16: Young Researchers‘ Day niedrigem
Seite 17 und 18: Young Researchers‘ Day die Anwend
Seite 19 und 20: Young Researchers‘ Day Julia Made
Seite 21 und 22: Ausgewählte Forschung Abbildung 1:
Seite 23 und 24: Ausgewählte Forschung der Anwendun
Seite 25 und 26: Ausgewählte Forschung Schutz der P
Seite 27 und 28: Ausgewählte Forschung mous problem
Seite 29 und 30: Ausgewählte Forschung fristigen Un
Seite 31 und 32: Ausgewählte Forschung auch für Cl
Seite 33 und 34: ausfordern und deren algorithmische
Seite 35 und 36: Wettbewerbe Screenshot Java Wiz (c)
Seite 37 und 38: Wettbewerbe OCG Förderpreis-FH 202
Seite 39 und 40: Intern Veranstaltungen und Termine

IT-Nachwuchsforschung in Österreich

Sie wollen auch ein ePaper? Erhöhen Sie die Reichweite Ihrer Titel.

Template löschen?

Als Template speichern?