Desinformation als digitale Gefahr
Desinformation stellt, laut dem Risikobild der Bundesheeres 2024, eine der größten Bedrohungen für Österreichs Sicherheit dar. Dieses Bedrohungspotenzial wird durch das Aufkommen von Bots und Desinformationsnetzwerken verschärft, die mit KI höchst effektiv, mit wenig Aufwand erstellt werden können. Obwohl dies ein massives Problem für die Zukunft darstellt, werden die negativen Auswirkungen unterschätzt. Auch in der Forschung ist der Wissenstand um Desinformationsnetzwerken und deren Umsetzung gering, da gerade die massiven Technikfortschritte im letzten Jahr es ermöglichen, automatisch erstellte Text-, Bild- und Videoinhalte für Desinformationskampagnen zu nutzen. Das Forschungsprojekt TGuard setzt genau hier an: Es untersucht sowohl die Generierung als auch die Erkennung von Desinformation und entwickelt ein innovatives System, das die Wirkung von Desinformation simuliert, identifiziert und sichtbar macht.
Projektziele
Zielgruppen- und plattformspezifische Herausforderungen
Untersuchung zielgruppenspezifischer Herausforderungen und plattformspezifischer Problemlagen, die zur Entwicklung von gezielten Maßnahmen zur Förderung des kritischen Umgangs mit Informationen führen, um damit die Widerstandsfähigkeit der Zivilbevölkerung gegen Desinformation zu stärken.
Risiken aktueller KI-Modelle
TGuard untersucht aktuelle generative KI-Modelle (z.B. Llama, Mistral, DeepSeek) auf ihr Missbrauchspotenzial zur Erstellung von Desinformation. Dabei werden Schwachstellen in der Einhaltung ethischer Richtlinien identifiziert, um den sicheren und verantwortungsvollen Einsatz dieser Technologien zu fördern.
Desinformationserkennung
Da sich Desinformationsstrategien rasant verändern, entwickelt das Projekt automatisierte Erkennungsverfahren auf Basis der neuesten Sprach- und Bild-KIs. Mithilfe realer Daten aus sozialen Medien werden zuverlässige Methoden erforscht, um Desinformation plattformübergreifend zu erkennen und zu analysieren.
Simulationsumgebung
Mit dem Aufbau eines eigenen Mastodon-Netzwerks schafft TGuard eine sichere Testumgebung, in der die Dynamiken von Desinformationskampagnen realitätsnah simuliert werden können. Dies erlaubt die gezielte Entwicklung und Erprobung von Gegenstrategien ohne von externen Plattformen abhängig zu sein.