Recherche | Falsch- und Desinformation auf Social Media
Das Österreichische Institut für angewandte Telekommunikation (ÖIAT) hat im Rahmen des Projekts TGuard eine zweiwöchige Erhebung durchgeführt. Ziel war, zum einen die Erstellung eines Lagebildes der Falsch- und Desinformation auf Social Media, zum anderen die Testung des Trusted-Flagger-Mechanismus des Digital Services Act (DSA). Trusted Flagger (dt. vertrauenswürdige Hinweisgeber) haben das Recht, bestimmte Arten illegaler Inhalte (z.B. Hassrede, terroristische Inhalte oder Betrug) an Plattformen zu melden, die betroffene Plattform ist zudem verpflichtet, die Inhalte dann möglichst schnell zu prüfen und ggf. zu entfernen. In Österreich wurde dieses Instrument des DSA Anfang 2024 implementiert. Aktuell gibt es sechs österreichische Organisationen, die von der KommAustria als Trusted Flagger zertifiziert sind. Das ÖIAT hat den Status als offizieller vertrauenswürdiger Hinweisgeber seit Juli 2024.
Methodik
Über einen Zeitraum von zwei Wochen wurden tausende Videos auf Instagram und TikTok gesichtet und insgesamt 72 problematische Inhalte – vorranging auf TikTok – gemeldet. Dabei handelte es sich unter anderem um gewaltverherrlichende Videos, klassische Desinformation und KI-generierte Inhalte mit manipulativen Elementen. Diese Inhalte wurden teilweise über den regulären Meldeweg für private Nutzer:innen und teilweise über den speziellen Trusted-Flagger-Kanal gemeldet. Anschließend wurde analysiert, wie TikTok auf die Meldungen reagierte, welche und wie viele Inhalte entfernt wurden, wie lange die Bearbeitung eines Falls dauerte und inwieweit die Entscheidungen nachvollziehbar begründet wurden.
Key Findings
- Knapp die Hälfte der Trusted Flagger-Meldungen führten zur Löschung, während private Meldungen in über 80 % der Fälle von TikTok als „kein Verstoß“ eingestuft wurden.
- KI-generierte, politisch motivierte Inhalte werden von den Plattformen oft nicht als Verstoß erkannt, selbst wenn sie nicht als „KI-generiert“ gekennzeichnet sind.
- Klassische Desinformation mit manipulativem Kontext ist nach wie vor in sozialen Medien wirksam und verbreitet sich schnell.
- Extremismus – besonders in Form von Wiederbetätigung und der Verherrlichung von Attentätern – findet auf den Plattformen Platz und Publikum.
Die Ergebnisse machen deutlich: Der Trusted-Flagger-Status ist ein wirksames Instrument, um Desinformation und problematische Inhalte schneller von Plattformen zu entfernen. Dennoch besteht Verbesserungsbedarf: Eine bessere Infrastruktur für den Meldeprozess, mehr Transparenz und konsistentere Moderationsentscheidungen seitens der Plattformen sind notwendig, damit das Instrument der Trusted Flagger seine volle Wirkung entfalten kann.