Erkenntnis ist ja bekanntlich der erste Schritt zur Besserung. Und erkannt hat Facebook das Problem durchaus: den Missbrauch seiner Plattform durch User, die die öffentliche politische Meinung manipulieren wollen. Bei den US-Präsidentschaftswahlen im vergangenen Jahr sollen Fake-Accounts, vor allem aus Russland, das Ergebnis beeinflusst haben. Doch das Dilemma ist kein allein amerikanisches. Im Vorfeld der aktuellen französischen Präsidentschaftswahlen löschte Facebook nach eigenen Angaben rund 30.000 unechte Profile. Und nun bestätigt das Unternehmen in einem neuen Report, dass es immer wieder von politisch motivierten Kräften als Propagandawerkzeug missbraucht wird – und erläutert mögliche Schritte, dagegen vorzugehen.
Der Social-Media-Konzern gibt der Misere einen Namen: Information Operations. Der Begriff umfasst sämtliche Operationen organisierter Gruppen, die die öffentliche Meinung verzerren und manipulieren wollen. Die Aktionen können laut Facebook verschiedene Methoden umfassen, etwa Falschmeldungen, gezielte Desinformationen oder den Einsatz von Fake-Accounts.
Dabei distanziert sich Facebook vom Terminus Fake News, weil dieser zu einem Sammelbegriff für zu viele verschiedene Arten von Veröffentlichungen geworden sei – von nachrichtlichen Artikel, die faktisch falsch sind, über Parodien, Memes, Gerüchte und Online-Missbrauch bis hin zu persönlichen Stellungnahmen. „Die inflationäre und falsche Verwendung des Begriffs Fake News kann problematisch sein, da wir ohne allgemein gültige Definition diese Themen gar nicht umfassend behandeln können“, schreiben die Verfasser des Facebook-Berichts.
Information Operations, heißt es in dem Dokument, bestehen aus drei Teilen: dem gezielten Sammeln von Daten, der Erstellung von Content und dessen intensiver Verbreitung etwa durch Fake-Profile, das mehrfache Posten eines Kommentars oder die Erstellung von Astroturf-Gruppen. Diese dritte Stufe nennt Facebook auch False Amplification, falsche Verstärkung.
Daten akquirierten Information-Operations-Akteure vor allem durch das Hacken von E-Mail- oder Social-Media-Accounts, heißt es. Um User davor zu bewahren, will Facebook individuell anpassbare Tools entwickeln, um die Sicherheits- und Privatsphäre-Einstellungen für seine Nutzer zu verbessern. Außerdem sollen potenzielle Phishing-Opfer benachrichtigt werden. Bei kommenden Wahlen oder ähnlichen politischen Ereignissen will das Unternehmen außerdem direkt mit Regierungen zusammenarbeiten und etwa Schulungen für Bürger anbieten.
Ohne Social-Media-Portale wie Facebook und deren grundeigene Funktionsweise, Nachrichten potenziell milliardenfach online zu verbreiten, wäre die „falsche Verstärkung“ gar nicht erst so mächtig. Das hat wohl auch Facebook verstanden und will signalisieren, dass es Verantwortung übernimmt.
Allerdings geht es dabei weniger um den Kampf gegen von Maschinen erstellte Fake-Profile, die schnell von Algorithmen ausfindig gemacht werden können. Laut dem Facebook-Bericht werden die meisten gefälschten Accounts von Menschen erstellt und verwaltet. Für manche Jungunternehmer in Mazedonien ist das ein lukratives Geschäft, wie Samantha Subramanian in der aktuellen WIRED-Ausgabe beschreibt.
Besonders in Astroturf-Gruppen, die eine Graswurzelbewegung vortäuschen sollen, ist es laut Facebook extrem schwierig, zwischen authentischen Einzelpersonen und Operation-Informations-Akteuren zu unterscheiden: „Anfänglich sind diese Gruppen wahrscheinlich voll von Fake-Accounts“, heißt es im Bericht, „doch nach einer Weile, wenn weitere Mitglieder hinzu kommen, können sie sich sogar selbst tragen.“
Um die Fakes dennoch ausfindig machen zu können und die False Amplification soweit wie möglich zu unterbinden, will das Unternehmen seine Regeln zur Sperrung von Accounts überarbeiten, entsprechende technische Systeme verbessern und updaten sowie den Fokus auf maschinelles Lernen legen, um seine Such-Algorithmen zu verbessern.
Den ersten Schritt – die Erkenntnis, dass etwas getan werden muss, um nicht als Propaganda-Werkzeug zu enden – ist Facebook also gegangen. Schwarz auf weiß in dem aktuellen Bericht. Inwiefern die angekündigten Maßnahmen umgesetzt werden und ob sie funktionieren, muss sich zeigen.
