/Internet

Team Batman gegen den Islamischen Staat: Wie soziale Netzwerke den Terror bekämpfen

Max Biederbeck 02.07.2015 Lesezeit 8 Min

Ein neuer UN-Report fordert mehr Einsatz von Google, Facebook, Vimeo, Twitter und Co. gegen die Propaganda-Maschine des Islamischen Staats. Hinter den Kulissen der Unternehmen ist allerdings längst ein ausufernder Kontrollapparat entstanden.

Seine Stimme pumpt aus den Boxen, die Reime sitzen perfekt. „An euch Feinde Allahs“, leiert Deso Dogg. „Wo bleiben eure Truppen, wir könn' euch kaum erwarten, vernichtet sie, Allah!“ Der Rapper hat seinen Gesang im Studio so oft gedoppelt, dass die zahllosen Tonspuren zu einem Chor verschmelzen. Ein einzelner Musiker, das ist die Message, formt die Stimme von Vielen. Die Bilder in seinem neusten Musik-Clip spiegeln das Grauen: verstümmelte Leichen und aufgeschlitzte Kehlen, verwundete Bundeswehrsoldaten, die sich auf Feldbetten krümmen. Die Produzenten des AlHayat Media Centers, ein Propaganda-Sender des Islamischen Staats (IS), zeigen ihre Feinde. Ihre Freunde schnallen sich nur eine Minute später Bombengürtel um, kleben per Anleitung Kalaschnikows zusammen, einer reißt den Ring aus einer Handgranate. Schnitt aufs schwarzes Bild. Knall. Schreie.

Früher Rapper, jetzt Dschihadist: Deso Dogg

Wenn Sean McGilvray das Video auf Vimeo anschaut, reagiert er merkwürdig gelassen. Er lehnt sich in seinem New Yorker Büro zurück und versichert: „Bei Fällen wie diesem machen die es uns echt einfach.“ McGilvray ist Senior Manager von Vimeos „Trust and Safety“-Team, zu deutsch: Vertrauen und Sicherheit. Zusammen mit drei Kollegen durchkämmt er täglich die neuen Uploads auf der Video-Plattform und spürt Inhalten nach, die nicht auf seiner Seite stehen sollen. Keine kleine Aufgabe bei rund 500 Stunden neuem Video-Material pro Stunde.

„Wir sind das hausinterne Batman-Team“, sagt McGilvray. „Wir halten unsere Straßen sauber.“ Sauber von der Propaganda des IS, von Hassbotschaften rechtsradikaler Gruppen und von Hetzkampagnen gegen Minderheiten. „Es gibt leider immer noch kein Computer-Programm, das diesen Job für uns übernehmen kann. Wir müssen das alles von Hand schaffen“, erklärt Michael Cheah, der Rechtsexperte des Teams.

Kampf ums Netzwerk: Team Batman gegen IS-Propaganda-Maschine

Selbst bei vergleichsweise kleinen Plattformen wie Vimeo hat sich in den vergangenen Monaten ein ausuferndes Katz-und-Maus-Spiel entwickelt: Team Batman gegen IS-Propaganda-Maschine. Videos tauchen auf, McGilvray und seine Leute löschen sie wieder. Bei Vimeo noch ein überschaubarer Kampf. Für größere Netzwerke wie Twitter, Facebook oder YouTube ist das Problem ungleich schwerer zu lösen. Zum Vergleich: Bei YouTube laden User pro Minute rund 300 Stunden neues Material hoch, und bei Twitter flimmern 500 Millionen Tweets am Tag über die Server.

Im vergangenen August benutzte der Islamische Staat, auch „Daesh“ genannt, die Netzwerke zum ersten Mal öffentlichkeitswirksam für seine Propaganda. Damals drehten die Gotteskrieger ein Video, in dem sie den britischen Journalisten James Foley vor laufender Kamera köpften. Die Enthauptung ging viral. „Das war eindeutig eine Eskalation, die es bis dato nicht gab“, erinnert sich eine Facebook-Sprecherin gegenüber WIRED. In seiner Brutalität sprengte der Clip alle bisher dagewesenen Dimensionen. Der mutmaßliche Täter war Abdel-Madsched A, 23 Jahre alt, aus London. Er posierte später stolz mit dem abgetrennten Kopf auf Twitter.

So sieht Vimeos Trust and Safety-Team aus. Stehend Sean McGilvray, rechts Michael Cheah

Doch bei brutalen Propaganda-Videos blieb es nicht. IS-Recruiter schreiben in den Netzwerken tausendfach junge Menschen an und versuchen, sie mit IS-Ideologie zu indoktrinieren. Die Guardian-Reporterin Anna Erelle zeigte vor kurzem per Selbstversuch, wie schnell diese Anwerber ein von ihr erstelltes Fake-Profil ausfindig machen konnten. Die Kämpfer begannen sofort damit, die von der französischen Journalistin erfundene Jugendliche zu bedrängen: „Fang an zu beten! Schließe dich dem Kampf an!“

Auch ein Experiment des Algorithmus-Experten Kave Salamatian zeigt, wie aggressiv Daesh mittlerweile auf Facebook geworden ist. Salamatian hat ein Bot-Profil programmiert, das automatisch Seiten mit Wörtern wie „Frieden“, „Freiheit“ oder „Gleichheit“ liket. Das reichte schon: Nach nur drei Tagen meldeten sich zwölf IS-Recruiter bei seinem Programm. „Der IS sucht gezielt nach solchen Schlagwörtern und springt darauf an“, sagt Salamatian.

Ein Trend im letzten Jahr: High-Definition Digital Terror

UN-Report

Ein UN-Report aus der vergangenen Woche unterstützt diese Aussage und warnt vor den ausufernden Online-Aktivitäten von Al-Qaida und IS. „Ein Trend im letzten Jahr ist das Wachstum von High-Definition Digital Terror“, heißt es in dem Schreiben an den UN-Sicherheitsrat. Gemeint ist der Einsatz von Online-Propaganda durch den IS und seine Unterstützer, die mit einer Mischung aus hochqualitiativen Videos und subtilen Rekrutierungsmethoden arbeiten. Als Fazit der UN-Forscher bleibt stehen: Großen Internetunternehmen sollen sich mehr gegen den digitalen Terror einsetzen und enger mit den Regierungen zusammenarbeiten.

Die Unternehmen allerdings haben schon längst einen eigenen Sicherheitsapparat gegen die Terroristen aufgebaut. Die CEOs von Twitter, Facebook, Google und Co. haben erkannt, welche Gefahr da gerade durch ihre Kanäle kriecht. Google etwa nutzte vor kurzem einen Auftritt auf dem Cannes Lions Festival, für einen „Call to Arms“ gegen die Terroristen. Der IS habe einen „viralen Moment“ in den sozialen Netzwerken erreicht, sagte Google-Managerin Victoria Grand. Gegenläufige Ansichten, etwa von ISIS-Gegnern im Netzwerk, seien „bei weitem nicht stark genug“, um den Terroristen Einhalt zu gebieten.

Es gibt mehrere Wege, wie wir Terror-Videos finden können.

Sean McGilvray

Reagiert wird mit System. „Es gibt bei uns mehrere Wege, wie wir Terror-Videos finden können“, sagt McGilvray von Vimeo. Der Wichtigste ist die Flag-Funktion, wie sie auch bei Facebook und YouTube zum Einsatz kommt. Sie ist die Immunabwehr der Netzwerke. „Flaggen“, das ist im Grunde nichts anderes als Petzen. Bei YouTube gibt es sogar eine Sonder-Flag-Funktion für NGOs und Polizeibehörden: Sogenannte „Trusted-Flagger“ können gleich mehrere Videos gleichzeitig melden, damit ihre Video-Jagd schneller funktioniert.

Das System leitet die so markierten Videos in einen riesigen Prüf-Apparat weiter, um den die Unternehmen ein großes Geheimnis machen. Namentlich genannt werden will kaum einer der Mitarbeiter dieser Abteilungen. Das eigene Haus soll möglichst nicht offen in Verbindung mit dem Kampf gegen den Terror gebracht werden. „Wir wollen nicht, dass die andere Seite unsere Praktiken versteht, Muster erkennt und sich daran anpasst“, erklärt das der Mitarbeiter eines großen Netzwerks gegenüber WIRED.

Einige Fakten gibt es dann aber doch. Etwa den, dass jedes Unternehmen weltweit hunderte von Angestellten einsetzt, die das geflaggte Material durchsehen und einordnen. Alleine Facebook hat vier Teams in den USA, Indien und Europa. Sie checken im abwechselnden Schichtbetrieb und 24 Stunden am Tag geflaggte Videos und Postings. Am wichtigsten sei dabei der Kontext, sagt eine Facebook-Mitarbeiterin. Übersetzer kümmerten sich um die Sprachbarrieren. „Wir haben Experten für jeden Bereich, Wissenschaft, Law Enforcement, Rechtsextremismus und Terrorismus“, sagt sie weiter. Die Fachleute fragen, wie Symbole verwendet werden, wann ein Video zu Gewalt aufruft und, ob Persönlichkeitsrechte verletzt werden.

Die Angestellten richten sich bei ihrer Auswahl nach den jeweiligen Geschäftsbedingungen des eigenen Unternehmens. Ob sie einen Beitrag online lassen oder löschen, entscheiden sie am Ende aber nach eigenem Ermessen. Im öffentlichen Raum wäre dieses Gegeneinander-Abwägen von Meinungsfreiheit und potenzieller Gefahr für die Öffentliche Sicherheit eigentlich Aufgabe der Polizei. Doch in sozialen Netzwerken wird eine schier unendliche Masse an Informationen aus allen Ecken der Welt gesendet. Keine Polizeieinheit auf dem Globus könnte so viele Daten in Echtzeit auf Gefahren überprüfen. Die Unternehmen übernehmen diese Aufgabe also selbst.

Die Online-Gotteskrieger lernen auch dazu.

„Wir machen es uns nicht einfach. Wenn die Entscheidungen schwierig sind, dann geht ein Post auch durch mehrere Prüfinstanzen“, so die Facebook-Mitarbeiterin. Die Polizei versuche oft, zu helfen, sei aber am Ende immer „einen Schritt langsamer“, erzählt auch McGilvray. Er und sein Team bei Vimeo werden auch proaktiv tätig und suchen selbst nach Content, der die Nutzungsrechte verletzt. „Wenn wir auf ein fragwürdiges Video stoßen, dann schauen wir uns die Bezeichnung an, checken ob der Benutzer auf anderen Netzwerken aktiv ist und was seine Bekannten auf Twitter posten“, erklärt er. „Ein bisschen Detektivarbeit ist schon dabei.“ Dann nehmen seine Leute das Video von der Plattform, sperren gegebenenfalls das Benutzerkonto und sorgen dafür, dass nicht das selbe Video gleich wieder hochgeladen werden kann.

Aber auch die Online-Gotteskrieger auf der anderen Seite lernen dazu. Sie verändern Videos leicht, vermeiden Schlüsselbegriffe und rufen ihre Anhänger nicht mehr so offen zu Gewalt auf wie früher. Stattdessen warten sie Reaktionen auf ihre Posts ab und schreiben ihre Ziele dann in privaten Chats direkt an.

Das anfangs erwähnte Video des Rappers und bekennenden Dschihadisten Deso Dogg alias Abu Talha al-Almani ist vor einigen Wochen gleichzeitig auf fast jedem sozialen Netzwerk aufgetaucht. Die Produzenten vom AlHayat Media Center treten wie ein professioneller Sender auf, weil sie wissen, dass sie von den Netzwerken so nicht direkt offline genommen werden — obwohl sie explizite Inhalte bereitstellen. Eine Tarnung. Der Grad zwischen Information und Indoktrinierung ist schmal.

Die Szene franst aus. Sperrt man eine Splittergruppe, kommt sie sofort unter anderem Namen wieder.

Die immer geschickteren Extremisten sind die größte Herausforderung für die Netzwerke, das hört WIRED während der Recherche für diesen Artikel oft. Die Dschihadisten-Szene, erzählt der Mitarbeiter eines großen Netzwerkes, franse immer weiter aus. Es tauchten nicht länger nur die großen Namen wie IS oder Al-Qaida auf, sondern viele kleine Einheiten, die schwerer zuzuordnen seien. Sperrt man eine, kommt sie sofort mit anderem Gesicht und anderem Namen wieder. Getarnt als neuer Nachrichtensender oder als harmloser User.

Facebook, das ist kein Geheimnis, setzt durch regelmäßige Social-Media-Trainings von NGOs auf Früherkennung. Extremisten, die versuchen, das Netzwerk zu instrumentalisieren, sollen so ausfindig gemacht werden, bevor sie ihre Nachricht richtig verbreiten können. In Deutschland arbeitet das Unternehmen zum Beispiel eng mit dem „Netz gegen Nazis“ zusammen.

„Am Ende des Tages geht es den Radikalen darum, einen möglichst großen Effekt mit ihren Videos zu erzielen“, sagt McGilvray. Vimeo aber sei das Netzwerk seines Teams. Besser als sie kenne es keiner. Ein struktureller Vorteil, glaubt der Chef der Batman-Crew: „Videos wie das von Deso Dogg wollen gefunden werden und deswegen werden auch wir sie immer finden.“