/Life

So gehen Facebook, Google und Twitter gegen Hass und Gewalt vor

WIRED Editorial 30.06.2017

Weltweit stehen die Sozialen Netzwerke unter Druck, mehr und vor allem schneller gegen Hate-Speech und Terror-Inhalte vorzugehen. So versuchen die einzelnen Plattformen, der Flut an schwierigen Inhalten Herr zu werden. Eine Übersicht.

Seit heute sind Plattformen in Deutschland dazu verpflichtet, Hass-Postings innerhalb von 24 Stunden zu löschen, sonst drohen ihnen Strafen bis zu 50 Millionen Euro. Der Bundestag hatte in seiner letzten Sitzungswoche vor der Sommerpause ein entsprechendes Gesetz verabschiedet und lässt die Unternehmen jetzt mit der zu bewältigenden Aufgabe erstmal alleine. Die Sozialen Netzwerke stehen also unter Zugzwang, übrigens nicht nur hierzulande, sondern weltweit.

Wir haben die aktuellen Aktivitäten der Plattformen zu einer kurzen Übersicht zusammengefasst. Sie klammert längerfristige Projekte und Kooperationen der Unternehmen bewusst aus, wie etwa die Förderung von so genannter Counterspeech. Stattdessen konzentriert sie sich auf die Löschtaktiken, die Facebook und Co. jetzt kurzfristig ins Zentrum ihrer Aktivitäten stellen müssen. 

Facebook
Facebook lagert die Löschung seiner Hasskommentare aus. 4,500 Personen arbeiten weltweit daran, Gewalt-Videos und Hass-Kommentare zu entfernen. In den kommenden Jahren sollen es deutlich mehr werden. In Deutschland übernimmt die Firma Arvato mit Sitz in Berlin diese Aufgabe. Sie steht wegen ihrer in der Vergangenheit schlechten Arbeitsbedingungen nach wie vor in der Kritik.

Den „Report“-Button gibt es auf Facebook schon seit längerem. Mit diesem können Nutzer dem Unternehmen mitteilen, wenn ein Post Fake oder Spam ist.

Kritik gibt es auch an den Löschregeln von Facebook, weil sie diskriminierend sein sollen. Die Recherche-Plattform ProPublica veröffentlichte in dieser Woche geleakte Dokumente, die zeigen, welche Posts Facebook wie löscht: Im Wesentlichen entfernt das Soziale Netzwerk dann, wenn Menschen aufgrund ihrer nationalen Herkunft, ihrer geschlechtlichen Identität, Rasse oder Ethnizität angegriffen werden.

Seine Zensoren unterscheiden dabei immer zwischen pauschalen Gruppen („die Weißen“) und Untergruppen ("Autofahrerinnen"). Weil das Unternehmen letztere als weniger schutzwürdig einstuft, kommt es zu zum Teil skurilen Kombinationen. So löschen Facebook-Mitarbeiter zum Beispiel Hass-Postings über schwarze Menschen, Hass-Postings über schwarze Kinder bleiben im Netzwerk allerdings stehen. Auch kritisch zu sehen ist, dass die Regeln weltweit gelten – ein kleinster gemeinsamer Nenner, der in Augen von Kritikern gerade in Deutschland nicht ausreicht, um die Balance zwischen Meinungsfreiheit und Minderheitenschutz zu gewährleisten.

Twitter
Twitter geht gegen Hate-Speech mit einem Algorithmus vor. Dieser soll Accounts, die für Hasskommentare missbraucht werden, erkennen und blocken. Bei Wiederholungstätern will das Unternehmen „weitere Maßnahmen“ ergreifen. Dazu scanne das Netzwerk etwa, ob ein Account regelmäßig bewusst Nicht-Follower antwittere oder Verhaltensmuster an den Tag lege, die den Twitter-Richtlinien widerspreche. Zwar gibt es auch ein Reporting-Tool, das so genannte Flagging, mit dem User Tweets melden können. Das brauche es aber bei der neuen Methode gar nicht mehr.

Fehler seien dabei nicht ausgeschlossen, schreibt Twitter auf seinem Blog, die Technologie sei noch neu. Zusätzlich probiert das Unternehmen laut Medienberichten zur Zeit ein neues Feature aus, mit dem User auch falsche und manipulierte Informationen melden können. Es ist allerdings nicht klar, ob Twitter es auch wirklich launcht.

Instagram
Auf Instagram gibt es seit Kurzem einen Filter, mit dem User beleidigende Inhalte herausfiltern können. Zusätzlich wurde ein neuer Spam-Filter in neun Sprachen eingerichtet, darunter auch Deutsch. Dazu nutzt die Facebook-Tochter einen Algorithmus, der Spam-Inhalte erkennt, blockiert und über die Zeit schlauer werden soll.

Screenshot


Google
Einzelne Seiten, die Google ausspuckt, lassen sich nicht anzeigen. Aber seit die Google-Vervollständigung in Deutschland aus der Frau des damaligen Bundespräsidenten eine Prostituierte machte, ist klar: Auch die Suchanfragen selbst können problematisch sein. Bei der Eingabe in die Suchleiste gibt es deshalb jetzt den Link „Unangemessene Vervollständigungen melden“, bei dem diskriminierende Suchvorgaben an Google gemeldet werden können. Diese Option gab es früher auch schon, war auf der Seite allerdings versteckt. Die Google-Tochter YouTube arbeitet schon länger mit Flagging-Funktionen und Kooperationen gegen schwierige Videos.

Screenshot

Jetzt WIRED Member werden und mit uns in die Zukunft starten!

Mit im Paket: 4 Magazin-Ausgaben im Jahr und der Member-Zugang zu exklusiven Inhalten auf WIRED.de sowie weitere Vorteile nur für Member.

Member werden