/Business

Facebook schützt nicht alle Menschen gleich vor Hatespeech

WIRED Staff 29.06.2017

Facebook soll seine Nutzer in Zukunft besser vor Hatespeech schützen. Doch laut neuer geleakter Dokumente unterscheidet der Algorithmus zwischen verschiedenen Personengruppen. Dabei wird ein weißer Mann besser geschützt als ein schwarzes Kind. 

In dem Report wurde anhand geleakter interner Dokumente von Facebook festgestellt, dass das Unternehmen Regeln hat, die einzelne Nutzergruppen besser schützt. Im Detail bedeutet das, dass Facebook Menschen vor Hatespeech schützt, falls sie aufgrund eines festgelegten Kategorien-Katalogs angegriffen werden, aber nicht, wenn sie wegen anderer Gründe Ziel eines Hass-Postings werden, wie der Non-Profit-Newsdesk Pro Publica berichtet.

Wenn Nutzer aufgrund ihres Geschlechts, ihrer nationalen Herkunft, ihrer geschlechtlichen Identität, Rasse oder Ethnizität von anderen Nutzern angegriffen werden, erfolgt die Löschung der betreffenden Postings wesentlich häufiger. Auch Angriffe aufgrund der sexuellen Orientierung oder aufgrund einer Behinderung oder Krankheit fallen in den Bereich der geschützten Kategorien.

Falls aber ein Nutzer beispielsweise wegen seiner sozialen Klasse, seiner Religion, seines Aussehens, seines Landes oder seines Berufs diffamiert wird, ist das offenbar weniger schützenswert. Laut diesem System gilt das aber auch bei Subkategorien, die ebenso weniger schützenswert sind — im Gegensatz zu den Hauptkategorien. Laut dem Report sind bei Facebook demnach zwar Frauen als Hauptkategorie schützenswert. Aber weibliche Autofahrerinnen fallen demnach nicht mehr unter diese schützenswerte Sparte. Ähnlich bei Menschen mit dunkler Hautfarbe, die unter die geschützte Kategorie fallen, Kinder mit dunkler Hautfarbe allerdings nicht.

Ein Beispiel dafür war ein Facebook-Post eines US-Kongressmitglieds, das nach den Terroranschlägen in London zu „radikalisierten Islamisten“ schrieb „Jagt sie, identifiziert sie und tötet sie. Tötet sie alle. Zum Wohl von allen, was gut und recht ist. Tötet sie alle.“ Dieser Post wurde nicht gelöscht — er war an eine Subkategorie gerichtet. Ein Posting mit dem Inhalt „Alle weißen Menschen sind Rassisten“ wurde hingegen gelöscht, da er eine der schützenswerten Hauptkategorien ansprach.

Das Problem, wie WIRED US feststellt, ist zudem, dass auch Nutzer, die von Facebook nicht geschützt werden, eigentlich keine Alternative haben, wenn sie mit ihren Problemen ein breites Publikum erreichen wollen: Facebook wird von einem Viertel der Weltbevölkerung genutzt. Falls sie ein anderes Medium wie etwa Twitter nutzen würden, fiele ihre Arbeit durch die niedrigeren Nutzerzahlen deutlich ineffektiver aus.

Jetzt WIRED Member werden und mit uns in die Zukunft starten!

Mit im Paket: 4 Magazin-Ausgaben im Jahr und der Member-Zugang zu exklusiven Inhalten auf WIRED.de sowie weitere Vorteile nur für Member.

Member werden