Im April dieses Jahres erhängt ein Vater seine elf Monate alte Tochter in Thailand und filmt den Mord live für Facebook. Obwohl Nutzer den verstörenden Content melden, vergehen über 24 Stunden, bis das Social-Media-Unternehmen die beiden Videos löscht. Zwei Wochen vorher hatte ein Amerikaner aus Cleveland ein Video gepostet, das zeigt, wie er einen Mann erschießt.
Immer wieder gehen Videos oder Bilder viral, die brutale Gewaltdelikte, sexuellen Missbrauch oder auch Geschlechtsteile zeigen. Veröffentlicht werden sie auf Social-Media-Plattformen wie etwa Facebook, YouTube, Instagram oder Reddit. Die Social-Media-Plattformen kommen mit der Überwachung ihres Contents nicht klar. Auf Facebook etwa teilen Nutzer pro Minute rund 1,3 Millionen Posts.
Aktuell prüfen und bewerten etwa 600 Menschen im Berliner Löschzentrum von Facebook, was auf der Plattform gezeigt werden darf und was nicht. Ihre Arbeit betreffe 28 Millionen Menschen in Deutschland und 1,8 Milliarden auf der ganzen Welt, schreibt die Süddeutsche Zeitung.
Anders in China: Dort entscheidet eine Künstliche Intelligenz, was auf sozialen Netzwerken veröffentlicht werden darf. Die Firma, die die KI entwickelt hat, will jetzt mit ihrem auf maschinellem Lernen basierenden System in die USA expandieren.
„Die Interaktionen auf Social-Media-Netzwerken sollen doch Spaß machen. Ich will keine Angst davor haben, dass plötzlich verstörendes Material in meiner Timeline erscheint“, zitiert Techcruch Leonard Mingqiang, den Gründer von Tuputech sowie ehemaligen Mitgründer des erfolgreichen chinesischen Nachrichtendienstes WeChat. „Unsere Technologie ist sehr fix, erkennt schnell unangemessene Inhalte und hilft unseren Kunden, diese zu löschen bevor sie viral gehen können.“
Laut Angaben von Tuputech prüft die Software täglich über 900 Millionen Bilder, 50 pro Sekunde. So könne sie 90 Prozent der menschlichen Moderatoren, die zum Überprüfen der Inhalte notwendig wären, ersetzen. Auch die Erfolgsquote kann sich sehen lassen, angeblich könne sie pornografische oder gewalttätige Inhalte zu 99,5 Prozent identifizieren. Doch genau diese 0,5 Prozent Fehlgangschance könnte für westliche Unternehmen und deren Nutzer ein Problem sein. Da in China keine Redefreiheit herrscht, freie Meinungsäußerung nicht existiert, gibt es niemanden, der die zensierten Inhalte überprüft oder sich dagegen wehren könnte.
Firmen in den USA hingegen müssen ihre Entscheidungen begründen und geraten auch deswegen immer wieder in die Kritik. So wollen sich etwa Feministinnen wie Jillian York oder Addie Wagenkencht von einer Online-Zensur nicht vorschreiben lassen, was Kunst und was Pornographie ist. Viel drastischer ist es allerdings, wenn Facebook aufgrund seiner Löschregularien bestimmte Communities benachteiligt – so schützt Facebook weiße Männer besser als etwa schwarze Kinder.
Die Netzaktivistin DiDi Delgado etwa hat Facebook zur Rede gestellt, warum es bei verschiedenen Communities mit unterschiedlichen Maßstäben messe und öffentlich beanstandet, dass das Unternehmen Schwarze benachteilige, während es Weiße bevorzuge.
Tuputech setzt auf den Vorteil des ewigen Lernens: Mit jedem Bild, mit dem die Software gefüttert wird, lernt sie dazu. Doch wie Beispiele aus jüngster Vergangenheit zeigen, sind auch Künstliche Intelligenzen fehlbar und nur so gut, wie die Informationen, die man ihnen gibt, der Hang zum Rassismus bei Algorithmen ist nicht zu leugnen.
Bislang soll die Firma für den chinesischen Markt über 100 Milliarden Bilder kategorisiert haben. Nun wolle sie mit US-Firmen kooperieren und ihrer Software Daten geben, die aus westlichen Netzwerken stammen - verstörender Content, den Firmen wie etwa Facebook oder YouTube zensiert haben.
Wie Firmen Tuputech nutzen können, ist einfach. Kunden müssen sich lediglich mit der Software via API verbinden, Bilder und Videos ihrer Webseiten werden dann auf dem Tuputech-Server geprüft, verarbeitet und kategorisiert. Sollte ein Bild verstörend oder auffällig sein, meldet Tuputech dieses. Content, den der Algorithmus nicht einwandfrei zuordnen konnte, wird zur Überprüfung zurück an den Kunden geschickt.
Bislang konnte Tuputech über 10 Millionen US-Dollar von chinesischen Investoren wie etwa Northern Light Venture Capital oder Morningside Venture Capital sammeln.
