/Tech

Google bekämpft Trolle mit einer KI

WIRED Staff 24.02.2017

Googles Schwesterunternehmen Jigsaw plant, mit dem intelligenten Dienst Perspective systematisch gegen Internet-Trolle vorzugehen. Die KI erkennt Hass-Postings und andere destruktive Beiträge automatisch.

In den Sozialen Netzwerken und den Kommentarspalten von Nachrichtenseiten und Blogs können sich die Nutzer vor Hass-Postings und Troll-Breiträgen meist nur schützen, indem sie Kommentare überhaupt nicht mehr lesen. Eine Lösung für dieses Problem könnte Künstliche Intelligenz darstellen: So will die Google-Schwesterfirma Jigsaw beispielsweise mit einem Dienst namens Perspective solche Kommentare, die als extrem verletzend, bösartig oder gemein eingestuft werden, schneller identifizieren. Auf diese Weise könnte wiederum die Zahl besagter Hass-Postings effektiv dezimiert werden.

Wie unter anderem die New York Times berichtet, wurde das Konzept in einigen Projekten der Wikimedia-Stiftung getestet. Die KI wertete über 115.000 Beiträge von den Diskussionsseiten der Online-Enzyklopädie aus und filterte die rein destruktiven Beiträge heraus. Jetzt will Jigsaw im Rahmen von Googles Journalismus-Projekt Digitalen News Initative (DNI) eine Schnittstelle bereitstellen, die eine kostenlose Nutzung des Perspective-Dienstes ermöglicht — vorerst nur für englischsprachige Plattformen, doch eine Erweiterung auf andere Sprachen steht aktuellen Berichten zufolge ebenfalls ins Haus.

Laut dem Jigsaw-Manager Jared Cohen erkennt Perspective, ob ein Beitrag menschliche Anwender zum Ausstieg aus einer Diskussion drängen könnte, weil er gemeinhin als unangemessen wahrgenommen wird. Einerseits könnte das den Anteil an sinnvollen Postings in den Kommentarspalten des Internets deutlich erhöhen und lästigen Troll-Beiträgen endlich den Garaus machen. Andererseits dürfte wohl auch der richtige Umgang mit einem solchen Werkzeug in Zukunft noch für viel Diskussionsstoff sorgen — zu einem Zensurinstrument sollen die KIs nicht verkommen.

Jetzt WIRED Member werden und mit uns in die Zukunft starten!

Mit im Paket: 4 Magazin-Ausgaben im Jahr und der Member-Zugang zu exklusiven Inhalten auf WIRED.de sowie weitere Vorteile nur für Member.

Member werden