In den Sozialen Netzwerken und den Kommentarspalten von Nachrichtenseiten und Blogs können sich die Nutzer vor Hass-Postings und Troll-Breiträgen meist nur schützen, indem sie Kommentare überhaupt nicht mehr lesen. Eine Lösung für dieses Problem könnte Künstliche Intelligenz darstellen: So will die Google-Schwesterfirma Jigsaw beispielsweise mit einem Dienst namens Perspective solche Kommentare, die als extrem verletzend, bösartig oder gemein eingestuft werden, schneller identifizieren. Auf diese Weise könnte wiederum die Zahl besagter Hass-Postings effektiv dezimiert werden.
Wie unter anderem die New York Times berichtet, wurde das Konzept in einigen Projekten der Wikimedia-Stiftung getestet. Die KI wertete über 115.000 Beiträge von den Diskussionsseiten der Online-Enzyklopädie aus und filterte die rein destruktiven Beiträge heraus. Jetzt will Jigsaw im Rahmen von Googles Journalismus-Projekt Digitalen News Initative (DNI) eine Schnittstelle bereitstellen, die eine kostenlose Nutzung des Perspective-Dienstes ermöglicht — vorerst nur für englischsprachige Plattformen, doch eine Erweiterung auf andere Sprachen steht aktuellen Berichten zufolge ebenfalls ins Haus.
Laut dem Jigsaw-Manager Jared Cohen erkennt Perspective, ob ein Beitrag menschliche Anwender zum Ausstieg aus einer Diskussion drängen könnte, weil er gemeinhin als unangemessen wahrgenommen wird. Einerseits könnte das den Anteil an sinnvollen Postings in den Kommentarspalten des Internets deutlich erhöhen und lästigen Troll-Beiträgen endlich den Garaus machen. Andererseits dürfte wohl auch der richtige Umgang mit einem solchen Werkzeug in Zukunft noch für viel Diskussionsstoff sorgen — zu einem Zensurinstrument sollen die KIs nicht verkommen.
