/Tech

Facebooks KI erkennt anstößige Bilder in Rekordzeit

WIRED STAFF 01.06.2016

Mark Zuckerberg kann für sein soziales Netzwerk einen weiteren Meilenstein im Kampf gegen Hass, Jugendgefährdung und Missbrauch verbuchen: Facebooks Künstliche Intelligenz ist mittlerweile nämlich dazu in der Lage, anstößige Bilder in Rekordzeit herauszufiltern.

Erst gestern berichtete WIRED, dass die EU-Kommission gemeinsam mit Facebook, Twitter, YouTube und Microsoft einen Verhaltenskodex vorgestellt hat, um Hassreden und Gewaltinhalte aus den Netzwerken zu verbannen. Facebook kann mit der Entwicklung der unternehmenseigenen KI derartigen Inhalten bereits entgegenwirken. Noch bevor obszöne oder gewalttätige Bilder die Nutzer des sozialen Netzwerks verstören können, werden sie von der Künstlichen Intelligenz erkannt und isoliert.

Die Forschung an Facebooks KI-System wurde durch die Erfolge auf dem Werbesektor in den vergangenen Jahren maßgeblich vorangetrieben. Nun könnte das System im Kampf gegen bedenkliche Inhalte eine tragende Rolle spielen. Joaquin Candela, Leiter der Forschung im Bereich Machine learning bei Facebook, bestätigte gegenüber TechCrunch, dass die KI heute bereits deutlich mehr anstößige Fotos meldet als die Nutzer und die bislang für diese Tätigkeit abgestellten Mitarbeiter. Er wies zudem darauf hin, dass die Aufgabe, verstörende Bilder zu sichten, für Menschen eine nicht unerhebliche Belastung darstellt.

Genau wie Facebook hat auch Twitter bislang Dienstleister mit der Suche nach anstößigen Inhalten betraut. Der Mikroblogging-Dienst hatte in der Vergangenheit Versäumnisse im Kampf gegen Online-Hass und Belästigung auf der Plattform eingeräumt. Twitter hat die KI-Startups Madbits und Whetlab erstanden. Der Kampf gegen obszöne, beleidigende und gewalttätige Inhalte in sozialen Netzwerken geht damit wohl in eine entscheidende Phase über.

+++ Mehr von WIRED täglich ins Postfach? Hier für den Newsletter anmelden +++  

Jetzt WIRED Member werden und mit uns in die Zukunft starten!

Mit im Paket: 4 Magazin-Ausgaben im Jahr und der Member-Zugang zu exklusiven Inhalten auf WIRED.de sowie weitere Vorteile nur für Member.

Member werden