/KI

Gesichtserkennung: IBM will Algorithmen, die nicht rassistisch oder sexistisch sind

Wolfgang Kerler 28.06.2018 Lesezeit 2 Min

Software zur Gesichtserkennung hat ein Problem: Die meisten Systeme wurden mit weißen, männlichen Probanden trainiert. Bei dieser Gruppe funktionieren sie also besser als beim Rest der Menschheit. IBM will das jetzt ändern und stellt daher Datensätze ins Netz, mit denen Algorithmen trainieren können.

Algorithmen zur Gesichtserkennung können rassistisch sein. Das wissen wir spätestens seit 2015. Damals beschwerte sich ein Software-Entwickler öffentlich bei Google: Eine KI des Konzerns hatte seine schwarzen Freunde auf einem Foto als „Gorillas“ gekennzeichnet. Das Unternehmen behob den Fehler – allerdings nicht durch einen schlaueren Algorithmus, der Menschen mit dunkler Haut besser erkennt.

Stattdessen verbannte man die Begriffe Gorilla, Schimpanse und Affe für den Dienst Google Photo einfach auf den Index. Anfang dieses Jahres suchten amerikanische WIRED-Kollegen dort nach Bildern der Primaten. Sie fanden: nichts. Google musste nach wie vor auf eine Notlösung setzen.

KI hat Probleme mit dunkler Haut und Frauen

Das Beispiel zeigt: Software zur Gesichtserkennung ist längst nicht perfekt. Gerade bei Frauen mit dunkler Haut steigt bei bisherigen Systemen die Fehlerquote. Sie können das Geschlecht oft nicht richtig erkennen. IBM will daran nun etwas ändern. Deshalb stellt das Unternehmen zwei Datenbanken mit Fotos zur Verfügung. Auch andere Firmen und Forscher sollen darauf zugreifen können.

Zur ersten Datenbank gehören eine Million Fotos, bei denen Attribute wie Augen- und Haarfarbe oder Bartwuchs vermerkt sind. Das zweite Datenpaket umfasst nur 36.000 Bilder. Diese sind aber gezielt zusammengestellt. Alle Hautfarben, Altersklassen und Geschlechter sollen vorhanden sein. IBM will mit den Fotos nicht nur die eigene KI weiterentwickeln. Auch andere Gesichtserkennungssysteme sollen damit verbessert werden.

Nicht die größte Datenbank, aber die vielseitigste

Wie The Verge schreibt, ist die IBM-Datenbank mit einer Million Bildern nicht die größte der Welt, mit der Algorithmen trainiert werden. Laut IBM gibt es aber keine andere in diesem Umfang, die bereits Attribute zu den Gesichtern vermerkt hat. Über den zweiten Datensatz sagt Ruchir Puri, der Chefentwickler von IBM Watson: Er kenne keinen anderen, der einen so klaren Fokus auf Diversität legt. Die Fotos stammen von Flickr und wurden dort unter der Creative Commons Lizenz veröffentlicht. Sie stehen also für Forschung frei zur Verfügung.