Nicht Google ist rassistisch, sondern die googelnde Gesellschaft

Kabir Alli aus Virginia, auf Twitter @iBeKabir, ist eigentlich kein politischer Aktivist. Der Twitterstream des Highschool-Schülers ist eine nicht unübliche Mischung aus Sportnachrichten, Selfies und lustigen GIFs mit tanzenden Kleinkindern. Doch am vergangenen Montag hat er ein Kurzvideo veröffentlicht, das für politische Aufregung sorgte.

In dem Clip dokumentiert Alli, wie er auf seinem Telefon in der Suchmaske von Google Images „three black teenagers“ eingibt. Das Ergebnis: Reihen um Reihen von Mugshots, also Polizeifotos von verhafteten schwarzen Jugendlichen. Die anschließende Suche nach „three white teenagers“ bringt hingegen vor allem Bildmaterial von lachenden weißen Polohemdträgern und jungen Frauen in Blusen zutage. Fotos, die aussehen wie aus einem Werbekatalog, weil sie größtenteils genau dafür gedacht sind.

Kabir Alli aus Virginia, auf Twitter @iBeKabir, ist eigentlich kein politischer Aktivist. Der Twitterstream des Highschool-Schülers ist eine nicht unübliche Mischung aus Sportnachrichten, Selfies und lustigen GIFs mit tanzenden Kleinkindern. Doch am vergangenen Montag hat er ein Kurzvideo veröffentlicht, das für politische Aufregung sorgte.

In dem Clip dokumentiert Alli, wie er auf seinem Telefon in der Suchmaske von Google Images „three black teenagers“ eingibt. Das Ergebnis: Reihen um Reihen von Mugshots, also Polizeifotos von verhafteten schwarzen Jugendlichen. Die anschließende Suche nach „three white teenagers“ bringt hingegen vor allem Bildmaterial von lachenden weißen Polohemdträgern und jungen Frauen in Blusen zutage. Fotos, die aussehen wie aus einem Werbekatalog, weil sie größtenteils genau dafür gedacht sind.

YOOOOOO LOOK AT THIS pic.twitter.com/uY1JysFm8w

Seither wurde Kabir Allis Tweet 62.000 Mal weitergeleitet, auf Twitter entbrannte eine Diskussion darüber, ob Google rassistisch sei. Kabir Alli selbst sagte, er sei entsetzt über die Ergebnisse seines Experiments. Den Vorwurf anderer Twitterer, Google sei rassistisch, finde er dennoch lächerlich, schreibt er in einem späteren Tweet. Nicht Googles Algorithmus sei das Problem, sondern die Ergebnisse, die er zutage fördert.

Genau das hat der britische Blogger und YouTuber Antoine Speaks bereits im März in einem Video zum gleichen Thema zu erklären versucht: Googles Suchergebnisse kämen durch das zustande, was im Netz gesucht wird, sagt er. Die Suche nach „three white teenagers“ führe vor allem zu Stock-Fotos, also Bildern, die gekauft werden können, um sie für Werbung zu verwenden, weil Anbieter dieser Fotos ihre Bilder mit diesen Begriffen taggen, um sie für Suchmaschinen zu optimieren.

Die Anfrage „three black teenagers“ führe hingegen vor allem zu Bildern festgenommener schwarzer Jugendlichen, die größtenteils aus Presseberichten über diese Fälle stammten. Es sei in unserer Gesellschaft einfach unwahrscheinlicher, dass eine Person nach „drei schwarzen Jugendlichen“ suche, um sie als Models in einer Kampagne oder Werbung zu verwenden.

Anders gesagt: Nicht Googles Algorithmus ist rassistisch. Die Gesellschaft und vor allem die Presseberichterstattung in den USA ist es. Bilder, Texte oder Videos tauchen in Google vor allem dann weit oben in den Suchergebnisse auf, wenn sie ordentlich verschlagwortet worden sind, das nennt sich Search Engine Optimization (SEO). Je besser die SEO, desto höher bewertet Google eine Seite. Für Suchanfragen nach weißen jugendlichen betreiben die Anbieter von Stockfotografie diesen Aufwand offenbar. Für die Suche nach schwarzen Jugendlichen lohnt sich das scheinbar nicht. Wer nach diesen Begriffen sucht, will offenbar Artikel über festgenommene schwarze Jugendliche lesen, das glauben scheinbar zumindest die Medien in den USA.

Diese rassistische Verzerrung ist auch schon der schwedischen Designstudentin Johanna Burai aufgefallen. Sie lancierte im Jahr 2015 ein Kunstprojekt, um mehr Vielfalt in die Stockfotografie zu bringen. Zuvor hatte sie für ein Projekt nach Abbildungen von Händen gesucht und festgestellt, wie schwierig es war, überhaupt Fotos schwarzer Hände zu finden. World White Web nennt sie dieses Phänomen, auf Suchanfragen hin nur weiße Menschen abzubilden, egal ob in Schweden oder im Senegal danach gesucht wird.

Die rassistische Schlagseite bei der Verschlagwortung von Websites und Bildern ist Google schon öfter zum Verhängnis geworden: Im vergangenen Jahr musste sich Google Maps entschuldigen, nachdem bekannt wurde, dass die Suche nach einer rassistischen Beleidigung in Kombination mit „House“ zur Adresse 1600 Pennsylvania Ave. führte, dem Weißen Haus. Zuletzt kam diese Debatte auf, nachdem eine Nutzerin entdeckt hatte, dass der automatische Algorithmus in Googles Photos-App ihre schwarzen Freunde als „Gorillas“ getaggt hatte.

Vergangenen Monat hatte bereits die Twittter-Nutzerin Bonnie Kamona darauf aufmerksam gemacht, dass eine Suche nach „professional hairstyles at work“ vor allem weiße Frauen zeigt mit glatten, blonden Haaren, zu schlichten Hochsteckfrisuren und Zöpfen frisiert. Die Suche nach „unprofessional hairstyles at work“ zeigte dagegen ausschließlich schwarze Frauen, die ihre Haare natürlich gelockt trugen – eine rassistisch diskriminierende Vorstellung dessen, was „professionell“ sei, die schwarze Feministinnen bereits seit Jahren anprangern.

+++ Mehr von WIRED regelmäßig ins Postfach? Hier für den Newsletter anmelden +++

Nein, Google kann nicht für alles verantwortlich gemacht werden, was in der Welt schief läuft, die die Suchmaschine indexiert. Eine Verantwortung trägt der Konzern dennoch. Die Technologieexpertin Kate Crawford hatte in ihrem Vortrag auf der re:publica zuletzt auf die Gefahren hingewiesen, die entstehen, wenn Algorithmen in Zukunft über immer mehr Aspekte unseres Lebens mitbestimmen werden.

Dann geht es womöglich nicht mehr nur um die Frage, was im Netz bei einer Bildersuche auftaucht, sondern auch darum, wer in ein Land einreisen darf oder als mutmaßlicher Terrorist überwacht wird. Im Zeitalter von Künstlichen Intelligenzen und Big Data, fordert Crawford, brauchten wir deshalb auch eine neue Form der Datenethik. Noch können wir in die neuen Technologien eingreifen, während sie sich entwickeln. Die entscheidenden drei Fragen: Wie stellt man Fairness her, wie geht man mit Machtasymmetrien um und wie greift man in ein System ein?

„Wir müssen uns fragen: Wer designt die KIs? Wessen Vorstellungen von der Welt bilden dazu die Vorlage?“, sagte Crawford am Ende ihres re:publica-Vortrags. Algorithmen sind eben nie einfach neutral, sie reflektieren die Werte derjenigen, die sie erschaffen. Die aktuellen Fälle um Suchergebnisse zeigen: Hier gibt es noch mehr als genug Optimierungsbedarf.

Wie sich diese Ergebnisse schon durch die Debatte darüber verändern können, das zeigt eine erneute Suche nach „three black teenagers“. Inzwischen tauchen dort nicht mehr nur Mugshots auf – sondern vor allem die Bilder zu den Artikeln, die über diese Debatte berichten.