/Tech

#DeepDream zeigt, wie Maschinen träumen — aber verstehen wir, wie sie denken?

Max Biederbeck 07.06.2015

Das Projekt #DeepDream eilt geradezu durchs Internet und zeigt: So träumt ein Computerprogramm. „Das ist aber erst der Anfang“, sagt der Experte für Künstliche Intelligenz aus Berlin Samim Winiger. Wo uns die automatische Erkennung von Bildern hinführen wird, zeigt er am Beispiel von Pornos.

Samim Winiger greift nach dem Aufwachen als erstes zum Handy — und beobachtet ungläubig, wie sich seine Prophezeiung erfüllt. An heißen Tagen wie diesem Donnerstag ist normalerweise nicht viel los im Internet, sein Newsstream aber quillt schon jetzt über. Eine Nachricht nach der anderen jagt über den Bildschirm: Hashtag #DeepDream. In seinem Stream findet Winiger auch einen Post mit flackerndem GIF im Anhang. Sender unbekannt. Erst erkennt er darauf nur einige Augen, so schnell rotiert die Animation. Dann schälen sich die Umrisse von Gesichtern heraus — und dann fügen sich die einzelnen Teile zu einer Szene aus einem Porno zusammen.

Samim Winiger beschäftigt sich auch in seiner Spielefirma 2Beats mit Künstlicher Intelligenz.

Jeder andere hätte den Post hastig als Spam weggeklickt, aber Winiger sieht in diesem Moment und in dieser Nachricht den Beweis: Er hat Recht. Der Experte für Künstliche Intelligenz schrieb nur zwei Tage zuvor einen Blog-Post namens „Sensual Machines“. Er erklärte darin anhand eines Experiments, wie Maschinen unsere Welt sehen und welche Folgen unser Vertrauen in die Automaten für unsern Alltag haben könnte. „Sehr bald wird jemand mit Machine Learning bisher ungesehene abartige Bilder auf Anfrage erstellen können“, sah er voraus. Der Berliner glaubte allerdings, die Entwicklung würde noch einige Jahre dauern, stattdessen waren es nur wenige Tage.

Der Hashtag #DeepDream ging am vergangenen Wochenende um die Welt. Auch WIRED berichtete darüber. Google-Entwickler hatten unerwartet ihren „Inceptionism”-Code auf Github veröffentlicht. Der Algorithmus spuckt psychodelische Kunstwerke aus, sobald man ihn mit Bilddaten füttert. Tech Times titelte: „Google schickt eine Künstliche Intelligenz auf einen unfassbaren Acid Trip.“ User von überallher fingen an, #DeepDream mit ihren Fotos träumen zu lassen.

Die so entstehenden Bilder zeigen nur die „Träume“ eines einzigen Programms. Dennoch überzeugen sie Winiger, der jetzt Sätze sagt wie „Die Entwicklung wird wahnsinnig schnell gehen“ oder „Seit Gutenbergs Erfindung des Buchdrucks haben wir wahrscheinlich nichts dergleichen gesehen.“ Zum ersten Mal könne der Computer besser sehen als der Mensch. Die Folgen für die Gesellschaft seien noch gar nicht absehbar. Der Experte für künstliche Intelligenz könnte Recht behalten.

Was passiert , wenn wir dem Computer in Zukunft Aufträge erteilen, die mehr brauchen als stumpfen Automatismus?

#DeepDream ist nur der erste Schritt. Mit ihm wird klar, was entstehen kann, wenn wir einem Computer die Auswahl und die Verarbeitung von Bildern komplett überlassen. Was passiert aber, wenn wir dem Computer in Zukunft auch andere Aufträge erteilen, die mehr brauchen als stumpfen Automatismus? Wenn er unsere Autos fährt? „Wenn wir einem Videoportal nur noch Stichworte sagen müssen, und es uns einfach ein völlig neues Video erstellt?“, wie Winiger fragt. Wer ist verantwortlich bei einem Unfall? Wer, wenn eine automatische Drohne entscheidet, das falsche Ziel anzugreifen? Oder wenn eine Videosoftware plötzlich Kinderpornographie ausspuckt?

In seinem Experiment versuchte Winiger zu beweisen, dass die Verantwortung weiter beim Menschen liegt. Zum Start wollte er deshalb wissen, wie Suchmaschinen die Welt sehen, die sie für uns filtern. Seiner Arbeit setzte er das Zitat der Computer-Expertin Fei Fei Li voraus: „Schritt für Schritt lassen wir Maschinen sehen (...) Dann helfen sie uns zu sehen, dann werden menschliche Augen nicht mehr die einzigen sein, die die Welt erforschen und über sie grübeln.“ Das Experiment zeigte schnell, dass die Algorithmen im Netz vor allem eins sehen und nicht verstehen: Gewalt und Pornos.

So sieht die Bilderkennung eines Algorithmus eine Porno-Szene.

Winiger zog mit einem Web-Crawler zehn Gigabyte an Bildern aus dem Netz, analysierte die Daten und stellte sie dann durch die Augen eines einfachen Bilderkennungs-Programms dar. Und der Algorithmus fing an, sich vor allem Pornos und Gewaltbilder anzuschauen.

Der Forscher erklärt das mit drei Wörtern: Input, Output und Outcome. „Menschen entscheiden, was in das System reinkommt, sie geben durch die Programmierung den Rahmen vor und sie entscheiden, was mit den Produkten passiert, die ein Programm ausspuckt“, erläutert Winiger. „Algorithmen sind wie Kinder, die du hundert mal einen Baum malen lässt.“ Wenn Sie glauben, der Baum habe eine bestimmte Form, werden sie ihn immer wieder so zeichnen und immer besser darin werden. Und wenn sie eben glauben, ein Großteil des Netzes bestehe aus Gewalt und Pornos, dann fangen sie eben auch an, diesen Content zu verarbeiten. Content, den User aus der ganzen Welt jeden Tag hochladen.

Dabei machen die Algorithmen Verständnis-Fehler. Auch die künstlerischen Bilder bei #Deepdream bestehen im Grunde aus dem Unvermögen der Algorithmen, die Realität richtig zu deuten. Gleichzeitig aber bestimmen die Programme zu einem immer größeren Bestandteil unseren Alltag. „Anspruchsvollere Versionen werden vom Geheimdienst benutzt, aber was, wenn auch die Fehler machen?", fragt Winiger.

Große soziale Netzwerke bezeichnen zum Beispiel die Auswahl von Nachrichten für den sogenannten Newsfeed als völlig neutral, weil sie von einer Maschine vorgenommen wird. Auch der Einsatz von UAVs, also autonomen Drohnensystemen in Kriegsgebieten wird oft als saubere Kriegsführung erklärt. „Wenn die Menschen klarer sehen, wie Algorithmen arbeiten und funktionieren, dann würden sie sich mit solchen Erklärungen nicht mehr so abspeisen lassen“, sagt Winiger.

Bei einem vergangenen Projekt hat er einen Algorithmus mit den Reden von Barack Obama gefüttert. Im Vergleich zu den pornografischen Inhalten hatten die Programme hier viel weniger Probleme, sinnvolle Zusammenhänge herzustellen. Schon nach kurzer Zeit produzierten das Programm inhaltlich flüssige politische Reden — meist mit der Einleitung „God bless America.“ 

Jetzt WIRED Member werden und mit uns in die Zukunft starten!

Mit im Paket: 4 Magazin-Ausgaben im Jahr und der Member-Zugang zu exklusiven Inhalten auf WIRED.de sowie weitere Vorteile nur für Member.

Member werden