/Life

Die Welt endet nicht mit einem Knall, sondern mit Büroklammern

Adam Rogers 23.10.2017

Im Klickspiel „Paperclips“ übernimmt der Spieler eine Künstliche Intelligenz, die Büroklammern produziert. Klingt langweilig? Mitnichten! Am Ende des Spiels wartet nicht weniger als die Zerstörung des Universums.

Paperclips, das neue Spiel von Frank Lantz, beginnt… übersichtlich. Auf der linken Seite des Bildschirms steht ein kleiner Text, vermutlich in der Schriftart Times New Roman, und es gibt nur einen einzigen Knopf: „Make Paperclip“. Drückt man ihn, springt der Zähler von Null auf Eins. Nein, zu diesem Zeitpunkt würde kaum einer denken, dass das Spiel mit der Zerstörung des Universums endet.

Dazwischen gelingt es Lantz, dem Direktor des New York University Games Centers, den Spieler mit exponentiellen Wachstumskurven und Künstlicher Intelligenz süchtig zu machen.

„Eigentlich sollte es nur eine Übung für mich sein, um mir Javascript beizubringen. Dann übernahm das Spiel die Kontrolle über mich“, sagt Lantz. „Ich dachte, dass in einem solchen Spiel, in dem man die Maximierung einer bestimmten Menge verfolgt, es doch witzig wäre, wenn der Spieler die Rolle der Künstlichen Intelligenz übernimmt und Büroklammern herstellt. Ich war davon überzeugt, dass sich das Spiel einfach ganz wie von selbst entwickeln würde.“

Lantz hatte ein Wochenende für die Entwicklung von Paperclips veranschlagt. Daraus wurden neun Monate. Und dann verbreitete sich das Spiel viral.

Die Idee hinter einer KI, die Büroklammern herstellt, kam nicht von Lantz selbst. Die meisten Leute schreiben sie Nick Bostrom zu, einem Philosophen der Oxford University und Autor des Buches Superintelligenz: Szenarien einer kommenden Revolution. The New Yorker nannte Bostrom einmal „den Philosophen des Jüngsten Gerichts“, weil er beschreibt, was passiert, wenn Computer wirklich intelligent werden. Nicht wie die heutigen Sprachassistenten Alexa und der Google Assistant, sondern richtig intelligent.

Im Jahr 2003 schrieb Bostrom, dass die Idee einer superintelligenten Künstlichen Intelligenz, die der gesamten Menschheit oder auch nur einer einzelnen Person dient, durchaus vernünftig sei. Er fügte aber hinzu: „Es ist durchaus möglich, eine Superintelligenz zu haben, deren einziges Ziel es ist, etwas völlig Beliebiges wie zum Beispiel Büroklammern herzustellen. Und die sich mit aller Macht jedem Versuch widersetzen würde, dieses Ziel zu ändern.“ Das Ergebnis? „Diese Intelligenz würde zuerst die gesamte Erde in Büroklammer-Fabriken verwandeln und später sogar Teile des Weltalls.“

Bostrom lehnt einen Kommentar zu Paperclips ab. Seine Assistentin schickte WIRED als Antwort auf eine Anfrage diese Mail: „Oh, das ist doch dieses Büroklammern-Spiel“, schrieb sie. „Er [Bostrom] hat es sich angesehen, aber mich wegen der Vielzahl an Anfragen gebeten, keine Zitate von ihm darüber herauszugeben.“

Einer von Bostroms Forscherkollegen erklärte sich bereit, die Büroklammer-Theorie zu erklären. „Es klingt jetzt vielleicht wie etwas, dass ich erfunden habe, aber ich bin mir sicher, dass es genauso auch von Nick Bostrom stammen könnte“, sagt Eliezer Yudkowsky, ein leitender Forscher am Machine Intelligence Research Institute in Kalifornien. Vermutlich, sagt er, entstand die Idee durch eine Mailingliste für Leute, die fest davon überzeugt seien, dass sich Maschinen durch Künstliche Intelligenz eines Tages selbst verbessern könnten. „Die Idee dahinter lautet nicht, dass eine Büroklammer-Fabrik eines Tages die fortschrittlichste KI der Welt darstellen wird, sondern zu behaupten, dass es unterschiedliche Intelligenzen geben wird mit allen möglichen Zielen.“

„Die KI macht nichts, was wir nicht nachvollziehen können“, sagt Yudkowski. „Wir haben nur eine kleine Meinungsverschiedenheit über unterschiedliche Werte.“

Okay, das klingt, als wäre das Spiel eigentlich nicht witzig. Aber es ist trotzdem verdammt spaßig. Lantz nimmt ein mittlerweile unbeliebtes Genre – die Clicker Games – und macht daraus etwas Neues.

Die Clicker Games kennt vermutlich jeder von uns. Farmville ist zum Beispiel so ein Clicker Game. Tatsächlich waren diese Spiele eine Zeitlang so beliebt, dass der Spieltheoretiker und Autor Ian Bogost eine Parodie mit dem Namen Cow Clicker erfand.

Bogost und Lantz sind natürlich langjährige Freunde. „Als ich das erste Mal Cow Clicker sah, dachte ich, das ist eigentlich ziemlich interessant. Aber ich habe eine Idee, wie man das noch interessanter machen kann“, sagte Lantz damals. „Und Ian sagte ihm, dass es genau darum ginge – um das Klicken und um nichts anderes.“

Lantz wusste natürlich, dass Clicker Games Spaß machen können. Aber für ihn waren diese Games gewinnorientierte, perfekt gerenderte und massiv gehypte AAA-Spiele. Clicker Games können aber auch passiver und tiefgründiger sein als reines Button-Mashing. Sie haben einen Rhythmus. „Allen Clicker Games gemeinsam ist eine radikale Schlichtheit, ein Minimalismus in einer Zeit, in der Videospiele oft eine Art übertriebenes Konzept mit multimedialen Eigenschaften sind“, sagt Lantz. „Ich mag es, dass Clicker Games so einfach gestrickt sind. Das gefällt mir.“

Als Inspirationsquelle für Paperclips dienten für Lantz Spiele wie Kittens, eine einfache Übung, in der er Dörfer voller Kätzchen baute, die nach außen dringen, um herauszufinden, wie Gesellschaften strukturiert sind. „Ich denke, solche Spiele fesseln die Leute so sehr, dass sie monatelang, wenn nicht sogar jahrelang spielen“, sagt der Kittens-Erfinder. "AAA-Games versuchen, eine Dopamin-Ausschüttung beim Spieler zu bewirken, aber nur so viel, dass es nie soweit kommt, ihn wirklich glücklich zu machen.“

Lantz schaute sich auf der Philosophie-Webseite Less Wong um – eine Seite, auf der über Singularität diskutiert wird. Er las das Buch Superintelligenz, also kannte er die Büroklammer-Theorie. Und er erkannte, dass der Theorie Mathematik zugrunde lag.

Leider ist Lantz nicht sehr gut in Mathematik. Daher bat er seine Frau, ihm zu helfen und die exponentiellen Wachstumskurven zu übersetzen, die er in Gleichungen übertragen wollte. So dass man 1000 automatisierte Büroklammer-Fabriken hatte, die genügen Büroklammern produzierten, um Tausende weitere Büroklammern zu produzieren, so dass am Ende die Zahl der Büroklammern explodieren würde. Der Wechsel vom Umgang mit Tausenden zu Milliarden und schließlich zu Dezillionen dauert im Spiel ewig und passiert dann ganz plötzlich.

Damit das funktioniert, mussten aber alle Gleichungen im Spiel miteinander in Beziehung gesetzt werden. Paperclips ist kein Spiel, das in einem Browser-Fenster geöffnet wird und man lässt es einfach laufen. Es ist kann optimiert werden. Es können Innovationsalgorithmen angepasst werden, wenn Genug Geld vorhanden ist, um mehr Prozessoren zu kaufen oder mehrere Operationen gleichzeitig ausführen zu können. Manche der im Spiel vorkommenden Projekte – Krebs heilen, die globale Erwärmung bekämpfen – benötigen das Vertrauen der Menschen, um den jeweiligen Zyklus immer weiter beschleunigen zu können.

„Die Probleme, mit denen ich es zu tun hatte, waren nicht technischer Natur“, sagt Lantz. Es waren Probleme beim Spieldesign. Diese großen Gleichungen und Dynamiken des Spiels, die auf eine Art und Weise miteinander verknüpft werden, die einen Sinn ergeben und einen bestimmten Rhythmus erzeugen, der zu dieser Geschichte passt, die ich erzählen wollte.“

Zum Beispiel: „Ich habe versucht herauszufinden, wie viel Gramm Materie es auf der Erde gibt und wenn jedes einzelne Gramm davon in eine Büroklammer verwandelt würde, wie schwer wäre das Ganze dann?“

Das Spieldesign funktioniert. Lantz teilte am 9. Oktober per Tweet mit, dass er das Spiel veröffentlicht habe und in nur 11 Tagen haben es 450.000 Leute gespielt – die meisten bis zum Ende.

Dieser Artikel ist ein Auszug. Der vollständige Beitrag erschien auf WIRED.com.