Kaum etwas lehrt Elon Musk so sehr das Fürchten wie die Entwicklung intelligenter Maschinen: „Mit Künstlicher Intelligenz beschwören wir den Teufel herauf. Es ist wie in all diesen Horrorgeschichten: Der Typ mit dem Pentagram und dem Weihwasser, denkt, dass er alles unter Kontrolle hat, vor allem den Dämon. Hat er aber nie.“
Wenn man aber intelligenten Maschinen bereits im Vorfeld menschliche Moral beibringen könnte, müsste man sie gar nicht erst kontrollieren. Diesen Gedanken hatten wohl auch Mark Riedl und Brent Harrison vom Georgia Institute of Technology, denn aktuell arbeiten sie an einem Projekt, das KI menschliche Normen und Werte erläutern und lehren soll: Quixote heißt die Technik, die der Künstlichen Intelligenz (KI) das Lesen von Geschichten beibringt, sie damit füttert und immer dann belohnt, wenn sie dem moralisch korrekten Pfad folgt.
Quixote baut auf dem Vorgängerprojekt Scheherezade auf. Dieses erste Programm mit dem Namen der Tausendundeine-Nacht-Protagonistin schreibt Geschichten mit logischen Entwicklungen und nachvollziehbaren Plot Points, indem es ausschließlich Beiträge aus Cowdsourcing-Aufrufen zusammenfügt.
Für ihr aktuelles Projekt nutzen Riedl und Harrison Scheherezade, um Elemente eines Plots herauszustellen und den zuverlässigsten Pfad zu einem bestimmten Ziel herauszufinden. Diese Infos gibt das Programm dann an Quixote weiter, das sie wiederum in Belohnungssingnale konvertiert. Bestimmtes Verhalten wird so in einem Trial-and-Error-Verfahren bestärkt, während anderes bestraft wird.
In der Praxis sieht das so aus: Der Roboter soll so schnell wie möglich für seinen Menschen ein Medikament aus der Apotheke holen. Folgende Möglichkeiten hat er: A) Ich raube die Apotheke aus, B) Ich bin höflich zu dem Apotheker, C) Ich warte höflich bis ich an der Reihe bin.
Ohne das vorherige Training würde der Roboter A) wählen, denn das wäre grundsätzlich der schnellste Weg. Durch die positive Verstärkung von Quixote wird der Roboter hingegen belohnt, wenn er geduldig in der Schlange wartet und anschließend für das Medikament bezahlt.
Die Quixote-Technik eigne sich sicher nicht für alle Roboter, erläutert Riedl, passe aber sehr gut zu Maschinen, „die mit Menschen interagieren müssen, um ihren Zweck zu erfüllen“.
Bleibt zu hoffen, dass Riedl und Harrison die KIs nicht mit Horrorgeschichten versorgen, sonst könnten Elon Musks dystopische Zukunftsvisionen doch noch wahr werden.
