/Life

Killer-Roboter: Renomierte KI-Forscher rufen zum Boykott auf

WIRED Staff 04.04.2018

Die südkoreanische Spitzenuniversität KAIST hat gemeinsam mit dem Waffenhersteller Hanwha Systems ein Labor für die Entwicklung von KI-Waffen eingerichtet. Mehr als 50 Experten für Künstliche Intelligenz haben nun zu einem Boykott der Universität aufgerufen. Denn solche Einrichtungen würden zur Entwicklung von Killer-Robotern beschleunigen.

Als WIRED Anfang 2017 mit dem KI-Experten Toby Walsh sprach, sagte dieser, dass das Zeitalter der Killerroboter vielleicht noch verhindert werden könnte. Zumindest dann, wenn die Menschheit nicht die falschen Entscheidungen trifft. Eine solche falsche Entscheidung hat laut Walsh jetzt die südkoreanische KAIST Universität getroffen. Zusammen mit über 50 Professoren und KI-Experten aus 30 Ländern (darunter auch Deutschland) ruft er jetzt zu einem Boykott der Universität auf.

Der Aufruf richtet sich direkt an den Universitätspräsidenten des KAIST: Forscher sollen jegliche Zusammenarbeit mit dem Institut boykottiert, solange dieser nicht zusichert, dass keine KI-Waffen ohne nennenswerte menschliche Kontrolle entwickelt werden. „2015 haben wir vor einem Wettrüsten bei autonomen Waffen gewarnt“, sagt Walsh. „Dieses Wettrüsten hat jetzt begonnen. Die Handlungen der KAIST werden ihn beschleunigen.“ So werde eine neue Generation der Kriegsführung ermöglicht, mit der die Hemmschwelle für den Einsatz tödlicher Gewalt durch Staaten und Terroristen weiter sinke.

Bereits seit 2015 setzen Walsh und seine Kollegen sich dagegen ein, dass Roboter durch KI irgendwann zu Massenvernichtungswaffen werden. Damals veröffentlichte er einen offenen Brief, den auch Elon Musk und der kürzlich verstorbene Stephen Hawking unterschrieben.

Das Korea Advanced Institute of Science and Technology (kurz KAIST) war bei seiner Gründung 1971 die erste Universität in Südkorea, die eine klare Ausrichtung auf Technologie und Naturwissenschaften besaß. Sie zählt zu den Spitzenuniversitäten des Landes. Hanwha Systems ist ein kontroverser Waffenhersteller, der trotz UN-Verboten auch Streumunition herstellt. Unter den unterzeichnenden Forschern des Boykottaufrufs finden sich Namen wie die Deep-Learning-Experten Geoffrey Hinton, Yoshua Bengio und Jürgen Schmidhuber. Aus Deutschland wird der Boykott vom Leibniz-Preis-Gewinner und Robotik-Experten Wolfram Burgard unterstützt.

Sung-Chul Shin, der Präsident der KAIST, äußerte sich kurz nach der Ankündigung des Boykotts: „Ich möchte betonen, dass dieses Forschungszentrum der KAIST nicht an tödlichen autonomen Waffensystemen arbeitet und dass die Forschungsaktivitäten nicht auf Einzelangriffe ausgerichtet sind.“ Stattdessen arbeite die KAIST an Navigationssystemen, Flugtraining und Fortbildungsmöglichkeiten für Forscher. Es werde nur an Waffen mit „ausreichend menschlicher Kontrolle“ gearbeitet.

Es bleibt unklar, wie solch eine menschliche Kontrolle über ein autonomes System aussehen könnte. „Wie kann sie beispielsweise bei einem unbemannten U-Boot sichergestellt werden?“, fragt Toby Walsh, der Federführende Forscher des Boykotts. An diesem Projekt soll die KAIST nämlich als erstes arbeiten.

Der Zeitpunkt des Boykottaufrufs ist mit Bedacht gewählt: Am kommenden Montag wollen 123 Mitgliedsländer der Vereinten Nationen in Genf über die Probleme von Killer-Robotern beraten. 22 Länder haben bereits ein generelles Verbot derartiger autonomer Waffen gefordert.

Experten warnen schon länger davor, Maschinen mit der Entscheidungshoheit über menschliches Leben auszustatten. Ende 2017 richtete zuletzt eine Gruppe von 116 Experten einen offenen Brief an die Vereinten Nationen mit ähnlichem Inhalt. Dieses Mal richtet sich die Aktion allerdings gegen eine konkrete Institution, die sich der Entwicklung von Kriegsmaschinen verschrieben hat.