„Wenn diese Büchse der Pandora einmal geöffnet ist,“ so die Gruppe von KI-Experten und Tech-Unternehmern, „wird es schwierig, sie wieder zu schließen.“ Die UN hatten erst kürzlich beschlossen, formelle Diskussionen über KI-gesteuerte Waffensysteme anzufangen. Diese schließen Drohnen, Panzer und automatische Maschinengewehre ein. Musk und die anderen Unterzeichner des Verbotsaufrufs fürchten, dass Künstliche Intelligenz die Hemmschwelle für tödliche Kriegshandlungen noch weiter herabsetzen wird, schreibt der Guardian.
Elon Musk hatte sich bereits in der Vergangenheit für eine starke Regulation von Künstlicher Intelligenz ausgesprochen, die er für eine potenziell existenzielle Bedrohung der Menschheit hält. Autonome Waffen, so Mitunterzeichner Ryan Gariepy von Clearpath Robotics, sind allerdings im Gegensatz zu hochintelligenter KI nicht Jahrzehnte, sondern nur noch Jahre der Entwicklung entfernt.
Diese Gefahr müsse jetzt abgewendet werden, indem derartige Waffen auf die CCW-Liste von 1983 gesetzt werden. Die Certain Conventional Weapons sind von der UN verboten und schließen etwa Blendlaser und chemische Kampfstoffe ein. Der jetzige Aufruf ist bereits der Zweite dieser Art, der von den Teilnehmern der International Joint Conference on Artificial Intelligence erschaffen wurde— und auch von anderen Seiten kommt die Forderung immer wieder auf.
Unterschiedliche Länder arbeiten derzeit an autonomen Waffensystemen, von denen einige wie die südkoreanische automatische MG-Stellung Samsung SGR-A1 oder das US-Kriegsschiff Sea Hunter bereits im Einsatz sind. Nach der Erfindung des Schwarzpulvers und der Entwicklung von Atomwaffen könnten Roboter die nächste große Revolution der Kriegsführung darstellen — und auch zu Konflikten mit verheerenden Folgen für die Zivilbevölkerung führen. Ob die Bürokratie der UN das verhindern kann, wird die Geschichte zeigen.