Künstliche Intelligenz (KI) steht bei Google ganz oben auf der Prioritätenliste. Damit Roboter und Programme allerdings nicht irgendwann die Kontrolle über uns Menschen übernehmen, beschäftigt sich das Google-Labor DeepMind mit der Frage, wie die Technologie im Notfall am besten gestoppt werden kann. Gemeinsam mit der University of Oxford haben die KI-Experten jetzt ein Forschungspapier dazu veröffentlicht.
Die Studie mit dem Titel Safely Interruptible Agents beleuchtet im Detail, wie durch Künstliche Intelligenz gesteuerte „Agenten“ in ihrer Arbeit unterbrochen werden können. Denn diese „benehmen sich nicht immer optimal“, schreiben die Forscher. Um die Maschinen im Notfall zu stoppen, schlägt DeepMind deswegen einen großen roten Knopf vor – einen sogenannten Kill Switch. Mit dieser Sicherheitsmaßnahme können Menschen, die etwa Roboter in Produktionsstätten beaufsichtigen, Arbeitsvorgänge unterbrechen.
Die Herausforderung dabei ist, dass die Künstliche Intelligenz nicht lernt, diese Unterbrechungen selbstständig zu umgehen. Denn wird der rote Knopf zu oft benutzt, könnte die Maschine irgendwann nicht mehr darauf reagieren. Wird ein Roboter in seiner Arbeit unterbrochen, wartet er normalerweise auf ein neues Kommando. Der von DeepMind und der Oxford University erarbeitete Ansatz täuscht der Maschine allerdings vor, dass sie sich selbst abgeschaltet hat und deswegen keine weitere Aktion erwartet.
Die Forscher kommen zu dem Schluss, dass manche Algorithmen das sogenannte „sichere Unterbrechen“ unterstützen. Es sei jedoch noch unklar, ob alle für Künstliche Intelligenz eingesetzte Algorithmen den Mechanismus erlauben.
+++ Mehr von WIRED regelmäßig ins Postfach? Hier für den Newsletter anmelden +++
