2012 hatten die Ingenieure, die an Googles selbstfahrenden Autos arbeiteten, ein Problem: Testfahrer hatten zugesagt, nicht alles dem Selbstfahrmechanismus überlassen zu wollen, sondern stets selbst die Straße im Blick zu behalten. Und dann hatten sie sich nicht daran gehalten. Damit hatten sich die Testfahrer selbst in Gefahr gebracht.
Dieses Problem wird das „handoff problem“, das „Übergabeproblem“, genannt: Wie schafft man es, die Verantwortung wieder an den Menschen zurückzugeben, wenn der Computer aussetzt. Googles Antwort darauf? Die Herausforderung umgehen, indem man ein Fahrzeug baut, das komplett eigenständig agiert.
In den darauffolgenden Jahren entschieden diverse weitere Unternehmen, die selbstfahrende Autos entwickeln, die Lösung für das „handoff problem“ in der stärkeren Automatisierung zu suchen. Ford, General Motors und Volvo etwa fuhren ihre Forschung für Übergabemöglichkeiten im Notfall zurück – oder gaben sie ganz auf. So ist der Stand der Dinge im Jahr 2017 der: Die Wahrscheinlichkeit ist groß, dass wir künftig von Maschinen chauffiert werden, die als perfekte Fahrer immerhin den Vorteil haben, uns nicht mit Smalltalk zu belästigen.
Das klingt gut, ist es aber nicht. Die Autofirmen sitzen nämlich einem großen Missverständnis auf. Sie verstehen nicht, welche Rolle Künstliche Intelligenz idealerweise im Leben von uns Menschen spielen sollte. Und in der Übergangsphase bis es dann wirklich vollautonome Autos geben sollte, werden Hunderte, ja Tausende ums Leben kommen, die man davor hätte bewahren können.
Man denke nur daran, dass selbstfahrende Autos vor allem in Städten eingesetzt werden. Dort wohnen die zahlenden Kunden. Experten gehen davon aus, dass autonome Taxis in den nächsten Jahrzehnten Milliardenumsätze generieren werden. Was das Fahren in Städten zudem attraktiv macht: Es geht dabei um eine eingeschränkte Fläche, die technologische Herausforderung ist entsprechend eingrenzbar. Mehr als die Hälfe aller 35.000 Verkehrstote in den USA sind jedoch Opfer von Unfällen außerhalb von Städten – auf Land- und Bundesstraßen. Dort gibt es viel häufiger unerwartete Ereignisse, auf die ein Autofahrer reagieren muss, seien es kurzfristige Baustellen, überraschende Umleitungen oder plötzliche Wetterveränderungen. Roboter können auf so etwas bisher nicht ausreichend reagieren, da braucht es immer auch einen Fahrer, der im Notfall eingreift. Gelöst ist das „handoff problem“ für Straßen außerhalb von Städten auf lange Sicht jedenfalls nicht.
So hart muss man es tatsächlich formulieren und so komplex ist es leider auch: Ein Auto, das im Notfall auf ein menschliches Backup zurückgreifen muss, muss Dinge wissen, die kein Auto zuvor je wusste. Wichtig ist etwa die Information, ob der Mensch an Bord aufpasst, ob er schnell genug eingreifen könnte und was für ein Signal er braucht, um das dann auch zu tun. Das alles muss dann zudem innerhalb weniger Sekunden passieren.
Verständlich, dass Google sich davon erstmal verabschiedet hat. Wobei die Umsetzung nicht unmöglich ist. Es gibt sogar einen Autohersteller, der die Herausforderung angenommen hat: Audi. Gerade hat das Unternehmen seinen neuesten A8 vorgestellt, dessen Selbstfahrsystem den Menschen als Unterstützung vorsieht.
Ingenieure und Psychologen arbeiten für Audi seit Jahren daran, selbstfahrende Autos sicher auf Autobahnen fahren zu lassen. Ihr Hauptaugenmerk galt jedoch der Schnittstelle Mensch/Maschine. Das Ergebnis: Der A8 beobachtet den Menschen hinter dem Steuer mit einer Kamera zur Gesichtserkennung, und das Steuerrad registriert, wann es berührt wird – und wann nicht. Wenn die KI des autonomen Autos entscheidet, dass sie Hilfe benötigt oder merkt, dass der Mensch an Bord gar nicht auf die Straße achtet, erhält dieser sichtbare und hörbare Signale. Falls das nicht hilft, zieht das Auto die Sicherheitsgurte etwas strammer und bremst das Fahrzeug leicht ab. Noch immer keine Reaktion? Dann geht der Warnblinker an, das Auto stoppt, die Türen öffnen sich.
Auf diese Alarm-Abfolge kam Audi durch Tests mit Hunderten von Menschen auf verschiedenen Kontinenten, die Strecken im Simulator zurücklegten. Das System kann sogar auf individuelle Bedürfnisse eingestellt werden. Auch das ist eine Erkenntnis aus der Testreihe: Autofahrer aus China etwa reagieren weit besser auf visuelle Hinweise als auf Töne.
Der A8 ist noch in keine Notfallsituation geraten, in der er das Können seiner KI unter Beweis hätte stellen können, und Audi wird vermutlich niemals ausreichend viele dieser Wagen verkaufen, um die Zahl der Verkehrstoten positiv zu beeinflussen. Aber der Ansatz, auch autonome Autos nicht ohne menschlichen Fahrer zu denken, kann als Vorbild für andere dienen. Der Super Cruise von Cadillac setzt zum Beispiel eine Kamera ein, um den Menschen an Bord im Blick zu behalten. Und Forscher von IBM haben kürzlich ein KI-System patentieren lassen, das entscheiden soll, wer in einer Notfallsituation das Steuer übernimmt. Um den Autopiloten stets kontrollieren zu können, hilft Tesla seinen Fahrern mit einem Display, das genau anzeigt, was das autonome Auto sieht.
In einigen Jahrzehnten, wenn es überall vollautonome Autos geben wird, werden diese Mensch-Maschine-Schnittstellen nicht mehr nötig sein. Das bedeutet aber nicht, dass man heute auf sie verzichten kann. Selbst wenn es einem selbst nicht vorrangig darum geht Leben zu schützen, ist die Forschung an Kombinationen aus Künstlicher und menschlicher Intelligenz wichtig, um eine drängende Frage zu beantworten: Wie stellen wir uns die Zukunft vor, in der Maschinen immer menschenähnlicher werden?
Roboter, die denken und dazulernen können, werden ein selbstverständlicher Teil unserer Gesellschaft. Sie spielen zunehmend eine Rolle etwa im Gesundheitswesen, in der Finanzbranche, sogar in der Popkultur. Wenn diese Künstlichen Intelligenzen das Leben nicht nur effizienter, sondern auch besser machen sollen, müssen sie den Menschen und dessen Wohlergehen stets ins Zentrum ihrer Aufmerksamkeit stellen. Umkehrschluss: Auch die Menschen, die diese Roboter entwickeln, müssen so priorisieren.
Ein gänzlich autonomes Auto kümmert es nicht, ob die Menschen an Bord auf die Straße achten. Aber die KI sollte stets mitbekommen, wenn die Fahrgäste sich nicht mehr wohlfühlen, gestresst oder nervös werden. Selbst wenn Menschen nicht mehr fahren, sind es doch SIE, um die es geht.
