Dürfen Autohersteller ihre Fahrassistenzsysteme als „Autopilot“ bewerben? Und wenn ja, sollten Verbraucher sich auf die Technologie verlassen? Fragen, die sich spätestens seit dem tödlichen Unfall eines Tesla-Fahrers im Mai stellen. Auch Michael Lanz beschäftigt sich mit ihnen. Sein Argument: Wirklich selbstfahrende Autos gibt es noch nicht und daran muss man die Menschen erinnern – mit der richtigen Produktgestaltung.
Lanz ist Mitinhaber und Geschäftsführer der Beratungsagentur Designaffairs und lehrt Industriedesign an der FH Joanneum in Graz. Er beschäftigt sich mit Designfragen rund ums Auto der Zukunft und berät in diesem Kontext Kunden wie BMW, Audi oder Hyundai. Im WIRED-Interview stellt er fest: Komplett autonome Autos werden erst dann interessant, wenn wir alle von „Fahrern“ zu „Passagieren“ werden.
WIRED: Rolls Royce hat vor Kurzem ein „selbstfahrendes Wohnzimmer“ vorgestellt, ein autonomes Auto mit Sofa und Riesenfernseher statt Lenkrad und Armaturenbrett. Sind die verrückt geworden?
Michael Lanz: Nein, warum denn? Viele Automobilfirmen zeigen in letzter Zeit Studien, wie ein autonom fahrendes Fahrzeug aussehen könnte. Ein solches selbstfahrendes Auto eröffnet viele neue Möglichkeiten für die Passagiere. Auf längeren Fahrten kann es zum Büro, Schlafzimmer oder Speisewagen werden. In der Stadt fährt es einen sicher zur Arbeit, zur Schule, zum Einkaufen und wieder zurück. Und nach Partys oder Kneipenbesuchen ist die Heimfahrt trotz Alkoholkonsum problemlos möglich.
WIRED: Trotzdem höre ich ein „Aber“ in Ihrer Antwort mitschwingen…
Lanz: Aber ein solches komplett selbstfahrendes Auto ist heute technisch und rechtlich noch nicht möglich. Es wird erst dann wirklich interessant, wenn der Passagier die Verantwortung komplett abgeben kann. Das Auto selbst ist allerdings keine natürliche oder juristische Person und kann das nicht leisten.
Noch halte ich das teilautonome Fahren, bei dem man die Hände vom Steuer nehmen kann, für unattraktiv oder sogar gefährlich
WIRED: Also muss im Moment noch der Mensch ran.
Lanz: Ja, heute muss der „Fahrer“ nach wie vor als letzte Instanz alle Aktivitäten des Fahrzeugs überwachen und in Gefahrensituationen notfalls eingreifen. Und solange das so ist, halte ich das teilautonome Fahren, bei dem man die Hände vom Steuer nehmen kann, für eher unattraktiv oder sogar gefährlich. Wenn ich beim Fahren nur noch zuschaue, werde ich schneller unkonzentriert und müde, als wenn ich aktiv gefordert werde. Das kann schnell dazu verführen, mich von anderen Dingen wie zum Beispiel meinem Smartphone ablenken zu lassen.
WIRED: Aus Ihrer Sicht als Produktdesigner: Wie muss ein selbstfahrendes Auto ausgestattet sein, damit das nicht passiert?
Lanz: Die Ausstattung der autonomen Fahrzeuge wird so individuell sein, wie die Bedürfnisse und Zahlungsbereitschaft der Nutzer. Das ist bei heutigen Fahrzeugen genauso. Was aber ein Muss bei jedem autonom fahrenden Auto sein wird: Es muss mindestens genauso sicher sein, wie ein manuell gelenktes Fahrzeug heute – den Fahrer als Risikofaktor eingeschlossen.
WIRED: Im Mai gab es einen tödlichen Unfall mit einem Tesla, der im sogenannten Autopilot-Modus fuhr. Können Tragödien wie diese durch Design-Entscheidungen in Zukunft verhindert werden?
Lanz: Unfälle werden sich nie vollkommen verhindern lassen. Denn egal ob ein Mensch oder eine Maschine am Steuer sitzt: Das perfekte, fehlerfreie System gibt es nicht. Dennoch gibt es Technologien, die als Kontrollinstanzen solchen Situationen vorbeugen können. Zum Beispiel Sensoren, die sicherstellen, dass der Fahrer immer mindestens eine Hand am Steuer hat, beispielsweise durch kapazitive Sensoren im Lenkrad. Oder man garantiert durch ein Eyetracking-System, dass er die Augen auf die Straße gerichtet hat. Bei Nichtbeachtung könnte als erstes ein nerviger Warnton unterstützt mit einer entsprechenden Nachricht den Fahrer darauf hinweisen, die Anforderungen zu erfüllen – wie heute bereits im Falle des Sicherheitsgurtes. Bei weiterer Missachtung könnten dann drastischere Maßnahmen bis hin zum Abstellen des Fahrzeugs erfolgen.
WIRED: Auf der Autobahn automatisch anhalten klingt ziemlich gefährlich.
Lanz: Natürlich muss sichergestellt sein, dass durch Sicherungssysteme keine weiteren Personen gefährdet werden. Das Fahrzeug soll dann ja keine Vollbremsung durchführen, sondern könnte zunächst die Geschwindigkeit soweit reduzieren, dass niemand gefährdet wird, und dann zum Beispiel den nächsten Park- oder Rastplatz ansteuern.
Tesla muss sich die Frage stellen, ob man nicht mehr hätte tun können, um den Missbrauch des Systems zu verhindern
WIRED: Wer ist schuld, wenn ein schwerer Unfall mit einem selbstfahrenden oder teilautonomen Auto passiert: der Passagier, der Software-Entwickler, der User-Interface-Designer?
Lanz: Im Fall des tödlichen Tesla-Unfalls würde ich mit meinem heutigen Wissensstand sagen, der Fahrer. Er ist anscheinend darauf hingewiesen worden, dass das Autopilot-System noch in der Erprobungsphase ist und er jederzeit eingreifen können muss. Allerdings muss Tesla sich die Frage stellen, ob man nicht mehr hätte tun können beziehungsweise müssen, um diesen Missbrauch des Systems zu verhindern.
WIRED: Was meinen Sie mit Missbrauch?
Lanz: Missbrauch heißt für mich in diesem Fall, dass sich der Fahrer – entgegen den Vorschriften seitens Tesla – komplett dem Fahrgeschehen entziehen konnte.
+++ Mehr von WIRED regelmäßig ins Postfach? Hier für den Newsletter anmelden +++
WIRED: Selbstfahrende Autos geben das Versprechen: bequem und sicher reisen, ohne dass man sich um etwas kümmern muss. Eigenverantwortung, wie Sie sie einfordern, bedeutet hingegen Anstrengung. Wie löst man diesen Konflikt auf?
Lanz: Wie schon gesagt, zum jetzigen Zeitpunkt ist teilautonomes Fahren mit einer Eigenverantwortung des Fahrers für alle Aktivitäten des Fahrzeugs eher unattraktiv. Damit meine ich aber nicht sinnvolle Assistenzsysteme wie Spurhalteassistenten, Abstandswarner oder Übermüdungssensoren, die mich als Fahrer nicht überflüssig machen, sondern mir dabei helfen, besser und sicherer zu fahren. Der Konflikt zwischen Bequemlichkeit und Eigenverantwortung kann nur dann aufgelöst werden, wenn der Fahrer nur noch Passagier ist und die rechtlichen Rahmenbedingungen dafür geschaffen werden, dass jemand anderes die Verantwortung für die Aktionen des Fahrzeugs übernimmt. Das könnte beispielsweise der Hersteller sein, aber auch ein Mobilitätsprovider, der autonomes Fahren als Service anbietet. Erst dann wird sich der Passagier entspannt zurücklehnen können.
WIRED: Und Sie glauben, Tesla oder auch Uber werden diese rechtliche Verantwortung ernsthaft übernehmen?
Lanz: Das ist letztendlich eine versicherungstechnische beziehungsweise haftungsrechtliche Frage. Auch die heutigen Autohersteller müssen die Verantwortung übernehmen, wenn aufgrund eines technischen Versagens, das nicht auf schlechter Wartung oder falschem Gebrauch des Fahrzeugs beruht, ein Unfall passiert. Wenn die autonomen Fahrzeuge in Zukunft sicherer sind als manuell gesteuerte, wird auch die Versicherungsprämie günstiger ausfallen. Ob dann Tesla, Uber oder doch der Nutzer diese Prämie bezahlt, ist letztendlich nur noch eine Frage des Geschäftsmodells.
Der tödlich verunglückte Fahrer ist zum tragischen Opfer seiner eigenen Technikbegeisterung geworden
WIRED: Von Kindern, Senioren oder Menschen mit Behinderung kann man nicht ohne weiteres verlangen, im Notfall einzugreifen. Dürfen sie also keine autonomen Autos nutzen?
Lanz: Nein, erst wenn es sich um ausreichend ausgereifte vollautonome Systeme handelt, die zu keinem Zeitpunkt ein Eingreifen des Fahrers erfordern, werden die angesprochenen Personengruppen diese Fahrzeuge nutzen können. Solange Fahrzeuge nur teilautonom sind, wird es allein schon aus rechtlicher Sicht erforderlich sein, dass der Fahrer im Besitz eines gültigen Führerscheins ist.
WIRED: Sie haben als Industrial Designer unter anderem in den Bereichen Medizintechnik, Mobiltelefone sowie Farb- und Materialkonzepte gearbeitet. Was kann das Interface-Design für selbstfahrende Autos aus diesen Branchen lernen?
Lanz: Im User-Interface- und User-Experience-Design geht es darum, Bedienabläufe für den Nutzer verständlich und möglichst intuitiv zu gestalten. Vor allem im Bereich Medizintechnik steht dabei nicht nur eine einfache, sondern auch die möglichst fehlerfreie Bedienung im Vordergrund. Um Anwendungsfehler zu vermeiden ist es wichtig, dass die Maschine dem Nutzer kommuniziert, in welchen Zustand sie sich befindet, welche Prozessschritte gerade ausgeführt werden, welche Handlungsoptionen zum gegenwärtigen Zeitpunkt bestehen und ob eine Aktion seitens des Nutzers erforderlich ist. Diese Mensch-Maschine-Interaktion ist gerade für den Automobil-Bereich wichtig. Ich gehe zum Beispiel davon aus, dass der tödlich verunglückte Tesla-Fahrer sich über das Restrisiko der Autopilot-Funktion nicht ausreichend bewusst war. Er traute dem System mehr zu, als es bis dato zu leisten imstande ist, und wurde so zum tragischen Opfer seiner eigenen Technikbegeisterung. Aus UI- und UX-Design-Perspektive hätte man sicherlich mehr tun können, um ihm das Risiko bewusster zu machen und seine Aufmerksamkeit stärker einzufordern.
