Der Schock ist groß, weil das Unvermeidliche passiert ist: Innerhalb nur eines Monats kam es zu zwei schweren Autounfällen, während die betroffenen Fahrzeuge (Teslas Modelle S und X) autonom unterwegs gewesen sein sollen. Den einen Unfall überlebten die Passagiere nur knapp, der andere endete tödlich. Jetzt ermitteln die Behörden, die Presse spielt verrückt und Teslas Aktienkurs beginnt zu taumeln.
Nur: Warum eigentlich? Tödliche Autounfälle passieren mit menschlichen Fahrern doch ständig. Und Tesla pocht bei jeder sich bietenden Gelegenheit darauf, dass der Autopilot der Kalifornier kein ebensolcher ist, sondern ein Fahrassistenzsystem, das vom Fahrer ständig überwacht werden muss. Darüber hinaus handelt es sich um eine Public Beta, also um unfertige und potentiell fehlerbehaftete Software. So tragisch die Unfälle auch sind – interessant macht sie vor allem, dass sie die ersten ihrer Art sind.
Denn autonome Fahrzeuge stecken noch in den Kinderschuhen. Nicht ohne Grund hat Google nach sieben Jahren und bereits knapp zwei Millionen zurückgelegten Meilen noch kein fertiges Fahrzeug auf den Markt gebracht. Das autonome Fahren funktioniert bisher weder nachts noch bei schlechten Witterungsbedingungen wirklich zuverlässig.
Teslas System ist nicht idiotensicher
Teslas System dagegen ist nur für die wesentlich leichter zu bewältigende Autobahn geeignet und bereits in allen neuen Modellen verfügbar. Seit ihrer Einführung vor einem Jahr haben autonome Teslas bereits mehr als 100 Millionen Meilen zurückgelegt – eine Menge Datenmaterial, das zur ständigen Verbesserung des Systems genutzt wird. Teslas Twitter-Posting aus dem April: „The more you drive – the more we learn“ bekommt durch die jüngsten Ereignisse allerdings einen leicht zynischen Unterton.
Wie unverhältnismäßig aber die Berichterstattung über die Unfälle ist, zeigt sich, wenn man zum Beispiel nach Berichten über Autounfälle aufgrund der Benutzung eines Tempomats sucht. Dutzende Tote gehen auf das Konto des ältesten und in nahezu jedem Fahrzeug vorhandenen Fahrassistenzsystems – aber kaum jemand schreibt darüber. Im Gegensatz zu Teslas Assistenten konnte aber vermutlich noch kein Tempomat auch nur einen einzigen Unfall aktiv verhindern.
+++ Mehr von WIRED regelmäßig ins Postfach? Hier für den Newsletter anmelden +++
Davon abgesehen sterben in jedem Verkehrsmittel Menschen – sei es die Luft- und Raumfahrt, die Schifffahrt, seien es Züge, Autos, Fahrräder oder Skateboards. Für die schlechte Presse, die Tesla momentan bekommt, muss es also noch tiefer liegende Gründe geben.
Einer davon ist vermutlich die Angst davor, die Kontrolle abzugeben. Die Angst vor dem Tag, an dem die Maschinen besser sind als wir. Bessere Autofahrer, bessere Arbeiter, bessere Denker. Aber keine Sorge: Wie man sieht, gibt es auf diesem Gebiet noch so einiges zu tun, bis die Singularität eintritt.
Das grundlegende Problem liegt an ganz anderer Stelle: Teslas System ist nicht idiotensicher. Der Autohersteller muss sich darauf verlassen, dass seine Kunden verantwortungsvoll mit der ihnen zur Verfügung gestellten Technologie umgehen. Die Erfahrung lehrt uns jedoch: Je schneller und teurer das Auto, desto verantwortungsloser der Umgang damit – Überraschung, das gilt auch für Elektroautos. So wurde ein Tesla-Kunde bereits dabei beobachtet, hinter dem Steuer zu schlafen – dümmer geht’s nicht.
Das Wort Autopilot bringt einen riesigen Marketing-Vorteil. Aber muss das wirklich so heißen?
Selbstverständlich: Das Wort Autopilot bringt einen riesigen Marketing-Vorteil mit sich. Aber muss das wirklich so heißen? Suggeriert ein Autopilot nicht eine Menge mehr Sicherheit als ein bloßer Fahrassistent? Und ab welcher Entwicklungsstufe darf Beta-Software eigentlich auf die Straße? Sollten die Hersteller dann nicht wenigstens verpflichtet sein, einen kleinen Eye-Tracker einzubauen, der kontrolliert, ob man die Straße noch im Blick hat? Oder ob man wenigstens noch wach ist?
Tesla schadet mit dieser leider nicht unfehlbaren und anscheinend zu früh auf die Straße gebrachten Software nicht nur sich selbst, sondern dem Ansehen einer ganzen Technologie. Es steht außer Frage, dass autonome Fahrzeuge in ein paar Jahren sicherer fahren werden als jeder Mensch. Passieren vorher jedoch noch mehr Unfälle durch den verantwortungslosen Umgang mit Fahrassistenten, die zu viel Sicherheit suggerieren, wird man in Zukunft wohl zweimal nachdenken, bevor man sich in ein vollkommen autonomes Fahrzeug setzt.
Am Ende stellt sich dann also nur eine einzige Frage: Kann ich einem Computer mein Leben anvertrauen? Und traue ich in Zukunft einer Software – so fortgeschritten sie auch sein mag – mehr zu als mir selbst?
Für mich ist die Antwort ein klares: Ja – aber sei bitte kein Idiot dabei!
