Das Problem der Hightech-Autos von heute beruht auf einem ziemlich alten Dilemma. Die britische Philosophin Philippa Foot formulierte es schon 1967 als Trolley-Problem:
„Eine Straßenbahn außer Kontrolle wird fünf Unschuldige töten, die vor ihr auf den Gleisen festgebunden sind – es sei denn, du legst eine Weiche um und leitest sie auf ein Nebengleis, wo ein ebenfalls unschuldiger Mann von ihr erfasst werden wird. Legst du die Weiche um und nimmst den Tod des einen in Kauf, um die fünf zu retten, oder tust du nichts?“
Natürlich ahnte Foot nicht, wie relevant ihre Frage für die Welt der autonomen Technologie werden würde. Denn seit Jahren beschäftigen sich vor allem die Entwickler selbstfahrender Autos damit. Eine richtige Lösung gibt es nicht. Deutschlands Verkehrsminister plant zwar gerade den ersten Vorstoß für ein rechtlich bindendes Regelwerk. Wenn es aber um den sicheren Tod von Menschen geht, wird es schwierig.
Forscher aus den USA und Frankreich wollten deshalb wissen: Was denken Menschen darüber, wie sich ein selbstfahrendes Auto verhalten sollte? Dazu haben sie rund 2000 US-Amerikaner befragt. Die Ergebnisse, veröffentlicht in der Zeitschrift Science, sind widersprüchlich.
Die meisten Menschen, schreiben die Autoren, befürworten einen utilitaristischen Ansatz. Sie sind also dafür, dass autonome Fahrzeuge im Zweifelsfall die Zahl der Toten minimieren sollten – auch dann, wenn es den Tod der Mitfahrer bedeutet. In einem Szenario befürworteten 76 Prozent der Befragten, dass das Auto das Leben seiner Passagiere opfern solle um eine Gruppe von zehn Fußgängern zu retten.
Mehr Leben zu retten, das ist für die meisten die moralisch richtige Entscheidung
Diese extrem nüchterne Mathematik hatte sogar in dem Fall Bestand, in dem die Studienteilnehmer gebeten wurden, sich selbst oder ihre Liebsten gedanklich im Wagen zu platzieren. Mehr Leben zu retten, das sei für die meisten die moralisch richtige Entscheidung, sagt der Psychologe Azim Shariff von der University of Oregon. Er hat die Studie gemeinsam mit Iyad Rahwan vom MIT und Jean-Francois Bonnefon vom Institute for Advanced Study in Toulouse durchgeführt.
Ein Widerspruch tat sich erst auf, als die Forscher nach der Akzeptanz für so eingestellte Fahrzeuge fragten: Würden die Teilnehmer solch einen Wagen denn auch kaufen? Auch, wenn der im Zweifelsfall darauf programmiert ist, sie und ihre Mitpassagiere zu töten, um dadurch eine größere Zahl von Leben zu retten? Die Antwort: Nein.
+++ Mehr von WIRED regelmäßig ins Postfach? Hier für den Newsletter anmelden +++
Studienteilnehmer waren zwar dafür, dass andere in solchen Autos fahren. Sie selbst wollten aber lieber Fahrzeuge, die ihr Leben um jeden Preis schützen. Auch waren die Befragten dagegen, dass dieser Selbstopferungs-Modus zwangsweise, weil staatlich verordnet, in die Autos einprogrammiert wird.
Indem man ein sicheres Verkehrssystem schaffen will, schafft man ein weniger sicheres
Die Autoren der Studie fürchten jetzt, dieser logische Widerspruch – finde ich gut, aber bitte nicht für mich – könnte die Vorteile von autonomen Fahrzeugen zunichte machen. Derzeit werden 90 Prozent aller Verkehrsunfälle durch menschlichen Fehler verursacht (Suff, Müdigkeit, Ungeduld, Wut...). Autonome Fahrzeuge würden den Straßenverkehr also im Schnitt sicherer machen und die Zahl der Toten senken. Allerdings funktioniert das nur, wenn Menschen diese Fahrzeuge auch akzeptieren – ein Dilemma erzeugt also das nächste.
Wenn Autohersteller und Regierungen demnächst darüber entscheiden müssen, wie diese Wagen programmiert werden, müssten sie also auch die Akzeptanz der Bevölkerung für ihre Systeme einkalkulieren. „Staatliche Regulierung könnte einen großen Teil der Bevölkerung davon abhalten, selbstfahrende Autos zu kaufen, wodurch weiterhin mehr Menschen fahren, was zu mehr Unfällen führt, die von Menschen verursacht werden“, sagt Azim Shariff. „Indem man also ein sicheres Verkehrssystem schaffen will, schafft man ein weniger sicheres, weil Menschen sich komplett gegen autonome Fahrzeuge entscheiden.“
