/Tech

Machines Of Loving Grace / Der VW-Skandal zeigt unser Vertrauensproblem mit Software

Jürgen Geuter 01.10.2015

Algorithmen sind überall. Jeder hat ständig mit ihnen zu tun, viele fürchten sie, doch die wenigsten verstehen tatsächlich, wie sie funktionieren. In seiner WIRED-Kolumne durchleuchtet Jürgen Geuter die mathematischen Problemlöser, die unsere Welt zu lenken scheinen. Diesmal: der VW-Skandal und unser Vertrauensproblem mit Software.

Jürgen Geuter ist Informatiker, Blogger und im Netz vor allem unter dem Pseudonym tante bekannt. Für WIRED Germany schreibt er über die Macht der Algorithmen.

Es fällt schwer, in dieser Woche eine Kolumne über Algorithmen zu schreiben und dabei nicht an VW zu denken. Der Wolfsburger Autohersteller hat in die Motorsteuerung einiger seiner Dieselmodelle eine Softwarekomponente eingebaut, die standardisierte Test-Setups erkennen und in diesem Fall die Emissionen um ein Vielfaches senken konnte. Nur so war Volkswagen in der Lage, den Abgas-Vorgaben einiger US-Bundesstaaten zu entsprechen. Clean Diesel? Not so much.

Der Fall hat riesige Wellen geschlagen und wird uns sicher noch einige Zeit beschäftigen, besonders wenn sich der Verdacht bestätigt, dass auch andere Autohersteller dieselbe oder vergleichbare Software in den Regelungssystemen ihrer Motoren verbaut haben.

Moderne Fahrzeuge sind ohne ihre digitalen Komponenten nicht mehr denkbar — und dabei meine ich nicht die offensichtlichen Bauteile wie das Entertainment-System oder die Navigationshilfe. Das Zusammenspiel der hochgezüchteten Motoren mit den anderen Bauteilen ist nicht mehr manuell durch das Einstellen einiger Schrauben und Regler orchestrierbar: Die letzten paar Prozent Leistung kitzelt die Software aus den Verbrennungsmotoren heraus. Und auch Umweltziele sind nur durch eine permanente Nachregelung dieses Motorsystems erreichbar.

Durch Software können Geräte, die bisher ziemlich doof waren, sich besser in die Welt integrieren.

Solche Steuerungen funktionieren alle ziemlich gleich. Im gesamten Auto verteilt man eine große Menge an Sensoren: Man misst den Benzinstand und die Zusammensetzung des Gasgemischs im Motor selbst, die Rotation der Räder, die Geschwindigkeit des Fahrzeugs, den Zustand der Reifen, bestimmte Emissionswerte und noch vieles mehr. Bei Sensoren gilt üblicherweise die einfache Faustregel: Mehr ist mehr gut.

Die Werte dieser Sensoren werden alle in das Steuerungsmodul weitergeleitet. Dieses Computersystem wertet all diese Informationen aus und versucht, aus ihnen den Zustand des Gesamtsystems zu ermitteln. Stellt es zum Beispiel fest, dass die Verbrennung nicht gut läuft, kann es die Kraftstoffzufuhr etwas hochdrehen oder herunterregeln. Durch das Überwachen der Sensoren kann die Steuerungseinheit dann feststellen, ob die eingeleitete Maßnahme das gewünschte Ziel erreicht hat oder nicht, und handelt dementsprechend.

All das passiert potentiell mehrfach in jeder Sekunde, je nach Einsatzzweck und Qualität der Sensoren. Die Steuerung betrachtet das System, vergleicht den Ist-Zustand mit dem Wunschzustand und leitet gegebenenfalls Maßnahmen ein. Immer und immer wieder.

Autos sind voll von solchen Systemen, ABS und Klimasteuerung sind nur die offensichtlichsten. Aber auch außerhalb von Kraftfahrzeugen sind wir von derartigen Steuerungen umgeben. Das Thermostat im Wohnzimmer, das die Temperatur auf angenehmen Niveau hält, die Trocknersteuerung, die die Laufzeit des Geräts abhängig vom Trocknungsfortschritt regelt, oder der Fernseher, der auf Sonneneinfall mit Regelung der Bildhelligkeit reagiert. Überall sind kleine eingebettete Systeme verlötet, die mehr oder weniger flexibel das Funktionieren unserer technischen Geräte garantieren.

Dabei nimmt die Komplexität dieser Steuerungen immer mehr zu. Ein herkömmliches Thermostat hat einen Temperatursensor und reagiert mit sehr einfachen Regeln auf den Input: Wenn es kälter ist als die eingestellte Temperatur, macht es die Heizung an, wenn es wärmer ist, aus. Die aktuellen Nest-Thermostate von Google beispielsweise passen sich nach ein paar Wochen Eingewöhnungszeit an die Vorlieben der Menschen, in deren Wohnungen sie angebracht sind, an und regeln dementsprechend die Temperaturen weitgehend ohne menschlichen Eingriff. Und sie haben eine permanente Internet-Verbindung, so dass man die Temperatur im Wohnzimmer vom Smartphone aus einstellen kann. Meine Damen und Herren, die Zukunft(tm).

Die Komplexität erschlägt uns langsam, aber sicher.

„Software frisst die Welt“, sagte der amerikanische Investor Marc Andreesen und meinte das durchaus positiv: Durch Software können Geräte, die bisher ziemlich doof und unflexibel waren, sich besser, harmonischer in die Welt integrieren. Können besser auf die Bedürfnisse der Menschen reagieren und sich ihnen anpassen. Können miteinander kommunizieren und damit für die Gesellschaft insgesamt bessere Ergebnisse liefern.

Diese Idee ist durchaus auch in Deutschland populär. Unter dem Begriff des Smart Grid soll beispielsweise des Stromnetz durch Software und Sensoren klüger gemacht werden, so dass die Stromverbraucher in den individuellen Wohnhäusern der Menschen sich besser daran ausrichten, was das Netz gerade leisten kann: Warum sollte die Waschmaschine dann laufen, wenn alle Menschen zu Hause sind und kochen und fernsehen, während nachts zu wenig Strom abgenommen wird?

Ohne Vertrauen ist Software nur die Magie eines bösen Zauberers.

Das klingt alles schön und gut, allerdings erschlägt uns die Komplexität langsam, aber sicher. Nur mal zum Vergleich: Die bekannte und immer wieder von Sicherheitslücken heimgesuchte Software-Bibliothek OpenSSL, die auf einem großen Teil aller Rechner im Internet für Verschlüsselung eingesetzt wird, hat in etwa 500.000 Zeilen Code. 500.000 Zeilen Code sind eine ganze Menge, weshalb es so schwierig ist, sie auf Fehler zu überprüfen. Nach VWs eigenen Aussagen umfasst die gerade diskutierte Motorsteuerung sogar eine Million Code-Zeilen. Und damit sind all die anderen Systeme im Auto noch gar nicht erfasst.

Unsere Welt wird zunehmend von Software gesteuert und selbst recht simple Systeme haben heute einen Umfang, den wir — selbst wenn der Code offenläge — nicht mehr überprüfen können. Und hier entsteht für uns ein gravierendes Problem. Denn Testbetrug ist nicht das einzige realistische Szenario.

Unter dem Stichwort planned obsolescence versteht man eine Strategie im Produktdesign, die einem Produkt ein Ablaufdatum mitgibt: Man könnte zum Beispiel ein Auto bauen, dessen Motor nach 200.000 Kilometern einfach nicht mehr richtig funktioniert, die Leistung beschränkt oder sonstwas tut. Alles, um in höherer Frequenz neue Produkte an seine Kunden verkaufen zu können.

Für uns als Nutzende ist das schwierig zu erkennen: Warum ein Gerät jetzt seinen Dienst versagt, steht ja oft nicht drauf und wenn es draufsteht, kommt diese Information von dem Chip, der möglicherweise gerade den Hammer fallen gelassen hat. Das Gerät selbst reparieren? Viel Spaß.

Natürlich gibt es immer Menschen, die die Fähigkeiten haben, solche Probleme zu diagnostizieren und zu beseitigen. Und die dieses Wissen und Können vielleicht sogar an andere weitergeben. Die Maker-Bewegung ist ja nicht nur damit beschäftigt, LEDs an alles dranzulöten, was bei drei nicht auf den Bäumen ist. Sie bringt auch immer wieder Handreichungen hervor, die die Reparatur angeblich unreparierbarer Produkte möglich machen. Aber das reicht nicht.

Die Autoindustrie hat immerhin vorgemacht, wie wir es nicht machen können.

Der Fall VW hat die Vertrauensbasis, die Menschen auch mit vielen anderen Unternehmen haben, nachhaltig erschüttert. Und weil wir weder den Code der Geräte kennen, noch die Ressourcen haben, ihn zu überprüfen, ist Vertrauen das einzige, was es uns überhaupt ermöglicht, uns ständig mit softwaregesteuerten Geräten zu umgeben. Ohne Vertrauen in die Entwickelnden ist Software nur die Magie eines möglicherweise bösen Zauberers.

Software wird die Welt fressen, ob man das nun sonderlich attraktiv findet oder nicht. Aber es wird Zeit, dass wir bessere Wege finden, die Systeme um uns herum auf ihre Vertrauenswürdigkeit zu testen, Qualitätsstandards durchzusetzen und Vestöße zu sanktionieren. Die Autoindustrie hat immerhin vorgemacht, wie wir es nicht machen können. Wie unabhängige Testszenarien und -strukturen aussehen können, ist die Frage, die wir nach dem VW-Skandal beantworten müssen.

In der letzten Folge von „Machines Of Loving Grace“ ergründete Jürgen Geuter, wie Algorithmen neue Trends finden und warum die Statistik allein das nicht darf. 

Jetzt WIRED Member werden und mit uns in die Zukunft starten!

Mit im Paket: 4 Magazin-Ausgaben im Jahr und der Member-Zugang zu exklusiven Inhalten auf WIRED.de sowie weitere Vorteile nur für Member.

Member werden