/Tech

Bruce Schneier fordert die Transparenzpflicht für Algorithmen

WIRED Editorial 30.03.2017

Der IT-Sicherheitsexperte Bruce Schneier glaubt, dass Algorithmen bald eine ganz neue Rolle in der Gesellschaft spielen. „Durch das Internet of Things bekommen sie Augen und Ohren, Hände und Füße “, sagte er auf der RightsCon-Konferenz in Brüssel. Vorurteile innerhalb der Programme werden deshalb in Zukunft schwerer wiegen als bisher, warnt er – und nicht nur den Datenschutz, sondern alle Bereiche unseres Lebens betreffen.

Es ist völlig okay, einen Algorithmus mit einem Menschen zu vergleichen. Ein Mensch ist in seinen Entscheidungen voreingenommen. Er entscheidet – bewusst oder unbewusst – nach Verbundenheit, nach Gefühlen, nach Intuition. „Sie waren gegen meinen Vortrag eingestellt, weil er direkt nach dem Mittagessen liegt“, scherzt Bruce Schneier auf der Bühne der Bürgerrechts-Konferenz RightsCon in Brüssel.

Und genauso, wie die Entscheidungsfindung bei manchen Menschen nicht mehr nachvollziehbar ist, gelte das auch für Algorithmen: „Bisher konnten wir die Programme vielleicht verstehen, in Zukunft wird das nicht mehr möglich sein. Nicht einmal Google versteht seine KI noch“, sagt der IT-Sicherheitsexperte. In Zukunft sei es aber entscheidend, dass bestimmte Bereiche durch Programme geregelt werden, die eben nicht optimiert sind.

Unternehmen wie Google müssen ihre Algorithmen anpassen

Bruce Schneier

„Google redet sich immer damit heraus, dass etwa Rassismus in der Gesellschaft vorkomme und nur vom Algorithmus aufgegriffen werde“, erklärt Schneier. Aus Gründen des Wettbewerbs schirme das Unternehmen sein Programm außerdem ab. Schneier fordert deshalb einen ganzen Katalog an Maßnahmen. Gegenüber WIRED sagte Schneier: „Unternehmen wie Google müssen ihre Algorithmen anpassen.“ Statt nur optimiert einem Marktdruck zu folgen, müssten die Programme höheren Idealen folgen.

Für die Unternehmen müssten die Gesetzgeber eine „Transparenz-, Aufsichts- und Rechenschaftspflicht“ erarbeiten. Eine solche Pflicht wird in der EU bereits auf Grundlage der neuen Datenschutzverordnung diskutiert, ist in den USA aber noch nicht in Sicht. Auch die Gesellschaft selbst müsse Druck auf die Unternehmen aufbauen: „Die Programme werden uns und unsere Umwelt stark beeinflussen, wir müssen Kapazitäten aufbauen, um zu sehen, wie und warum sie eine bestimmte Entscheidung treffen“, so Schneier.

Denn den Algorithmen selbst könnten hingegen vieler Behauptung von Google und Co. sehr wohl Restriktionen auferlegt werden. „Wir können vielleicht nicht verstehen, wie eine Entscheidung zustande kommt“, sagt Schneier, „sehr wohl aber können wir ein Programm dazu zwingen, seinen Entscheidungsweg mit abzuliefern“.

Schneiers letzte Forderung betrifft den Entwicklungszweck der Programme selbst, die laut ihm bald nicht mehr nur in der Google-Suche sondern überall in unserem Alltag auftauchen. „Sie sind immer auf den Markt und Optimierung ausgelegt“, sagte Schneier gegenüber WIRED. Für bestimmte Bereiche, etwa bei Versicherungen die mit Unfallrisiken arbeiten, sei diese Optimierung aber fehl am Platz.

Die Lösung? „Die Unternehmen müssen sich zutrauen, einfachere Programme zu entwickeln, die einen weniger sicheren Endzustand zu lassen“ Nur solche Algorithmen könnten etwa verstehen, dass „es in einer Gesellschaft nicht möglich ist, alle Verbrecher auf einmal zu fangen“. Statt Optimierung sollten einfachere Programme eher den höheren Grundprinzipien von Gesellschaften entsprechen. Dann ließen sich auch Vorurteile vermeiden, wie sie beim Menschen bei jeder Entscheidung vorkommen.

Jetzt WIRED Member werden und mit uns in die Zukunft starten!

Mit im Paket: 4 Magazin-Ausgaben im Jahr und der Member-Zugang zu exklusiven Inhalten auf WIRED.de sowie weitere Vorteile nur für Member.

Member werden