/KI

Chelsea Manning über KI: „Es ist nicht nur ein Hype – es ist gefährlich“

Sonja Peteranderl 03.05.2018 Lesezeit 5 Min

Auf der re:publica 2018 warnt US-Whistleblowerin Chelsea Manning vor Algorithmen außer Kontrolle – und fordert eine neue Entwickler-Ethik.

Sieben Jahre lang war die US-Whistleblowerin Chelsea Manning hinter Gittern verschwunden, jetzt steht sie im Rampenlicht – und warnte auf der Digitalkonferenz re:publica in Berlin davor, wie Algorithmen die Gesellschaft verändern. „Die Entwicklungen, die mich schon vor zehn Jahren besorgt haben, wurden noch beschleunigt und haben mehr Macht bekommen, wie die Militarisierung der Polizei, Massenüberwachung, der Einsatz von Algorithmen bei Entscheidungsprozessen in Staat und Firmen, die unser tägliches Leben beeinflussen“, sagt die 30-Jährige.

Als sie noch als Analystin für das US-Militär arbeitete, durchforstete Manning selbst riesige Datenmassen, nutzte Algorithmen für militärische Aufklärung: „Ich habe im Irak mit Datensätzen gearbeitet und das wurde zu einer Entscheidung über Leben und Tod, basierend auf Algorithmen“, sagt Manning. „Künstliche Intelligenz ist nicht nur ein Hype, es ist real und gefährlich. Wir müssen deshalb herausfinden, wie wir Machine-Learning nachvollziehbar machen können.“

Vor dem wachsenden Einfluss von Algorithmen und der fehlenden Transparenz warnen auch zahlreiche andere Netzexperten, Wissenschaftler und Aktivisten auf der re:publica und diskutieren Ansätze, wie sich automatisierte Entscheidungssysteme besser kontrollieren lassen. Sie hinterfragen das Citizen Scoring System in China, das ab 2020 das Verhalten aller Bürger bewerten soll, und den Algorithmen-Hype in Deutschland oder zeigen, wie Daten gesellschaftliche Minderheiten diskriminieren. In einem Workshop versucht die Organisation Ranking Digital Rights Kriterien für "Algorithmic Transparency“ zu entwickeln. Das Projekt OpenSchufa möchte per Crowdsourcing herausfinden, nach welchen Kriterien die Schufa-Auskunftei berechnet, ob Bürger als kreditwürdig eingestuft werden – oder nicht.

Lobbyismus höhlt nach und nach die Kontrollmechanismen aus

Dass Institutionen in der Lage sind, Algorithmen wirksam zu regulieren, daran glaubt Manning nicht. Jedes Land schaffe eigene Gesetze, die nur eine begrenzte Wirkung haben, Lobbyismus höhlt nach und nach die Kontrollmechanismen aus. „Die Systeme, die wir nutzen, sind verdorben und verzerrt und die Institutionen scheitern immer wieder“, sagt Manning. „Wir können die Institutionen nicht bitten, dass sie sich selbst reparieren, wir müssen die Dinge selber verändern."

Die IT-Expertin sieht Entwickler stärker in der Verantwortung. Coder müssten sich ihrer eigenen Vorurteile und Position bewusst werden, die in ihre Arbeit einfließt. „Menschen sind wie Algorithmen, weil wir jeden Tag wie Algorithmen Entscheidungen treffen und der Bias ist in unsere Systeme eingebaut“, so Manning. „Es ist ein kultureller Wandel, der stattfinden muss – und der bei jedem Einzelnen anfängt.“ Um umzulernen, sei es wichtig, einen Schritt zurückzutreten, sich seiner Position und Privilegien bewusst zu werden – und mit Menschen wie Migranten zu reden, die sich in einer anderen Situation befinden. Programmierer müssten stärker diskutieren und sich bewusst entscheiden, ob sie eine bestimmte Technologie entwickeln wollen oder nicht. Wenn ihre Einwände von der Chefetage nicht berücksichtigt werden, sei es an ihnen, eine moralische Entscheidung zu treffen – unabhängig davon, was die Chefs sich wünschen.

„Wir sind als Software-Entwickler mitschuldig und auch verantwortlich, wie Produkte genutzt oder missbraucht werden“, glaubt Manning. „Wir können nicht länger sagen: Hier sind die Tools, und die Gesellschaft muss selber herausfinden, wie sie sie nutzt.“ Software-Entwickler hätten eine ähnliche gesellschaftliche Verantwortung wie Ärzte – sie brächten daher ebenso wie Ärzte ethische Standards, an denen sie sich beim Umgang mit Daten und der Entwicklung von Software orientieren können. Die Forderung nach einem Ethik-Kodex teil Manning mit anderen kritischen Stimmen wie Cathy O’Neil, Autorin von „Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy“ – sie hält eine Art „Hippokratischen Eid“ für Entwickler für sinnvoll.

Für Chelsea Manning ist die re:publica in Berlin die erste Auslandsreise seit ihrer Entlassung aus dem Gefängnis im vergangenen Jahr. 2010 war Manning verhaftet worden, nachdem sie Hunderttausende militärische Dokumente, Botschaftsdepeschen sowie Videomaterial zu Kriegen in Irak und Afghanistan an Wikileaks weitergegeben hatte. Während der Leak die Enthüllungsplattform bekannt machte, verschwand Manning aus der Öffentlichkeit. 2013 wurde sie in den USA zu 35 Jahren Gefängnisstrafe verurteilt, unter anderem wegen Spionage – Obama begnadigte sie Anfang letzten Jahres, kurz vor dem Ende seiner Präsidentschaft.

Manning kämpft noch damit, sich in den Alltag einzufinden, nach der Isolation in der Öffentlichkeit zu stehen – und arbeitet dennoch mit aller Kraft daran, gehört zu werden, weiterhin Missstände anzuprangern. Ihre Mission, laut Twitter-Bio: „Make powerful people angry.“ Manning schreibt gerade ein Buch über ihre persönliche Geschichte, ein Dokumentarfilm über sie wird in diesem Jahr erscheinen. Das System der Mächtigen, das sie immer wieder kritisiert, möchte sie in Zukunft auch von innen beeinflussen: Sie kandidiert für die Demokraten, will für den Bundesstaat Maryland in den US-Senat einziehen – ihre Kampagnenseite ist natürlich auch verschlüsselt, über das Tor-Netzwerk, zu erreichen.

Manning glaubt, dass die Verbesserung der Welt nur bei jedem Einzelnen ansetzen kann. Auf der re:publica erhält sie viel Applaus, viel Zuspruch für ihre Leaks, viele bezeichnen sie als Vorbild. Doch in diese Rolle will sie nicht gedrängt werden. „Ich soll ein Vorbild sein? Das fühlt sich komisch an“, stöhnt die Whistleblowerin, die wie eine Heldin wider Willen wirkt. „Ich bin nicht perfekt und auch noch ziemlich neu in diesem Leben. Der Rest der Welt sollte nicht auf mich schauen, du solltest dich lieber in deiner Nähe umsehen. Vielleicht können wir alle unsere eigenen Vorbilder sein.“