/Tech

Machines Of Loving Grace / Wir brauchen die Algorithmen-Demokratie!

Jürgen Geuter 25.06.2015

Algorithmen sind überall. Jeder hat ständig mit ihnen zu tun, viele fürchten sie, doch die wenigsten verstehen tatsächlich, wie sie funktionieren. In seiner WIRED-Kolumne durchleuchtet Jürgen Geuter die mathematischen Problemlöser, die unsere Welt zu lenken scheinen. Diesmal: Warum wir Mittel brauchen, um unsere Algorithmen unter Kontrolle zu behalten.

Jürgen Geuter ist Informatiker, Blogger und im Netz vor allem unter dem Pseudonym tante bekannt. Für WIRED Germany schreibt er über die Macht der Algorithmen.

Wir haben in dieser Kolumne schon viele unterschiedliche Algorithmen oder Algorithmensysteme im Detail besprochen. Die Entscheidungssysteme in selbstfahrenden Autos zum Beispiel oder lernende Algorithmen, die in Bewerbungsverfahren eingesetzt werden sollen. Heute allerdings wollen wir uns den Algorithmen widmen, die den größten, den massivsten Einfluss auf unser aller Leben haben.

Ein Algorithmus ist — wie wir hier schon feststellten — zuerst einmal nur die detaillierte und präzise Beschreibung eines Verfahrens. Trotzdem hat es sich etabliert, über Algorithmen nur in technischen Kontexten nachzudenken: Googles Suchmaschinenalgorithmus und Facebooks Newsfeed-Filtersystem sind nur zwei Beispiele. Algorithmen verarbeiten in der populären Wahrnehmung Nullen und Einsen und laufen auf Rechnern, zu Hause oder „in der Cloud“. Und das beeinflusst die öffentliche Debatte um Algorithmen und ihre gesellschaftlichen Auswirkungen.

Die wichtigsten Algorithmen laufen auf Menschen und sozialen Systemen.

Wenn in der Öffentlichkeit, in Medien oder auf Podien über Algorithmen geredet wird, stehen Technologie und ihre Regulierung im Vordergrund: Informatikerinnen und Informatiker lenken als Experten die Gespräche. Es wird diskutiert, ob bestimmte Algorithmen offengelegt werden müssen, ob bestimmte Daten ihrer Verarbeitung entzogen werden sollen oder ob bestimmte Infrastruktur durch Softwaresysteme betrieben werden darf, die in anderen Staaten entwickelt wurde. Dieser enge Blick auf die rein technische Implementierung verstellt oft den Blick auf die eigentlichen Probleme und anschlussfähigen Diskurse der letzten Jahrzehnte wenn nicht gar Jahrhunderte.

Doch die schlichte Realität ist: Die Algorithmen, die am meisten Einfluss auf unser aller Leben haben, laufen auf Menschen und sozialen Systemen. Jeder Sachbearbeiter und jede Sachbearbeiterin in der Arbeitsagentur, der oder die darüber entscheidet, welche Zuwendungen einer antragstellenden Person zustehen, arbeitet nach einem vorgegebenen Schema. Einer Beschreibung des Vorgangs. Arbeitet also einen Algorithmus ab. Strafverfolgung, öffentliche Verwaltung und auch unser Gesundheitssystem können als Algorithmensysteme verstanden werden, die statt auf Prozessoren nur eben auf sozialen Strukturen laufen.

Der digitale Teil unserer Welt ist leider nicht wirklich demokratisch.

Nahezu jeder Algorithmus — egal ob er auf sozialen Systemen oder Computern läuft — übt in irgendeiner Form Macht aus. Während diese Machtausübung bei Institutionen wie der Polizei oder der öffentlichen Verwaltung offensichtlich ist, bleibt sie bei Algorithmen und ihrer Arbeit oft versteckt, implizit: Wenn Google beispielsweise eine Seite wegen Spam aus dem Suchindex wirft, ist das eine klare — und definitiv erwünschte — Anwendung von Macht. Wenn Facebooks Newsfeed mir die Posts einer Person, mit der ich verbunden bin, quasi gar nicht mehr anzeigt, weil es die Posts für mich als uninteressant einschätzt, wird die Situation sehr viel weniger klar: Habe ich Facebooks Filter durch meine Teilnahme legitimiert? Ausgehend davon, dass vielen Menschen die grundsätzliche Funktionsweise des Newsfeeds nicht vertraut ist, darf man eine allgemeine Einwilligung an dieser Stelle wahrscheinlich nicht voraussetzen.

Das Wesen der Demokratie ist es, Machtausübung immer mit Barrieren und Kontrolle zu versehen: Die drei übergeordneten Gewalten (Exekutive, Legislative und Judikative) sollen sich gegenseitig unter Kontrolle halten und Machtmissbrauch unterbinden. Ähnliche gegenseitige Kontroll- und Überwachungswerkzeuge finden sich nahezu überall in unserem Staatsapparat (außer wenns um Geheimdienste geht, die sich der notwendigen Kontrolle wirksam entziehen und somit zum grundlegenden Problem werden). Doch leider ist der digitale Teil unserer Welt nicht wirklich demokratisch.

Nutzer brauchen endlich Wege, ihre Interessen gegenüber den Plattform-Betreibern durchzusetzen.

Wir können uns in gewissem Rahmen aussuchen, welchen Algorithmen wir uns aussetzen, welche Systeme wir aktiv füttern und welche nicht. Aber eine wirksame Kontrolle steht uns nur selten zur Verfügung. Man kann mit der Entscheidung eines digitalen Plattformbetreibers unzufrieden sein, aber das war's dann auch schon: Ernsthafte, verlässliche, belastbare Wege, die es den Nutzenden von digitalen Plattformen erlauben, ihre Interessen gegenüber den Betreibenden der Plattform durchzusetzen, lassen weitgehend auf sich warten.

Formal nicken wir die Aktivitäten eines Plattform-Anbieters ab, wenn wir uns einen Account erstellen. Wir setzen den Haken unter den 20 Seiten kleingedrucktem Text, denn letzten Endes ist es meistens egal, was drinsteht: Wenn wir mitmachen wollen, müssen wir das Häkchen setzen. Und nicht mitzumachen, ist zunehmend keine Option mehr. Einladungen kommen halt über Facebook oder gar nicht, das Leben ohne Präsenz in den relevanten sozialen Netzwerken ist mehr und mehr das Leben des Aussteigers, der weit weg von der Zivilisation im Wald in einer Hütte ohne fließend Wasser wohnt: Sieht im Dokumentarfilm toll aus, ist im normalen Leben aber wahnsinnig lästig.

Der Blick auf Algorithmen als Technologie verstellt den Blick auf ihren Einsatz.

Der Blick auf Algorithmen als Technologie verstellt den Blick auf ihren Einsatz: Bei politischen Prozessen oder Abläufen der öffentlichen Verwaltung legen wir großen Wert darauf, Widerspruch einlegen zu können. Die Plattformen, auf denen wir leben, und ihre Algorithmen bewerten wir hingegen zu oft nur anhand ihrer Leistungsfähigkeit, ihrer technischen Spezifikationen. Wir nehmen das, was schneller ist oder bessere Ergebnisse liefert. Warum sollten auch wir nicht? Software-Systeme sind dazu da, Probleme für uns zu lösen und warum sollten wir schlechtere Lösungen nehmen nur wegen irgendwelcher politischen Ideale? Geht doch nur um ein bisschen Technik.

Nun soll das hier kein Plädoyer sein für das Verweigern all der praktischen und hilfreichen Dienste, die unser digitales Exoskelett bilden, die unsere sozialen Beziehungen abbilden und unsere Wahrnehmung der Welt durch algorithmische Filterung und Verarbeitung formen. Bei der Auswahl der technischen Systeme, die wir nutzen, müssen wir uns aber ihrer Machtausübung bewusst werden und diese hinterfragen, genauso wie wir das bei den Algorithmen sozialer Systeme zu tun pflegen.

Es scheint absurd, dass eine Industrie, die sich Innovation auf die Fahnen schreibt, so wenig Ideen hervorbringt.

In der letzten Kolumne forderte ich einen verantwortlichen Umgang mit Algorithmen seitens derer, die sie auf die Welt loslassen. Doch auch diese Forderung allein ist zu technikfokussiert. Unternehmen und Organisationen müssen sich ihrer Machtausübung bewusst sein und den Menschen, die ihre Systeme nutzen, Mittel und Wege bereitstellen, die eigenen Interessen zu kommunizieren und Entscheidungen der Plattformbetreibenden anzuzweifeln. Es scheint absurd, dass eine Industrie, die sich Innovation auf die Fahnen schreibt, so wenig Ideen hervorbringt, wie die Machtausübung der eigenen Algorithmen über die Personen, mit denen sie arbeiten, kontrolliert und ausgeglichen werden kann.

Es existieren viele unterschiedliche Mittel und Wege, wie wir soziale und politische Machtausübung kontrollieren. Wenn wir beginnen über Algorithmen nicht mehr nur als Code, als Technologie, sondern als Machtausübung nachzudenken, können wir viele der Probleme, die potentiell durch ihren Einsatz entstehen, angehen ohne gleich alle Programmierer werden oder unsere eigenen Systeme entwickeln zu müssen. Algorithmen sind manchmal Technologie, aber nicht immer. Die rein technische Betrachtung greift deshalb oft zu kurz und behandelt irgendwelche Symptome ohne an die Wurzel vorzustoßen.

Und wir alle können im Kleinen mitmachen: Wir können von Dienst- und Plattformbetreibenden mehr Mitbestimmung fordern. Google veröffentlichte gerade eine Studie zur Implementierung von Liquid-Democracy-Prozessen zur internen Meinungsbildung im Unternehmen. Es scheint also zu gehen mit der digitalen Mitbestimmung durch viele Einzelne. Man muss es nur wollen. 

Jetzt WIRED Member werden und mit uns in die Zukunft starten!

Mit im Paket: 4 Magazin-Ausgaben im Jahr und der Member-Zugang zu exklusiven Inhalten auf WIRED.de sowie weitere Vorteile nur für Member.

Member werden