/Facebook

Wir werden von Facebook regiert – und sollten etwas dagegen unternehmen!

Janosik Herder 06.08.2018 Lesezeit 11 Min

Wir werden längst von Plattformen wie Facebook regiert, wissen es nur noch nicht. Unser Gastautor Janosik Herder erforscht an der Universität Osnabrück die Macht der Algorithmen. Für WIRED erklärt er, warum Mark Zuckerberg den Cyberspace beherrscht und warum wir dort für unsere Rechte kämpfen sollten.

Im Jahr 1996 verfasste der kürzlich verstorbene Gründer der Electronic Frontier Foundation John Perry Barlow eine E-Mail, die Geschichte schreiben sollte. Der Text mit dem eingängigen Titel Unabhängigkeitserklärung des Cyberspace war eine Antwort auf das Vorhaben des damaligen US-Präsidenten Bill Clinton, der mit dem Communications Decency Act das Internet mit Radio und Fernsehen gleichsetzen und so die Netzneutralität aufheben wollte. Der Text, den der frustrierte Barlow in nur einer Nacht in seinem Hotelzimmer runter schrieb und an 600 Freunde sendete, wurde zum Gründungsdokument einer digitalen Zivilgesellschaft, die den Cyberspace als ihre neue Heimat betrachtete. Eine Heimat, in der Leute wie Bill Clinton und die Regierenden dieser Welt nichts zu sagen haben sollten. „Wo wir uns versammeln“, so die Pointe von Barlows Manifest, „besitzt Ihr keine Macht mehr.“

Seine Unabhängigkeitserklärung, von deren Richtigkeit Barlow bis zuletzt überzeugt war, ist ein bemerkenswerter Text, weil er den Cyberspace als politischen Ort markiert, an dem das, was wir üblicherweise als Politik bezeichnen, nichts zu suchen hat. Im Gegenteil: Der Cyberspace sei ein Ort freier Kommunikation, der gegen die Politik verteidigt werden müsse. Deshalb erklärte Barlow den Cyberspace für „gänzlich unabhängig von der Tyrannei“, die die Regierenden dieser Welt über uns ausüben. Für Barlow war klar, von wem die Tyrannei ausgeht, die den Cyberspace bedroht: Von den staatlichen Regierungen, die ihrer Bevölkerung den freien Zugang zum Internet streitig machen wollen.

Wir sind von dem freien Internet, das sich Barlow erträumte, vielleicht weiter entfernt, als je zuvor.

Janosik Herder

Barlows Fokus auf die staatlichen Regierungen war zwar richtig – die Enthüllungen von Edward Snowden haben das nur bestätigt. Aber der Fokus war auch trügerisch. Er suggerierte nämlich, die entscheidende politische Frage beträfe allein das Verhältnis von staatlicher Regierung und Cyberspace. Dabei kommt die Gefahr für den Cyberspace nicht nur von außen. Wir sind von dem freien Internet, das sich Barlow erträumte, vielleicht weiter entfernt, als je zuvor, und zwar nicht nur, weil staatliche Regierungen wie China oder die Türkei den Zugang zum Internet reglementieren und Donald Trump in den USA gerade die Netzneutralität beerdigt. Der Cyberspace ist, anders als Barlow bis zuletzt glaubte, selbst nicht frei von Macht. Plattformen wie Google und Facebook haben diesen vermeintlich freien Ort in den letzten Jahren unter sich aufgeteilt – und sie regieren den Cyberspace ebenso virtuos wie ihre staatlichen Gegenüber in Anzug und Krawatte. Wenn wir die Politik des Cyberspace verstehen wollen, sollten wir uns nicht allein auf das Verhältnis von staatlicher Regierung und Cyberspace konzentrieren. Wir müssen den politischen Körper des Cyberspace selbst untersuchen, der sich mit der algorithmischen Biomacht von Plattformen wie Facebook und Google konstituiert.

Facebook ist ein biopolitisches Unternehmen

Facebook ist einer der bedeutendsten politischen Orte der Gegenwart, ein globales Netzwerk, das aktuell knapp zwei Milliarden monatlich aktive User verzeichnet. Im Zentrum von Facebook steht die Timeline – der unendliche Fluss von Nachrichten, Bildern, Videos und Ereignissen, die von Algorithmen und einem globalen Cognitariat von Content-Moderatorinnen und Moderatoren kuratiert werden. Auch wenn Facebook sich selbst als Unternehmen versteht, das die Welt zu einem besseren Ort macht und die Menschheit verbindet, geht es Facebook in erster Linie darum, wer wann welchen Inhalt sieht, welche Inhalte als Hate Speech oder Falschinformation deklariert werden und welche Reichweite bestimmte Meldungen haben. Facebook versucht damit nicht nur der undurchsichtigen Kommunikation von zwei Milliarden Usern Herr zu werden. Es übernimmt damit zugleich eine zentrale politische Aufgabe.

Denn wie Facebook die Kommunikation auf seiner Plattform steuert, ist unmittelbar von politischer Bedeutung. Vor allem gezielte Falschinformationen auf Facebook hatten 2016 den US-Präsidentschaftswahlkampf beeinflusst – ein Desaster, dessen Wiederholung Facebook bei den anstehenden Midterm Elections gerade zu verhindern sucht. In Myanmar soll Facebook sogar zum Werkzeug von Anti-Rohingya Propaganda geworden sein. Die gezielte Verbreitung von Falschinformationen und Hate Speech über das in Myanmar sehr beliebte Netzwerk soll das Narrativ des Militärs von Myanmar gestützt haben, das mit den Falschmeldungen die Angriffe auf die Volksgruppe der Rohingya als Kampf gegen Terroristen rechtfertigte. Den zirkulierenden Falschinformationen schenkte man bei Facebook lange keine Beachtung, da Myanmar als eher nebensächlicher Markt galt.

Selbst Mark Zuckerberg sagt, Facebook gleicht einer Regierung

Es waren Beispiele wie diese, die Mark Zuckerberg in einem Interview mit Ezra Klein zu dem bemerkenswerten Eingeständnis veranlassten, Facebook gleiche eher einer Regierung als einem klassischen Unternehmen. Abgesehen von der völlig richtigen Einsicht, dass Facebook als Regierung wesentlich demokratischer werden müsse, fehlt dem Facebook-CEO aber jegliche Fantasie für die politischen Implikationen dieses krassen Statements. Es ist dabei tatsächlich hilfreich, Zuckerbergs Überlegung ernst zu nehmen und Facebook, genau wie andere Plattformen – Google, Amazon, AirBnB oder Uber – als Unternehmen zu verstehen, die im Unterschied zu normalen Unternehmen nicht in erster Linie am Gewinn interessiert sind. Das sind sie als Unternehmen natürlich auch. Aber bei den Plattformen handelt es sich in erster Linie um politische Unternehmen oder, präziser, biopolitische Unternehmen. Biopolitische Unternehmen wollen eine Form von Macht ausüben, die wir eigentlich vom liberal-demokratischen Staat kennen. Das oberste Ziel des biopolitischen Unternehmens ist es, kein Unternehmen zu sein, sondern eine Regierung.

Was heißt eigentlich regieren?

In der politischen Theorie unterscheiden wir mit dem französischen Philosophen Michel Foucault zumindest drei Formen von Macht. Erstens, die souveräne Macht des Königs, die unserer alltäglichen Vorstellung von Macht entspricht (von oben nach unten, Gehorsam, Verbot, Strafe bei Nichtbeachtung). Zweitens, die Disziplinarmacht, die wir üblicherweise mit der Erziehung, dem Militär oder der Fabrik in Verbindung bringen (Normen, Einübung von Verhalten, Prüfungen, Strafe bei Abweichung). Und drittens, die Biomacht, die liberal-demokratische Staaten auszeichnet. Diese letzte Form von Macht ist besonders interessant, denn bei der Biomacht geht es um die Regierung der Bevölkerung: die Steigerung des Wohlstandes und Wohlbefindens der Bevölkerung, die Steigerung der Produktivität, das Beeinflussen der Gesundheit, der Geburts- oder Sterberate. Kurz gesagt: Die Biomacht hat das gesellschaftliche Leben der Bevölkerung insgesamt zum Gegenstand.

Diese drei Formen von Macht sind natürlich Reinformen, die so nicht existieren. Die liberal-demokratische Regierung mit ihrem Gewaltmonopol, ihren Gefängnissen und Polizisten entspricht immer auch der souveränen Herrschaft des Königs. Aber anders als der König, dessen Macht Selbstzweck ist und dem seine Untertanen ziemlich egal sind, zielt die Macht von liberal-demokratischen Staaten auf die Bevölkerung und ihren Wohlstand. Regieren bedeutet, dass sich einer oder wenige um die große Menge sorgen und das Geschick dieser Menge regeln und verbessern wollen. Und wir erwarten genau das von den Regierenden: Sie sollen nicht herrschen und strafen, sie sollen unseren Wohlstand mehren, sie sollen sich um die Bevölkerung sorgen und Maßnahmen ergreifen, die das gesellschaftliche Leben insgesamt verbessern. Kritik an der staatlichen Regierung gibt es dann, wenn sie genau das nicht schafft. Unsere Erwartungen an die moderne Politik entsprechen also dem, was Foucault Biomacht nennt – wir erwarten, dass die Regierung das gesellschaftliche Leben regelt und verbessert.

Facebook sorgt sich um unser Wohlbefinden

Facebook, Google und andere Plattformen üben zwar keine souveräne Macht aus, sie entscheiden nicht über Leben und Tod, sie haben keine Polizei und keine Gefängnisse, aber sie nutzen, wie die staatliche Regierung, alle Register der Biomacht. Biopolitische Unternehmen regieren ihre Nutzerschaft – im Falle von Facebook, wie gesagt, zwei Milliarden User, mehr als jede staatliche Regierung der Welt und tatsächlich knapp ein Viertel der Weltbevölkerung. Die Plattformen analysieren das Verhalten ihrer Nutzerschaft, sie regeln und beeinflussen die Kommunikation und das Zusammenleben und versuchen dabei tatsächlich das Wohlbefinden ihrer User zu steigern, wie die Debatte zu Time Well Spent gezeigt hat. Facebook veränderte im Zuge der Debatte tatsächlich die algorithmischen Modelle seiner Timeline, um auf Kosten von Inhalten, mit denen das Unternehmen Gewinn macht, das psychische Wohlbefinden seiner User zu steigern. Für die Regierung seiner User nutzt Facebook ausgeklügelte algorithmische Modelle, künstliche Intelligenz sowie eine Armee von schlecht bezahlten Kopfarbeitern – alles, um das gesellschaftliche Leben auf der Plattform zu regeln und zu verbessern.

Die Ähnlichkeit von staatlicher Regierung und biopolitischen Unternehmen geht über das hinaus, was Zuckerbergs Kommentar implizierte. Zuckerberg bezog sich bei seiner Aussage vor allem auf die nötige Auslegung von politischen Prinzipien wie der Meinungsfreiheit im Tagesgeschäft der Plattform. Bei genauer Betrachtung ist aber klar, dass die Ähnlichkeit von biopolitischen Unternehmen wie Facebook und staatlichen Regierungen noch weiter geht. Wenn Facebook einer Regierung gleicht, dann weil es dieselbe Form der Macht zur Anwendung bringt, wie die Regierung liberal-demokratischer Staaten. Wir haben es bei Plattformen mit politischen Gebilden zu tun, die jenseits von Staaten, ohne Territorien und mithilfe von Algorithmen und künstlicher Intelligenz eine sich stetig wandelnde Bevölkerung regieren.

Mark Zuckerberg bei seiner Anhörung im amerikanischen Kongress.

Was würdest du tun, wenn Facebook dich regiert?

Im April 2018 sagte Mark Zuckerberg vor dem Untersuchungsausschuss des amerikanischen Kongresses aus. Die eindrucksvoll inszenierte Befragung des Facebook-Chefs bot uns die Möglichkeit einem kleinen Regierungsgipfel beizuwohnen. Und zwar immer dann, wenn eine der Senatorinnen oder Senatoren etwas unbedarft nach den algorithmischen Modellen oder der kommunikativen Infrastruktur von Facebook fragte. In diesen Fällen konnte sich Zuckerberg ein heimliches Schmunzeln kaum verkneifen. Für einige Sekunden wurde dann aus dem US-Bürger Mark Zuckerberg – dem Regierten – der Regierende aus dem Cyberspace. Für einige Sekunden begrüßte der Regierungschef von zwei Milliarden Usern die Abgeordneten des Kongresses fröhlich in seiner Welt.

Zuckerberg schien den Senatorinnen und Senatoren den Satz zuzurufen, mit dem John Perry Barlow 22 Jahre vor ihm seine Unabhängigkeitserklärung eröffnete: „Regierungen der industriellen Welt, Ihr müden Giganten aus Fleisch und Stahl, ich komme aus dem Cyberspace, der neuen Heimat des Geistes.“ Doch Zuckerberg hat genau das geschafft, was Barlow nicht für möglich gehalten hatte. Er hat mit seiner Plattform eine Regierung in genau dem Raum errichtet, der sich allen Regierungen dieser Welt eigentlich widersetzen sollte. Mark Zuckerberg weiß, dass er das geschafft hat. Er weiß, dass er den Cyberspace regiert – es wird Zeit, dass auch wir zu dieser Einsicht gelangen.

In jedem Fall könnten wir die Macht, die Facebook über uns hat, infrage stellen.

Janosik Herder

Wir müssen anerkennen, dass uns Plattformen wie Facebook mit ihren algorithmischen Modellen regieren, das heißt, aktiv und willentlich Einfluss auf uns ausüben. Erst wenn wir erkennen, dass Facebook tatsächlich Macht ausübt, sind wir in der Lage diesen Einfluss zu kritisieren und zu hinterfragen. Michel Foucault entwickelte seine Idee der Biomacht, weil er der Ansicht war, dass wir uns Macht bis heute immer noch so vorstellen, wie die Macht des Königs. Angesichts der brutalen und zum Teil willkürlichen Herrschaft von Despoten scheinen die sanften und vielfach vernünftigen Eingriffe unserer liberal-demokratischen Regierungen wenig mit Macht zu tun zu haben. Foucault war anderer Meinung und entwickelte mit dem Konzept der Biomacht die Möglichkeit, diese sanften Eingriffe als raffinierte Formen von Macht zu verstehen, die unser Handeln beeinflussen und daher von höchster politische Bedeutung sind.

Genau diesen Wandel müssen wir auch beim Nachdenken über die Regierungen des Cyberspace vollziehen. Denn genau das sind biopolitische Unternehmen wie Facebook und Google: Plattformen, auf denen wir regiert werden. Und die mehr noch als die staatlichen Regierungen mit ihren unendlichen Datenmengen, Analysetools und lernenden algorithmischen Modellen in unseren Alltag und unsere intimsten Gedanken vordringen. Was würden wir tun, wenn wir anerkennen müssten, dass Facebook uns regiert? Würden wir Bürgerrechte auf den Plattformen einfordern? Uns dagegen auflehnen, dass wir so und nicht anders regiert werden? In jedem Fall könnten wir die Macht, die Facebook über uns hat, infrage stellen. Wir könnten den Regierungen aus dem Cyberspace, die es nach Barlow gar nicht geben sollte, endlich auf politischem Terrain gegenüber treten. Denn dass der Cyberspace nicht immer schon frei von Macht ist, heißt nicht, dass wir nicht für seine Befreiung kämpfen sollten.

Janosik Herder ist wissenschaftlicher Mitarbeiter im Arbeitsgebiet Politische Theorie an der Universität Osnabrück. In seiner Arbeit untersucht er die politische Bedeutung von Informationstechnik und hat gerade einen Aufsatz über die Macht von Algorithmen geschrieben.