Auf den Begriff des Algorithmus treffen wir heute vor allem im Zusammenhang mit digitaler Datenverarbeitung: Facebook hat einen Algorithmus zur Sortierung des Newsfeeds, Google einen zur Gewichtung von Suchergebnissen, Klout einen zur Bewertung des sozialen Einflusses einer Person. Behörden basteln mehr oder weniger öffentlich an Algorithmen, die das Aufspüren von Gefahren oder denen, die sie verursachen, möglich machen soll. Die Digitalsphäre setzt sich aus Algorithmen zusammen.
Es üblich geworden, Unternehmen beziehungsweise ihre Produkte automatisch mit dem jeweiligen Algorithmus gleichzusetzen. Dabei sollte den meisten klar sein, dass, wenn ich vom „Google-Algorithmus“ rede, der Ergebnisrelevanz-Algorithmus der Google-Suche gemeint ist und nicht die Software, die versucht, mir möglichst passende Werbeschnipsel anzuzeigen. Und der „Facebook-Algorithmus“ ist der Filter des Newsfeeds und nicht für die automatische Gesichtserkennung auf Bildern oder die Personensuche zuständig.
Leider sind die Dinge, über die wir reden, wenn wir ‚Algorithmus‘ sagen, oft gar keine Algorithmen.
Eine extreme Zuspitzung also, die zwei große Probleme für das Sprechen über Algorithmen und ihre Auswirkungen auf das Leben der Menschen mit sich bringt: Erstens impliziert die Unterstellung, ein Unternehmen beziehungsweise Produkt sei quasi identisch mit diesem einen Hauptalgorithmus, die Idee, man könnte die ungewollten Auswirkungen des jeweiligen Softwaresystems leicht aus der Welt schaffen, wenn man nur den Algorithmus kontrolliert. Und zweitens werden nach dieser Denkweise die Konsequenzen des Einsatzes eines Algorithmus mit den Zielen derer gleichgesetzt, die ihn entwickelt und implementiert haben.
Algorithmen sind ja eigentlich oft ziemlich einfach gebaut, wie wir schon in der letzten Folge dieser Kolumne festgestellt haben: Die Welt wird in ein möglichst angemessenes, leistungsfähiges digitales Modell übersetzt, auf dessen Basis dann recht einfache Verfahren Probleme lösen und Fragen beantworten. Und genau das sind Algorithmen: Verfahrensbeschreibungen zur Lösung eines Problems oder einer Klasse von Problemen. Leider sind allerdings die Dinge, über die wir reden, wenn wir „Algorithmus“ sagen, oft gar keine Algorithmen sondern Algorithmensysteme.
Ein Algorithmensystem entsteht aus dem Zusammenspiel mehrerer Algorithmen. Diese können sich gegenseitig mit Ergebnissen beliefern, einander verändern oder im Wettbewerb stehen. Ähnlich wie die Bauteile einer Maschine werden Algorithmen miteinander verschaltet, um immer komplexer werdende Probleme zu lösen. Und wie bei einer Rube-Goldberg-Maschine ist beim einfachen Ansehen der Teile manchmal gar nicht mehr so leicht ersichtlich, wie genau das ganze System eigentlich funktioniert und warum.
Erst das System aus Gesetzen, in das sich die neue Regel einbettet, gibt ihr ihre Form und Auswirkung.
Nehmen wir als Beispiel eine moderne Suchmaschine: Zum einen ist da der Algorithmus, der die Relevanz unterschiedlicher Treffer bewertet und die Suchergebnisse so in eine Reihenfolge bringt. Zum anderen gibt es noch Algorithmen, die Informationen aus unterschiedlichen Datenquellen wie Webseiten, Büchern oder Bibliotheken extrahieren, um diese der Suche überhaupt erst zugänglich zu machen. Diese sogenannten Crawler finden zum Beispiel meine Website und stoßen auf die Worte „Jürgen Geuter“. Beim Einfügen in die Datenbank der Suchmachine (den sogenannten Index) beginnt nun ein ganzer Zoo aus weiteren Algorithmen, diese Zeichenkette zu analysieren und mit weiteren Informationen anzureichern. So erkennt das System beispielsweise, dass es sich um einen Namen handeln könnte und versucht, meine Kontaktinformationen zu finden und mit dem Begriff „Jürgen Geuter“ zu verbinden. Bei der Darstellung der Suchergebnisse zu meinem Namen können diese Extrainformationen dann angezeigt werden. Denn wenn jemand meinen Namen sucht, ist die Wahrscheinlichkeit gar nicht so gering, dass er oder sie auch meine Kontaktdaten brauchen könnte.
Diese Darstellung ist natürlich ziemlich vereinfacht und blendet eine Vielzahl kleiner, aber trotzdem wichtiger Algorithmen aus. Sie reicht allerdings, um zu verstehen, wie schnell Algorithmensysteme sehr komplex werden können. Wir müssen nur einmal daran denken, wie unterschiedlich die Datenquellen sind, die heutige Suchmaschinen in eine Ergebnisseite zu integrieren versuchen: Personendatenbanken, Karten, Videoportale und Shopping-Seiten.
Außerdem haben Algorithmensysteme in der realen Welt die Tendenz, immer weiter zu wachsen und an Komplexität zuzunehmen. Weitere Datenquellen wollen angebunden, neue Auswertungen oder Verarbeitungsschritte in den Prozess integriert werden. Und jedes dieser neuen Features macht das Gesamtsystem komplexer und für die Entwickelnden schwieriger beherrschbar. Genau hier kollidieren Realität und die populäre Wahrnehmung von Produkten oder Fimen als der Algorithmus. Natürlich gibt es in den Entwicklungsteams bei aller Spezialisierung auch immer ein Gefühl für das Gesamtsystem und seine Funktionsweise, doch die Auswirkung einer kleinen Änderung an einem Subsystem kann trotzdem gravierende, nicht vorhersehbare Konsequenzen nach sich ziehen.
Der Harvard-Professor Lawrence Lessig prägte den Ausspruch „der Code ist das Gesetz“ („code is law“). Vielleicht ist diese Gleichsetzung ein ganz gutes Bild, um die Komplexität von Algorithmensystemen zu verdeutlichen: Auch unsere Gesetze bilden ein hochkomplexes System aus sich gegenseitig beeinflussenden, ausschließenden oder einschränkenden Regeln für unser Zusammenleben. Dabei reicht es meist nicht, einen einzelnen Gesetzentwurf nur für sich zu betrachten, wenn man die Auswirkungen auf die Welt einschätzen möchte: Erst das System aus Gesetzen, in das sich der neue Regelungsvorschlag einbettet, die soziale Realität, gibt diesem seine Form und Auswirkung.
Dass man nur irgendwo ein paar Zeilen Code verändern müsste, um die Auswirkungen dieser Digitalsysteme zu regulieren — das ist eine Illusion.
Mit den Algorithmensystemen, die große Teile unseres Lebens bestimmen, verhält es sich ähnlich: Wir können die Gesamtauswirkungen des Systems auf uns beobachten, seine internen Strukturen und Wirkbeziehungen bleiben uns aber meist verschlossen. Beziehungsweise sind sie nur einer kleinen Anzahl von Menschen zugänglich und verständlich. Dass man irgendwo ein paar Zeilen Code hat, die man nur offenlegen oder kontrollieren müsste, um gesellschaftliche oder ökonomische Auswirkungen dieser Digitalsysteme zu regulieren — das ist eine Illusion.
Denn besonders in einem verteilten System wie dem Internet (und noch beschleunigt durch Entwicklungen wie das Internet of Things, also das Internet all der kleinen, vernetzten, „smarten“ Gadgets, die wir an unsere Körper heften und in unsere Wohnungen stellen) ist die Isolation eines einzelnen Algorithmus oft gar nicht mehr so hilfreich, wenn man die Auswirkungen eines Geräts oder einer Geräteklasse auf das Leben der Menschen einschätzen will.
Wir müssen Algorithmensysteme als Ganzes betrachten und dürfen uns nicht in technischen Details verlieren.
Wir müssen Algorithmensysteme als Ganzes betrachten und dürfen uns nicht allzu sehr in den überwältigenden technischen Details verlieren. Die sozialen Auswirkungen der Druckerpresse hätte man auch nicht durch die Betrachtung einer handvoll Bleibuchstaben erkennen können. Trotzdem bleibt die Betrachtung einzelner Algorithmen wichtig, nicht nur aus technischer Faszination heraus: Die Struktur eines Algorithmus beschreibt — wie ein Text — die Weltsicht und Denkweise der Menschen, die ihn entwickelt haben.
Diese beiden Perspektiven richtig einzusetzen ist die Grundlage für eine zielführende Debatte über die Auswirkungen der Digitalisierung auf die Gesellschaft. Denn es gibt eben nicht den Google-Algorithmus und den Facebook-Algorithmus.
