Hinweis zu Affiliate-Links: Alle Produkte werden von der Redaktion unabhängig ausgewählt. Im Falle eines Kaufs des Produkts nach Klick auf den Link erhalten wir ggf. eine Provision.

Machines Of Loving Grace / Dürfen Algorithmen Richter werden?

von Jürgen Geuter
Algorithmen sind überall. Jeder hat ständig mit ihnen zu tun, viele fürchten sie, doch die wenigsten verstehen tatsächlich, wie sie funktionieren. In seiner WIRED-Kolumne durchleuchtet Jürgen Geuter die mathematischen Problemlöser, die unsere Welt zu lenken scheinen. Diesmal: Sollten wir Algorithmen bestimmte Jobs übernehmen lassen?

Vor einigen Wochen stellte ich an dieser Stelle im Zusammenhang mit dem Thema selbstfahrende Autos fest, dass über kurz oder lang alles Automatisierbare auch automatisiert werden wird. Denn egal wie komplex und damit teuer neue Automatisierungen sind, irgendwann sinkt der — nicht nur finanzielle — Aufwand ihres Einsatzes und macht menschliche Arbeit unrentabel. Automatisierung nimmt uns unsere Jobs weg und es sieht nicht so aus, also würden genug neue entstehen, um den Ausfall zu ersetzen.

Diese negative Perspektive steht gerade im Zentrum vieler gesellschaftlicher Debatten. Aber gibt es nicht auch Jobs, die wir verdrängen wollen? Tätigkeiten, für die wir eigentlich lieber Algorithmen einsetzen würden als Menschen? Jobs, bei denen menschliche Schwächen und Vorurteile gravierende, gefährliche Konsequenzen haben können?

Gibt es nicht auch Jobs, die wir verdrängen wollen?

Nehmen wir zum Beispiel die Rechtsprechung: Richter und Richterinnen haben einen ziemlich harten Job. Sie müssen sich mit den Gesetzen und den ihnen zugrundeliegenden Rechtsgrundsätzen auskennen, vorgelegte Beweise und Argumente einschätzen und gegeneinander abwägen. Und bei alledem müssen sie auch noch neutral bleiben, fair. Müssen ihre eigenen Meinungen und Vorurteile überwinden, um die Gleichheit der Menschen vor dem Gesetz nicht zu verletzen. Warum entwickeln wir also keinen Rechtsprechungs-Algorithmus, der den Einfluss menschlicher Faktoren minimiert?

Die Idee, die Rechtsauslegung zu automatisieren, wabert seit Jahrzehnten immer mal wieder durch die Informatikgemeinde. Algorithmen könnten logisch korrekt, nachvollziehbar und beweisbar die richtigen Entscheidungen treffen und nur noch in sehr speziellen Fällen wären menschliche Richter notwendig. Verfahren würden sich nicht mehr über Wochen und Monate hinziehen sondern die Entscheidung wäre mit einem Klick getroffen — schnell, fair, objektiv. Und ohne die Gefahr von Erpressung, Vorurteilen oder menschlichem Versagen. So weit die Theorie, die besonders von Verfechtern der sogenannten logischen Programmierung immer wieder in die Diskussion eingebracht wird.

Warum haben wir also keine automatisierten Richter?

Man denkt vielleicht, dass ja irgendwie alle Programmierung logisch ist, aber die logischen Programmiersprachen unterscheiden sich in ihrer Denkweise sehr stark von den heute verbreiteten imperativen oder objektorientierten Codesprachen wie zum Beispiel Java, Javascript oder Python. In traditionelleren Programmen werden die Anweisungen, die der Rechner zur Lösung einer Aufgabe ausführen muss, aufgeschrieben — entweder einfach in ihrer Reihenfolge (imperativ) oder zerlegt in funktional gekapselte Objekte, die bestimmte Teilfunktionen der Aufgabe beschreiben. Startet man das Programm, führt der Rechner die Anweisungen in der angegebenen Reihenfolge aus und am Ende ist das Problem gelöst.

Logische Programme hingegen stellen formale Beweise dar. Anstelle von Anweisungen schreiben die Programmierenden Fakten auf, etwa „Sokrates ist ein Mensch“ oder „Sokrates hat zwei Arme“. Hinzu kommen noch Regeln wie „Alle Menschen sind sterblich“. Hat man alle relevanten Fakten und Regeln eingetragen, kann man dem System Fragen stellen wie „Ist Sokrates sterblich?“. Das System versucht nun, aus allen vorliegenden Fakten und Regeln die Aussage herzuleiten: Entweder findet sich eine Verknüpfung von Regeln und Fakten, die Sokrates' Sterblichkeit zweifelsfrei beweisen oder eben nicht. Die Antwort ist ein logisches Wahr oder Falsch oder — falls mehrere wahre Lösungen existieren — eine Liste aller Fälle, für die die Frage mit „Ja“ zu beantworten wäre.

Und klingt das nicht genau wie unsere Gesetze? Klar definierte Regeln, die man nur mit den Fakten abgleichen muss, um dann die Antwort zu bekommen, ob etwas legal ist (also den Regeln entspricht) oder nicht. Warum haben wir also keine automatisierten Richter? Ist es nur unser Unwohlsein mit der Idee, dass Maschinen direkt über unser Schicksal entscheiden?

Algorithmen scheitern an unseren Gesetzen.

Sicher spielt dieses Gefühl oft eine Rolle — in diesem Falle ist das Ausschlusskriterium aber ein anderes: Algorithmen scheitern an unseren Gesetzen. Viele Forscher und Unternehmen haben schon versucht, Gesetze in Code umzusetzen, und jedes dieser Projekte kann als gescheitert betrachtet werden. Lawrence Lessig hat sicher teilweise Recht mit seiner Aussage „Code is law“, umgekehrt funktioniert das aber nicht.

Unsere Welt ist, bei aller Macht von Algorithmensystemen, durch Logik nicht völlig erfassbar. Unsere sozialen und legalen Regelsysteme enthalten Zweideutigkeiten und Widersprüche, die von Menschen beherrschbar sind, die Algorithmen aber vor immense Probleme stellen. Natürlich könnte man einen lernenden Algorithmus mit Urteilen und Fallbeschreibungen füttern und es würde sicher die Verfahrensdauer massiv herunterschrauben. Aber niemand dürfte es für eine gute Idee halten, Systemen, die trotz intensivsten Trainings People of Color als Gorillas erkennen, wirklich relevante Aufgaben wie beispielsweise die Rechtsprechung zu überlassen.

Der Dualismus ‚Algorithmus gegen Mensch‘ ist nicht mehr zeitgemäß.

Doch es wäre ein klassisches falsches Dilemma, davon auszugehen, Dinge seien entweder nur automatisierbar oder ausschließlich von Menschen leistbar. Denn während es offensichtlich viele Tätigkeiten gibt, die leicht automatisierbar sind, müssen Menschen andererseits bei komplexen Tätigkeiten keineswegs alleingelassen werden: Der Dualismus „Algorithmus gegen Mensch“ ist nicht mehr zeitgemäß.

Menschen haben offensichtliche Schwächen, sind beeinflussbar und manchmal impulsiv und irrational. Das ist nicht immer schlecht, kann aber in bestimmten Situationen zum Problem werden. Algorithmen sind nicht emotional, scheitern dafür aber oft an der Komplexität der Welt, ihren unendlichen Grauschattierungen zwischen Schwarz und Weiß. Zum Glück müssen wir uns aber nicht für eine der Optionen entscheiden.

Nicht automatisierbare, kognitive Aufgaben wie die, mit denen beispielsweise Richter und Richterinnen, Ärztinnen und Ärzte täglich konfrontiert werden, können trotzdem von algorithmischer Unterstützung profitieren. Expertensysteme können dabei helfen, große, komplexe Informationsmengen, etwa für medizinische Diagnosen, besser zu bewältigen. Automatisierte Datenauswertung kann Menschen ihre eigenen Vorurteile und Fehlschlüsse vor Augen führen, zum Beispiel indem sie Menschen zeigt, dass sie bei der Jobvergabe bestimmte Personengruppen benachteiligen oder bevorzugen.

Eigentlich ergänzen Algorithmen und Menschen sich ganz großartig.

Die Debatte um Automatisierung und Digitalisierung wird entweder als Niederlage des Menschen oder als gefeierte Disruption bestehender Strukturen geframed. Aber warum muss es entweder der analoge Richter oder der juristische Automat sein? Denn eigentlich ergänzen Algorithmen und Menschen sich ganz großartig und können die Schwächen des jeweils anderen ausgleichen.

Es ist nach wie vor wichtig, den Einsatz von Algorithmen kritisch zu begleiten, die Machtwirkung, die sie entfalten können, zu hinterfragen. Dabei dürfen wir aber nicht vergessen, dass Menschen-Algorithmen-Partnerschaften ein immenses Potential haben, unsere Leben signifikant zu verbessern. Wir brauchen keine Algorithmen als Richter oder Ärzte, aber wir brauchen die Softwaresysteme, die es Menschen erlauben, diese Jobs besser zu machen: nicht die automatisierte Rechtsprechung, sondern die algorithmisch unterstützte Rechtsprechung.

In der letzten Folge von „Machines Of Loving Grace“ forderte Jürgen Geuter: Wir brauchen die Algorithmen-Demokratie! 

GQ Empfiehlt