/Life

Jetzt will er die Algorithmen: Das „Wie“ bleibt der Justizminister schuldig

Max Biederbeck 03.07.2017

Kaum müssen die Sozialen Netzwerke selbst löschen, will der Justizminister auch deren Software an den Kragen. Dazu hat er am Montag in Berlin einen neuen Plan zur Kontrolle von Algorithmen vorgestellt. Der ist geprägt von offenen Fragen und einer seltsamen Doppelmoral. Eine Analyse.

Heiko Maas (SPD) will wohl ein Macher sein. Gerade hat der noch amtierende Justizminister ein Gesetz (NetzDG) durch den Bundestag gebracht, das Facebook und Co. zwingt, diskriminierende Inhalte zu löschen. Jetzt reitet der Minister auf dieser Wir zähmen die großen Internetkonzerne-Welle weiter. Am Montag hat er sich auf einer Konferenz in Berlin die Algorithmen von Facebook und Co. vorgenommen und die Planung eines digitalen Antidiskriminierungsgesetzes (dAGG) angekündigt.

Darin sollen neue Regeln für Facebook, Twitter, Google und Co. enthalten sein. Maas will mehr Transparenz und die Gründung einer eigenen Agentur seitens der Bundesregierung. Sie soll Folgen und Funktionsweisen der Algorithmen überprüfen. Experten aber glauben gegenüber WIRED, dass so eine Agentur in keiner Weise eine Lösung ist.

Auch wie die Algorithmen-Zähmung genau aussehen soll, sagt Maas nicht. Zwar ist sein Gedanke richtig, etwa Facebook und Google zu mehr Transparenz zu zwingen und Verbraucher vor Datensammelwut zu schützen – ähnlich wie schon beim NetzDG sprintet der Minister aber geradezu blind nach vorne. Dadurch verrennt er sich in einer merkwürdigen Doppelmoral.

Datenschützer sehen in seinem NetzDG eine Privatisierung des Strafrechts, die Diskriminierung eher fördert, als diese zu beseitigen. Maas nimmt das in Kauf und überlässt damit den Schutz von Minderheiten privaten Unternehmen. Jetzt will er eben diese Unternehmen dann doch kontrollieren, indem er ihre Software an die Leine nimmt. Das klingt, mit Verlaub, scheinheilig.

Dabei hat Maas ein durchaus wichtiges Problem in die öffentliche Debatte gebracht. Zusammen mit anderen Ministerinnen hatte er es bereits vor einigen Wochen in einem Positionspapier zur Digital Politik der SPD angesprochen. Schon Ende Dezember sogar machte ihm ein Expertengremium umfassende Vorschläge zum Umgang mit Algorithmen – denn die haben mehr und mehr Einfluss auf die Gesellschaft: Es geht um jene Programme, die zum Beispiel auf Facebook für zwei Milliarden Nutzer vorfiltern, was in ihren Newsfeeds auftaucht und was nicht.

Die Argumentation des Ministers lautet sinngemäß: Die Funktionsweise von Algorithmen sind zu oft ein gut gehütetes Geschäftsgeheimnis und müssen unter Kontrolle gebracht werden. In der Tat: Immer wieder gibt es Hinweise darauf, dass Algorithmen Vorurteile produzieren. Sie können rassistisch sein, sexistische und homophobe Vorurteile produzieren. Internationale Sicherheitsexperten wie Bruce Schneier fordern deshalb schon lange Transparenzgesetze. „Bisher konnten wir die Programme vielleicht verstehen, in Zukunft wird das nicht mehr möglich sein. Nicht einmal Google versteht seine KI noch“, sagt der IT-Sicherheitsexperte jüngst auf der RightsCon-Konferenz in Brüssel.

Minister Maas macht sich wohl vor allem Sorge um Facebook und um den politischen Einschlag der Programme. Das Wort „Echokammer” ist eines der Buzzwörter des laufenden Wahlkampfs: Facebook will, dass man sich wohlfühlt und möglichst lange auf seiner Seite bleibt – deswegen zeigt das Netzwerk einem nur, was gefällt: die eigene Meinung. In den Augen von Maas eine Gefahr für den Pluralismus: „Indem Algorithmen menschliches Verhalten auf vorbestimmte Bahnen lenken, können sie die Selbstbestimmung und Handlungsfreiheit des Einzelnen massiv einschränken”, sagte Maas am Montag.

Was er nicht bedenkt: In Deutschland gibt es bereits zahlreiche Forschungs- als auch Kontrolleinrichtungen für Algorithmen. Eine einzelne Agentur, wie der Minister sie vorschlägt, wäre im besten Fall redundant, im schlimmsten könnte sie andere Instanzen und Behörden bei ihrer Arbeit behindern. Maas scheint so sehr auf Portale wie Facebook fixiert zu sein, dass er andere Bereiche vergisst. Algorithmen kommen auch bei der Datenverarbeitung in der Gesundheits-, Fintech- oder Autoindustrie zum Einsatz.

So kümmert sich etwa eine Finanzaufsicht um den FinTech-Bereich oder ein Bundesinstitut für Arzneimittel um die zunehmend datenbasierte Diagnostik von Pharmakonzernen. „Dass jetzt eine Agentur für all diese Bereiche zuständig sein soll, erscheint mir mehr als schwierig“, sagt Lorena Jaume Palasi, Geschäftsführerin der Organisation Algorithm Watch. Sie befürchtet, dass da Programme gleich behandelt werden sollen, die eigentlich nichts miteinander zu tun haben. Der Gesetzgeber habe wohl nicht verstanden, wie ein Algorithmus funktioniert. „Man kann einen Entwickler nicht dazu zwingen, einen Algorithmus vorurteilsfrei zu entwickeln, weil seine Ausrichtung von vielen Faktoren abhängt“, erklärt sie.

Abgesehen von ihren Entwicklern sind Algorithmen auch von Datenbanken abhängig, auf die sie zugreifen. Bei Facebook zum Beispiel entwickelt sich eine Künstliche Intelligenz auch durch das Verhalten der Nutzer selbst. „Es kommt immer auf den Kontext an“, sagt Jaume Palasi. Beispiele aus der Vergangenheit bestätigen diese Aussage. Der Chatbot Tay von Microsoft fing im vergangenen Jahr nicht an, rassistische Parolen auf Twitter zu verteilen, weil seine Entwickler ihn so programmiert haben, sondern weil Twitter-User sie ihm beibrachten. Man fragt sich, mit welchem Zwang und Mitteln der Justizminister solchen Auswüchsen Herr werden will.

Es gibt sie schlicht nicht, die eine künstliche Intelligenz, die unsere Sozialen Medien beherrscht, und die von Mark Zuckerberg aus einer kleinen Kammer heraus bedient wird. Stattdessen existieren zahlreiche, teils völlig harmlose Programme. Sie sind nicht autonom, sondern funktionieren automatisch und spiegeln gesellschaftliche und wirtschaftliche Kontexte wieder.

Diese Begriffe – automatisch und autonom – sollte der Minister nicht durcheinander werfen, sonst laufen seine Planungen auf ähnlich unzufriedene Ergebnisse hinaus, wie beim NetzDG. „Es lässt sich im Vorfeld kaum bestimmen, ob ein Algorithmus diskriminieren wird oder nicht. Deswegen kann er kaum ex ante geregelt werden“, erklärt Jaume Palasi.

Aber natürlich könnte Heiko Maas das wissen. Man bekommt unweigerlich den Eindruck, dass es sich bei diesem Vorstoß um ein weiteres Wahlkampfmanöver des Ministers handelt, der ein allgemeines Unbehagen und eine Angst vor digitaler Bevormundung in der Bevölkerung ausnutzt. Eine echte Diskussion über seinen Vorstoß kann vor der nächsten Legislaturperiode nicht mehr erfolgen. Weder ist klar, ob er dann noch Justizminister ist, noch wie er seine neue Idee dann rechtlich und inhaltlich überhaupt durchsetzen will.

Jetzt WIRED Member werden und mit uns in die Zukunft starten!

Mit im Paket: 4 Magazin-Ausgaben im Jahr und der Member-Zugang zu exklusiven Inhalten auf WIRED.de sowie weitere Vorteile nur für Member.

Member werden