Citizen Scoring: Wie Staaten mit Daten und Überwachungstechnik über ihre Bürger herrschen

Das aktuellste Bild von Yong Zhao sieht aus wie ein Polizeifoto: Es ist eine Schwarz-Weiß-Aufnahme aus einer Überwachungskamera, die ihn von oben zeigt. Er öffnet gerade eine Tür. Auf dem Screen seines Smartphones kann sich Yong Zhao, der Chef einer Pekinger Sicherheitsfirma, selbst überwachen. Bunte Farbflächen zeigen ihm an, wo er sich in der vergangenen Woche wann aufgehalten hat, wie lange er gearbeitet oder Pausen gemacht hat, wann er nicht im Haus war. „Die App zeigt den digitalen Fußabdruck einer Person“, so Yong Zhao. „Wir haben viele Kameras in den Gängen, in den Eingängen und Ausgängen und in den Büros installiert und ich kann mich selbst verfolgen – und jeden meiner Mitarbeiter.“ Der einzige Raum ohne Kameraerfassung: die Toiletten.

Yong Zhaos App kann die Leistungen der Angestellten vergleichen, sie macht transparent, wer etwa zu viele Überstunden leistet. Kameras in den Büros und die Bewegungen im Raum erlauben Einblicke in soziale Strukturen, etwa wie oft das Marketing-Team mit dem Produktteam spricht. „Ich will die Aktivitäten und die Kommunikation der Mitarbeiter verstehen – vielleicht gibt es jemand, der ausgeschlossen wird, oder sozial sehr einsam ist“, so Zhao. Die App könne aber auch „Verdächtige“ im Auge behalten, mit einem Alarm, der einen informiert, wenn die Zielperson das Haus betritt. Noch ist die App ein Prototyp, „ein Spaß“ – in Zukunft soll sie sich in ein Produkt verwandeln, mit dem etwa Kunden wie Schulen, Unternehmen oder Polizei Menschen überwachen können.

Die App zeigt, wie detailliert digitale Systeme, gekoppelt mit Überwachungskameras, menschliches Verhalten analysieren und vergleichen können. Ab 2020 will China mit einem Scoring-System das ganze Land vermessen und das Verhalten der Bürger steuern – Fehlverhalten wird bestraft, Leistung belohnt. Zukünftig soll jeder Bürger ein Sozialkredit-Punktekonto besitzen, auf das Informationen wie Offline- und Onlineaktivitäten, Shopping, Kreditverhalten, aber auch Informationen von Versicherungen, oder Leistungen einfließen – daraus errechnet sich ihr Wert. Ab 2020 soll das sogenannte Social Credit System (SCS) landesweit eingeführt werden, bisher experimentieren etwa 40 Städte mit verschiedenen Pilotprojekten.

Das technologisch hoch entwickelte 1,4-Milliarden-Einwohnerland China ist ein gigantisches Experimentierlabor für datenbasiertes Regieren – aber auch andere Staaten weltweit setzen digitale Identitätssysteme oder Algorithmen für das Bürger-Management ein.

Venezuela hat aus China ein Bürger-ID-System importiert, das gesellschaftliches, politisches und wirtschaftliches Verhalten der registrierten Venezolaner sowie die Ausgabe staatlicher Leistungen wie Sozialhilfe oder die Versorgung mit Medikamenten trackt. Die sogenannte „Vaterlandskarte” – „carnet de la patria” – wurde von der chinesischen Firma ZTE Corp entwickelt und Ende 2016 eingeführt. Die Karte, auf der ein QR-Code aufgebracht ist, verknüpft zahlreiche Daten miteinander – von Patientendaten, bis zu Wahlverhalten oder der Teilnahme an Veranstaltungen der regierenden Sozialistischen Partei PSUV. Auch elektronischer Zahlungsverkehr per „Vaterlandskarte” ist teils möglich: In Caracas können für die Zahlungsfunktion freigeschaltete Venezolaner seit diesem Jahr ihre Stromrechnung begleichen. Auch mit Anreizen wie Verlosungen oder Geldpreisen für Wahlkampf oder das Scannen der Karte in der Nähe von Wahlstationen werden politische Aktivitäten von Kartenbesitzern gefördert – zumindest im Sinne der Regierung.

Als Präsident Maduro seine Karte bei der Stimmabgabe zur Nationalversammlung 2017 scannte, erschien allerdings nur eine Fehlermeldung: „Die Person existiert nicht.“ Hacker hatten sich Zugriff auf die Datenbank verschafft und Maduro gelöscht. „Die größte Gefahr ist die erbärmliche digitale Sicherheit der von der Regierung verwalteten Computersysteme – das Kartensystem wurde sehr früh gehackt, und wir haben keinen Hinweis darauf, dass die Sicherheit verbessert wurde“, sagt die venezolanische Juristin und Tech-Analystin Marianne Díaz Hernández von der Organisation Derechos Digitales zu WIRED. „Jegliche Normen oder Vorschriften zum Schutz personenbezogener Daten fehlen, so dass alle Informationen der Bürger in die Hände der Regierung gelangen, ohne rechtliche Beschränkungen in Bezug auf die Verwendung und den Austausch dieser Daten.“ Das bringe Bürger in eine prekäre Situation, in der der Schutz der Privatsphäre ausgehebelt wird – und das in einem autoritären Staat, der mitten in einer wirtschaftlichen und politischen Krise steckt und Kritiker und Oppositionelle verfolgt.

73 Prozent der Venezolaner sollen der Marktforschungsfirma More Consulting zufolge bereits Teil des Systems sein. Die „Vaterlandskarte” ist noch optional, allerdings müssen Nicht-Kartenbesitzer mit Nachteilen rechnen. So hatte Präsident Nicolás Maduro im August 2018 angekündigt, dass staatlich subventionierte Benzinrationen über die Karte zugeteilt werden würden – andernfalls müssten die Bezieher internationale Preise zahlen. Auch wenn die Regulation von Öl, das in dem sich in der Krise befindenden Ölstaat bisher zu Schleuderpreisen abgegeben wurde, nicht funktioniert, zeigt die Drohung, wie Venezolaner zunehmend in das digitale Kontrollsystem gedrängt werden. Wer keine Karte besitzt, wird von wichtigen öffentlichen Dienstleistungen ausgeschlossen und bei der Registrierung werden unter anderem Social Media-Profile und politische Einstellungen abgefragt. Die „Vaterlandskarte“ könnte zur verschärften politischen Kontrolle und Begünstigung von Maduro-Unterstützern missbraucht werden.

„Gerade im venezolanischen Kontext bedeutet die Karte einen gigantischen Mechanismus der sozialen und politischen Kontrolle. Angesichts der Abhängigkeit der Bürger von der Regierung bei Lebensmitteln, Medikamenten und anderen und ihrer Unfähigkeit, die Verwendung ihrer personenbezogenen Daten zu kontrollieren oder gar zu wissen, wofür sie verwendet werden, wirken sich diese Praktiken abschreckend auf die Meinungsfreiheit aus“, warnt Marianne Díaz Hernández. „Die Bürger befürchten zu Recht, dass jede Opposition gegen die Regierungspolitik einen realen Einfluss auf ihre Überlebenschancen und den Zugang zu lebenswichtigen Gütern zur Deckung ihrer Grundbedürfnisse haben wird.“ Auch in anderen Ländern beobachtet sie die zunehmende Einführung digitaler Identifikationssysteme – wenn auch nicht im gleichen Ausmaß wie in Venezuela.

In Chile, wo Hernández lebt, sollen etwa alle Bürger bis 2022 mit der biometrischen eID card ausgestattet werden, die auch Online-Bürgerdienstleistungen ermöglichen soll. In Guatemala sollte die biometrische Identitätskarte ursprünglich mit Sozialleistungen verknüpft werden. In Indien hat der Oberste Gerichtshof kürzlich entschieden, dass das nationale Identifikationsprogramm Aadhaar, die größte biometrische Datenbank der Welt, die etwa die Verteilung von Sozialhilfe besser regulieren soll, nicht die Bedingung sein darf, um ein Bankkonto zu eröffnen, einen Handyvertrag abzuschließen oder zur Schule zugelassen zu werden. Immer wieder zeigen Sicherheitslücken, Hacks und Daten-Leaks weltweit, wie anfällig die digitalen Systeme sind. Transparenzmechanismen und unabhängige Kontrollgremien fehlen dagegen meist völlig.

Auch in Deutschland werden die Daten der Bürger zunehmend zentralisiert und der Datenabgleich zwischen Behörden erleichtert. Ein digitales Bürgerportal soll zukünftig etwa die Verwaltung erleichtern. „Im Koalitionsvertrag haben die die Bundesregierung tragenden Parteien vereinbart, ein digitales Bürgerportal zu schaffen, in dem mit Zustimmung der betroffenen Bürgerinnen und Bürger ihre persönlichen Daten hinterlegt werden können, auf die verschiedene Behörden bei Bedarf – zum Beispiel im Falle eines Antrags auf Ausstellung eines Personalausweises oder auf eine Sozialleistung – zurückgreifen können”, antwortet ein Sprecher des Bundesministeriums für Arbeit und Soziales (BMAS) auf eine WIRED-Anfrage. „Damit soll erreicht werden, dass Bürger und Bürgerinnen nur einmal ihre persönliche Daten angeben müssen, um den Aufwand für die betroffenen Personen und Behörden im Zeitalter der Digitalisierung möglichst gering zu halten.“

Um etwa Sozialhilfebetrüger zu entdecken, erfolgt jetzt schon ein automatisierter Datenabgleich zwischen Behörden. „Die Jobcenter führen aufgrund einer ausdrücklichen gesetzlichen Ermächtigung quartalsweise automatisierte Abgleiche über die Datenstelle der Rentenversicherung mit verschiedenen Behörden, wie zum Beispiel der Bundesagentur für Arbeit, dem Bundeszentralamt für Steuern, den Trägern der gesetzlichen Unfall- und Rentenversicherung, den anderen Jobcentern durch, um den gegebenfalls nicht bekannten Bezug anderer Sozialleistungen, die Ausübung einer Arbeit oder nicht bekanntes Vermögen in Erfahrung zu bringen”, so das BMAS. Auch bei der Arbeitslosenversicherung werden Leistungsdaten automatisch mit Beschäftigungsdaten abgeglichen – um heimliche Nebenbeschäftigungen aufzudecken.

In Deutschland existiert zwar bisher kein landesweites Bürger-Bewertungssystem, doch Experten befürchten, dass sich das ändern könnte – vor allem durch Privatfirmen. „Das Szenario eines Super-Scores, in dem Verhalten in verschiedenen Lebensbereichen verfolgt, analysiert und für die Score-Berechnung verwendet wird, erscheint durchaus plausibel“, warnt der Sachverständigenrat für Verbraucherfragen (SVRV) in seinem Gutachten „Verbrauchergerechtes Scoring“.

Schon jetzt bewerten Auskunfteien wie die Schufa die Kreditwürdigkeit der Deutschen automatisiert, Kredit-Startups werten auch Daten aus sozialen Netzwerken aus. Die Crowdsourcing-Aktion „OpenSchufa“ von AlgorithmWatch und der Open Knowledge Foundation Deutschland (OKF), bei der Schufa-Daten von rund 3000 Bürgern ausgewertet wurden, sowie Recherchen von BR und Spiegel legen zahlreiche Probleme offen. „Die Ergebnisse zeigen deutlich, dass es Raum für Verbesserungen bei der Schufa gibt. Offensichtlich haben Sie die Daten-Wertschöpfungskette nicht im Griff, wenn man sich die Ergebnisse der Stichprobe ansieht“, sagt OKF-Projektleiter Walter Palmetshofer zu WIRED. Auch ohne negative Merkmale würden Personen mit schlechten Scores ausgestattet, bei gleicher Datengrundlage errechnet die Schufa den Recherchen zufolge mitunter eine unterschiedliche Kreditwürdigkeit. „Sieht man sich diese Fehlerquote an und rechnet diese auf die Bevölkerung in Deutschland hoch, sind hier wahrscheinlich hunderttausende Personen davon betroffen“, so Palmetshofer. „Hier gibt es klaren Handlungsbedarf für die Politik, das Vorgehen von Schufa und deren Marktmitbewerbern transparenter zu machen. Wir brauchen mehr Transparenz für alle Scoring-Anbieter in Deutschland und Europa.“

Umstritten ist auch der neue Vorschlag des Bundeskriminalamtes, Asylbewerber mit einem Punktesystem zu bewerten, das auf Intensivstraftäter aufmerksam machen soll. Der Verschlag wird derzeit auf der Innenministerkonferenz diskutiert. „Für Delikte, bei denen keine Freiheitsstrafe vorgesehen ist, wie einfacher Diebstahl, gibt es einen Punkt”, so ein Spiegel-Bericht. „Für Delikte, die mit mindestens einem Jahr Freiheitsstrafe geahndet werden, wie bestimmte Formen von Drogenhandel, gibt es 10 Punkte, für Taten, bei denen eine lebenslange Freiheitsstrafe ist, wie Mord, werden 70 Punkte notiert.” Ab 60 Punkten: Abschiebung. Wie genau das von einer vom Bundeskriminalamt koordinierten Arbeitsgruppe derzeit entwickelte System zukünftig funktionieren soll und in welcher Form ein Algorithmus zum Einsatz kommt, ist noch unklar.

Chinas digitale Kontrolle ist bisher am weitesten entwickelt – ob bis 2020 das gesamte Land erfasst werden kann, hängt davon ab, ob es gelingt, die zahlreichen Datenquellen und die unterschiedlichen lokalen Systeme zu synchronisieren, mit Hilfe der großen Tech-Firmen im Land. Zuletzt hat die Hauptstadt Peking angekündigt, ein neues Bewertungssystem für die Bewohner einzuführen, das den Zugang zum Markt, öffentlichen Dienstleistungen, Jobsuche, oder Unternehmensgründung beeinflussen soll. „Die Stadt will auch ihr Blacklist-System verbessern und Standard-Einträge von Individuen und Firmen regelmäßig veröffentlichen, um Fehlverhalten zu bestrafen”, so der Plan, der vergangene Woche (19.11.) veröffentlicht wurde.

In Shanghai prüft die noch optionale „Honest Shanghai“-App per Bürger-ID und Gesichtserkennungssoftware die Identität der Nutzer, Tausende von Informationen aus Regierungsquellen werden verknüpft, um „sehr gute“, „gute“ oder „schlechte“ Bürger zu kategorisieren – in Zukunft sollen auch Informationen von Social Media sowie Daten-Brokern und Privatfirmen einfließen.

„Das Sozialkreditsystem klingt wie das Schlimmste, was einem Land passieren kann“, sagt eine chinesische Club-Besitzerin die ihren Namen nicht veröffentlicht sehen will. Andererseits glaubt sie, dass umfangreiche Überwachung ohnehin stattfindet und China in einer Vertrauenskrise steckt: „Keiner traut keinem“, sagt sie. Viele seien egoistisch, würden vor allem nach ihrem eigenen Vorteil suchen. Vielleicht könnten Bewertungssysteme also zu einer besseren Gesellschaft führen. Sie selbst hat allerdings auch erlebt, wie schwierig es ist, wieder aus einer schlechten Bewertung herauszukommen – nachdem sie ein Rock-Konzert organisierte, bei der auch kritische Bands aufgetreten sind, wurde sie auf eine schwarze Liste der Regierung aufgenommen. „Wir werden seitdem die ganze Zeit gescreent“, sagt sie. „Aus dieser Situation herauszukommen, ist hart. Wir werden als Troublemaker angesehen und haben die ganze Zeit Angst, dass wir geschlossen werden.“

Das bekannteste Scoring-Projekt ist die Küstenstadt Rongcheng, wo Bürger seit 2014 je nach Punktestand wie Top-Aktien oder Schrott-Papiere mit Rating-Werten von „AAA“ bis „D“ bedacht werden – Vorbildbürger mit besonders gutem Sozialkredit-Kontostand werden auf einer öffentlichen Tafel benannt und mit günstigen Krediten und Krankenversicherungstarifen, sowie Vorteilen bei Wohnungsverteilungen und Schulplätzen für die Kinder belohnt. „Gamification“ im Dienst der Politik: Mit Punkten und Ranglisten wird ein gesellschaftlicher Wettbewerb erzeugt, der die Gesellschaft optimieren soll – aber politisch unerwünschte Bürger wie Regierungskritiker zunehmend von privaten und öffentlichen Dienstleistungen ausschließen wird. In der zukünftigen Rating-Gesellschaft zahlen Menschen durch den Netzwerkeffekt auch einen hohen Preis, wenn sie Freunde, Bekannte oder Partner mit niedrigerem sozialen Status und Punktekonto um sich scharen: Regimekritische Menschen oder Bürger, die weniger leisten können, werden so zunehmend sozial isoliert.