In Freizeitparks blitzt es andauernd. Vielleicht stürzen sich Besucher gerade mit der Achterbahn in die Tiefe, oder sie lassen sich auf der Wasserrutsche nass spritzen. Auch der Schocker im Geisterschloss ist ein perfekter Moment für ein Foto. Einmal die Arme hochreißen und vor Freude jodeln – alles gut dokumentiert.
Geht es nach Alexander Kabakov bleibt es aber nicht dabei: Am Ende des tollen Tages soll ein Automat am Ausgang noch einen letzten Schnappschuss machen. Kabakovs Software wird dann das Bild jeden einzelnen Besuchers scannen, in nur einer Sekunde das Datenmaterial der vergangenen Stunden durchforsten. Sie kann den Besucher wiederfinden, egal wo er wann im Park war, und dann gibt es die Fotos als Paket zum Mitnehmen, ganz automatisch. Die Leute lieben Andenken.
Kabakov weiß aber auch, dass in Freizeitparks viel gestohlen wird – auch die Überwachungskameras will er deshalb an seine Software anschließen. Der Algorithmus kann Fotos und Filme abspeichern, sie live mit dem Internet und mit Polizeidatenbanken abgleichen. Das Programm findet die Social-Media-Profile von Tätern und Opfern, stellt die Kontaktdaten fest. Jederzeit weiß es, wo sie sich im Park aufhalten. Auffälliges Verhalten interpretiert der Algorithmus sogar, bevor überhaupt ein Verbrechen stattgefunden hat. Kabakov empfiehlt seinen Kunden eine enge Zusammenarbeit mit der Polizei. Seine Software könne die Behörden informieren, ganz automatisch. Die Leute lieben Sicherheit.
Auffälliges Verhalten interpretiert der Algorithmus, bevor überhaupt ein Verbrechen stattgefunden hat
Vielleicht hat aber auch ein Stalker ein Ziel neben der Pirateninsel entdeckt. Er macht unbemerkt einen Schnappschuss mit seinem Handy, auch er hat Zugriff auf den Algorithmus, denn Soziale Netzwerke gehören ebenfalls zu Kabakovs Kunden. Der Stalker nutzt das Programm also, um alles über sein Gegenüber herauszufinden. Wie gesagt, ein Foto reicht aus, und schon kennt er die Vorlieben, die Bilder und die Freunde einer jeden Person auf seinen Fotos.
Die Leute lieben aber auch ihre Privatsphäre, und deshalb findet Kabakov das natürlich nicht gut. „Man kann unsere Technologie auch für schlechte Zwecke einsetzen, aber daran können wir nichts ändern“, sagt er im Gespräch mit WIRED.
+++ Mehr von WIRED regelmäßig ins Postfach? Hier für den Newsletter anmelden +++
Verhandlungen mit einem großen Vergnügungspark führt der 29-jährige Unternehmer tatsächlich. Firmen stünden gerade Schlange bei seinem Startup NTechLab aus Moskau. Das Bilderkennungsprogramm, dass er und sein Mitgründer Artem Kukharenko (26) entwickeln, scheint gerade der Renner zu sein. Im Dezember gewann das Unternehmen die MegaFace-Challenge der Universität Washington. Mit einer Erfolgsquote von 73 Prozent beim Scan von einer Million Bilder war ihr Algorithmus bei der Wiedererkennung sogar erfolgreicher als Googles FaceNet. Freunde von NTechLab programmierten mit ihm die skandalträchtige App FindFace.
Im Frühjahr taucht die Anwendung auf VKontakte (VK) auf, der russischen Alternative zu Facebook. FindFace ist in der Lage, Gesichter auf einem Bild zu erkennen und die rund 200 Millionen Accounts des Netzwerks eigenständig und innerhalb von Sekunden nach ihnen zu durchsuchen. 500.000 User hat die App mittlerweile, drei Millionen Suchanfragen gab es bislang – sie entwickelt sich zu einem Privatsphäre-Fiasko.
Grund für unseren Erfolg ist der riesige Berg an Daten, mit dem unser Algorithmus lernen konnte
Unternehmen, die sogenannte Facial Recognition, also Gesichtserkennung anbieten, sprießen gerade weltweit aus dem Boden. Auch die Großen wie Microsoft, Facebook und Google experimentieren mit derartiger Software. Menschen automatisch orten und im Netz wiederfinden zu können, das verspricht völlig neue Möglichkeiten für soziale Medien, Werbetreibende, aber auch Versicherungen und Behörden. Wo Datenschützer das ultimative Überwachungs-Tool vermuten, versprechen sich andere Profit und Sicherheit. Kein bereits existierender Ansatz hat das in den vergangenen Monaten so deutlich gemacht wie der von Kabakov und Kukharenko.
„Grund für unseren Erfolg ist der riesige Berg an Daten, mit dem unser Algorithmus lernen konnte. FindFace hat uns sehr geholfen“, erklären die Gründer. Was sie einen Erfolg nennen, nannten Medien weltweit in den vergangenen Wochen allerdings eine Katastrophe.
Im April nutzte der Fotograf Egor Tsvetkov FindFace dazu, willkürlich Menschen in der U-Bahn zu fotografieren und sie dann im Internet wiederzufinden. In siebzig Prozent der Fälle war er erfolgreich, sein Projekt „Your Face Is Big Data“ machte Schlagzeilen. Sollte es wirklich so leicht sein, die Privatsphäre einer Person auszuhebeln? Doch dabei blieb es nicht. Auch der Programmierer Andrei Mima beschreibt in einem Post bei VK, wie er zwei Frauen mithilfe eines alten Bildes ohne Probleme wiederfand. Das Foto war sechs Jahre alt.
Das schlimmste Beispiel aber lieferten User der Plattform Dvach, ein russischer 4chan-Klon. Sie nutzten die Software, um das Privatleben von Pornodarstellerinnen gegen deren Willen in die Öffentlichkeit zu zerren. Sie dokumentierten jeden Fund zu einer der Schauspielerinnen in einem Forum, überfluteten die Frauen, ihre Familie und Freunde mit Hasskommentaren und Nachrichten. Die Organisatoren der Kampagne gaben „moralische“ Beweggründe für ihr Handeln an. Zu diesem Zeitpunkt sprachen Medien und Datenschützer von FindFace schon als einem „Instrument der totalen Öffentlichkeit“.
Europa hat ein gespaltenes Verhältnis zu dieser Art von Technologie
Man könnte meinen, all das habe den Erfolgskurs von FindFace und NTechLabs beendet. Weit gefehlt: „Wir verhandeln auch mit großen sozialen Netzwerken außerhalb von Russland und mit mittelständischen Unternehmen in Europa“, sagt Kabakov.
Die Europäische Union hat ein gespaltenes Verhältnis zu dieser Art von Technologie. Datenschützer bekämpfen sie seit Jahren, es gibt Gerichtsurteile, die Hersteller von Gesichtserkennungs-Software in die Schranken weisen. Gerade erst hat Facebook seinen neuen Dienst Moments in Europa gelauncht, dabei aber auf das Feature zur automatischen Gesichtserkennung verzichtet. Das neue Datenschutzabkommen der EU setzt der Bildverarbeitung der sozialen Netzwerke große Hürden. Ein Skandal wie der um FindFace scheint in der EU voerst unwahrscheinlich, selbst wenn NTech Labs seine Technologie hierhin verkauft.
Wirft man aber einen Blick an die Außengrenzen Europas und dorthin, wo die Sicherheitsbehörden arbeiten, sieht das Verhältnis zur Facial Recognition schon ganz anders aus. Die EU plant, ihr grenzpolizeiliche Zentralsystem EURODAC zu erweitern. Es soll künftig auch Gesichtsbilder speichern und die Fähigkeit zur Gesichtserkennung erhalten. Neu aufgenommene Fotos von Personen können dann bei einer Kontrolle mit bereits vorhandenen Personendaten abgeglichen werden, um die Identität zu verifizieren. Möglich ist aber auch die Suche nach Gesichtern im schon vorhandenen Datenbestand.
Wir haben auch mit Firmen verhandelt, die im europäischen Grenzschutz involviert sind
Schon länger ist bekannt, dass intelligente Grenzen, sogenannte Smart Borders, integraler Bestandteil der Strategie der EU-Grenzschutzagentur FRONTEX sind. Das europäische Grenzüberwachungssystem trägt den Namen EUROSUR, es geht dabei nicht nur um internationale Zusammenarbeit, Grenzzäune und das Erfassen von Fingerabdrücken und das Speichern von Flugdaten. „Das System setzt auf Big Data, die Überwachung der Küsten durch Satelliten und auf Algorithmen zur Auswertung“, erklärte der Aktivist und Netzpolitik-Autor Matthias Monroy kürzlich auf der Transmediale 2016 in Berlin. Kommen jetzt auch noch die Speicherung und systematische Verarbeitung von Gesichtsdaten hinzu, wirken die Diskussionen wie die um die Abnahme von Fingerabdrücken an der Grenze dagegen fast schon kleinkariert.
Wer mit den Unternehmern Kabakov und Kukharenko spricht, bekommt schnell den Eindruck, dass gern Teil dieser Entwicklung wären. Die beiden haben schon in der Vergangenheit der Polizei in Moskau geholfen, Verbrechen aufzuklären. 150.000 Kameras arbeiten dort bereits mit der Software von NTechLabs, Zweifel an den russischen Sicherheitsbehörden haben die Gründer nicht. Sie argumentieren vor allem mit den Sicherheitsvorteilen durch ihr Produkt. Gerade in Europa sei die Gefahr durch Terrorismus doch gerade so hoch.
Am Schluss sagt Kabakov etwas, das aufhorchen lässt. Vergangene Woche sei er auf einer Sicherheitskonferenz in der EU gewesen. „Wir haben auch mit Firmen verhandelt, die im europäischen Grenzschutz involviert sind“, sagt er. Welche, möchte er aber nicht sagen. Sicherheitsbehörden lieben Anonymität, wenn es um sie selbst geht.
