Forscher von der Univesity of Toronto haben eine Technik des Deep Learnings entwickelt, die sie Adversarial Training nennen: Dabei treten zwei Algorithmen gegeneinander an. In ihrem aktuellen Experiment haben sie eine der beiden KIs darauf angesetzt, Gesichter zu erkennen – ähnlich wie es auch Facebook in den USA mit Fotos von den eigenen Freunden macht. Die andere KI bekam jedoch die Aufgabe, eben dies durch subtile Bildmanipulationen zu stören.
Das Ergebnis des Experiments ist ein Filter, der ähnlich leicht wie bei Instagram über Bilder gelegt werden kann. Wird er verwendet, dann können derzeitige Fotoanalyse-KIs die Personen nicht mehr erkennen. Während für Menschen kaum eine Veränderung des Bildes wahrnehmbar ist, denn es werden nur einige wenige, aber eben entscheidende Pixel verändert.
Avishek Bose, einer der Entwickler des Systems, sagt: „Die störende KI kann das angreifen, wonach das Neuralnetz für Gesichtserkennung sucht. Wenn diese zum Beispiel auf den Augenwinkel achtet, wird dieser etwas kaschiert. Das erschafft subtile Störungen im Foto, die aber groß genug sind, um das System in die Irre zu führen.“
Der Störfilter macht seine Aufgabe gut: Im Test konnte die Erkennungsrate der KI von fast 100 Prozent auf 0,5 Prozent gesenkt werden. Ebenfalls verhindert werden: eine bildbasierte Suche, die Identifikation von Bildinhalten und eine Einschätzungen zu Emotionen oder Ethnizität. Bose und sein Kollege Parham Aarabi hoffen, ihr System demnächst in Form einer App der Öffentlichkeit zugänglich zu machen. So soll jeder die Möglichkeit haben, die eigene Privatsphäre vor Algorithmen zu schützen.
