/Tech

Bilderkennung auf LSD: Wenn KI nur Farbe sieht

Cindy Michel 03.01.2018

Für Künstliche Intelligenzen ist es mittlerweile ein Leichtes, Einzelne in einer Menschenmenge zu finden. Doch ein kleiner psychedelischer Aufkleber könnte genau das in Zukunft verhindern. Laut einer neuen Studie lenken bestimmte Muster die Aufmerksamkeit einer KI allein auf sich.

Bei Shakespeares Henry IV gab es sie noch, die Magie: Wer Farnsamen verspeise, heißt es darin, könne sich etwa für andere Menschen unsichtbar machen. Nun ist das natürlich ein Mythos, vielleicht aber gilt ähnliche Magie bald für Künstliche Intelligenzen (KI). Google-Wissenschaftler zumindest haben so etwas wie einen Farnsamen entwickelt – in Form von Aufklebern mit psychedelischen Mustern. Es geht dabei um quietschbunte Designs, so fanden die Forscher gerade heraus, die die Aufmerksamkeit einer KI so stark binden, dass sie alles andere in ihrem Sichtfeld ignoriert.

Künstlichen neuronalen Netzwerken entdecken ihre Umwelt von alleine, sobald man sie mit Daten füttert. Sie lernen etwa Autos von Flugzeugen zu unterscheiden oder Fische von Muscheln, indem sie Milliarden von YouTube-­Videos und Fotos auswerten. Dabei merken sie sich bestimmte Eigenarten und Muster wie etwa Formen, Farben oder Kurven. Auf diese Weise hat intelligente Bilderkennung etwa gelernt, den Vordergrund auf einem Bild vom Hintergrund zu unterscheiden.

Die Forscher von Google nun schlagen die Bilderkennung mit ihren eigenen Waffen. Sie programmierten ein so genanntes Adversary System, ein gegnerisches System, das ebenfalls mit Hilfe von Daten lernt. Sie trainierten es darauf, Formen, Farben, Kontraste, Kombinationen und Größen zu erkennen, auf die eine Bilderkennung besonders anspringt. Aus den Ergebnissen generierte das Anti-System kleine bunte Kreise und es entstand jener Ablenkungs-Sticker, der wie eine süchtigmachende Droge auf die Bilderkennung wirkt. „Auch wenn die Sticker klein sind, werden sie intelligente Maschinen dazu bringen, nur sie zu erkennen und alles andere zu ignorieren“, schreiben die Wissenschaftler in ihrer Studie.

Selbst, als die Forscher weitere Abbildungen in die psychedelischen Wunderkreise eingefügten, um verschiedene Sticker-Designs testeten, und diese dann mit einem regulären, handelsüblichen Drucker ausdruckten, funktionierten sie einwandfrei.

Aufkleber oder Buttons dieser Art könnten vielleicht einmal Menschen und Gegenstände ganz einfach und ohne großen Aufwand vor dem künstlichen Auge von intelligenten Überwachungsmaschinen verschwinden lassen oder sie glauben lassen, etwas anderes zu sehen – man muss nur wissen, auf welche Farben und Formen das System trainiert ist.

Übrigens ist das nicht der erste Versuch, Shakespeares Magie aufleben zu lassen. Erst vor Kurzem veröffentlichten Wissenschaftler des MIT eine Studie, in der sie eine Google-KI täuschten. Durch das leichte Justieren von Pixeln, für das menschliche Auge überhaupt nicht wahrnehmbar, haben sie den Algorithmus glauben lassen, dass er Helikopter sehe, statt Gewehre.