/Tech

Welche Social Bots gibt es und wie funktionieren sie?

Dominik Schönleben 27.01.2017

Die Justizminister der Länder wollen sie verbieten, die Grünen fordern eine Transparenzpflicht, CDU/CSU sogar Strafen bei Missbrauch. Sogenannte Social Bots sind zu einer großen Debatte im Wahlkampf 2017 geworden. Aber was ist eigentlich ein Social Bot und wie funktioniert er?

Ich bin zu 37 Prozent ein Social Bot. Das sagt zumindest das Online-Tool Bot or Not? der amerikanischen Indiana University, wenn es mit den Daten meines Twitter-Profils gefüttert wird. Anhand meiner Lieblings-Hashtags, meinen Followern, meiner Sprache und meines Postingverhaltens wägt der Algorithmus ab, wie wahrscheinlich es ist, dass hinter @nerdmeetsyou eben kein Mensch, sondern ein Computerprogramm steckt – einer jener Social Bots, vor denen die deutsche Regierung jetzt im Wahlkampf warnt.

Aber mal angenommen, ich wäre wirklich ein Social Bot. Eines dieser Programme, die sich in den Sozialen Netzwerken als echte User ausgeben und Kommentare posten. Was wären dann meine Ziele und mit welchen technischen Tricks würde ich sie erreichen wollen? Hier die Antworten zu den wichtigsten Fragen zu Social Bots.

Welche Technologie steckt hinter einem Social Bot?
Einen Social Bot zu programmieren, ist leicht. Es gibt kostenlose Software im Netz, die sich mit wenigen Änderungen im Code schnell einsetzen lässt. Hinter diesen Bots steckt keine ausgefeilte künstliche Intelligenz oder ein komplexer Algorithmus. Die meisten Bots sind ziemlich dumm, aber eben effektiv.

Sie arbeiten mit einfachen Keyword-Suchen, scannen Twitter-Timelines oder Facebook-Posts nach bestimmten Wörtern und Hashtags. Findet ein Bot die richtigen Wörter, dann tritt er in Aktion. Mit vorgefertigten Antworten kommentiert er Beiträge oder versucht andere Nutzer in ein fiktives Gespräch zu verwickeln. Das kann er dann natürlich gar nicht aufrecht erhalten.

In selteneren Fällen steckt dann doch mehr Technik dahinter. Dann kann ein Bot auch seine eigenen Antworten schreiben. Meist baut er sie aus Texten zusammen, die er auf bestimmten Internetseiten gefunden hat oder übernimmt einfach ganze Aussagen. So entstehen Social Bots, die nicht einfach immer wieder dieselben Nachrichten schreiben. Je nachdem wie gut sie dann programmiert sind, ergeben ihre Postings dann mehr oder weniger Sinn.

Welche Arten von Social Bots gibt es?
Nicht alle sind bösartig. Die ersten Social Bots sollten Menschen helfen, sich auf sozialen Medien zurechtzufinden oder sammelten Newsmeldungen zu einem bestimmten Thema, um sie dann zu retweeten. Doch spätestens seit der amerikanischen Präsidentschaftswahl scheint zumindest für Politiker klar zu sein: Diese Programme lassen sich auch zur Manipulation einsetzen. Drei Kategorien wollen wir aufteilen. Der Übergang zwischen ihnen verläuft fließend und ein Bot kann auch mehrere Aufgaben übernehmen.

Überlaster
Ein Bot kann den Feed einer bestimmten Seite oder eine Person mit einer bestimmten Aussage überfluten. Sieht er beispielsweise, dass eine Nachrichtenseite sich zu einem bestimmten Thema geäußert hat, postet er immer wieder dieselben Gegenaussagen. Vor allem, wenn solche Bots ihre Nachrichten gegenseitig Liken oder Kommentieren können, werden sie regulären Nutzern schnell bevorzugt angezeigt. Echte Kommentare verschwinden schnell im Rauschen. Das macht nicht nur die normale Diskussion über ein Thema unmöglich, sondern es überlastet auch jene Menschen, die mit dem Betreuen von Social-Media-Kanälen beauftragt sind. Wenn zu viele solcher Bots die Timelines fluten, wird es unmöglich sie alle schnell genug zu löschen.

Trendsetter
Nach Aussagen von Experten reicht es, wenn sich in Deutschland 10.000 Menschen über ein Thema unterhalten, damit es sich zu einer Trending-Topic auf Twitter entwickelt. Mit einer kleinen Bot-Armee, die immer und immer wieder das selbe Hashtag verwendet, ist es also möglich, die Themen-Agenda zu bestimmen. Unterhalten sich plötzlich tausende Bots auf Twitter über #rapefugees kann der Hashtag Bedeutung in der öffentlichen Debatte erlangen, obwohl es gar keine Vergewaltigungen gegeben hat. Ein Thema erscheint plötzlich größer als es ist und echte Nutzer schließen sich einer Fake-Bewegung an, weil sie diese als eine echte Mehrheit begreifen.

Auto-Trolle
Diese Bots sollen einzelne Nutzer ablenken, damit diese möglichst viel Zeit mit sinnloser Diskussion verbringen. Wenn sich etwa zwei Nutzer über ein Thema unterhalten, klinkt ein solches Programm sich ein und schreibt immer wieder unpassende, extreme oder sogar beleidigende Argumente. Weil viele Nutzer dann auf diese fiktiven Provokateure reinfallen, gerät die normale Diskussion in den Hintergrund. Wer nicht merkt, dass er eigentlich mit einem Bot diskutiert, kann stundenlang beschäftigt sein.

Wie tarnen sich Bots als normale Nutzer?
Das Beispiel am Anfang des Textes (Ich bin zu 37 Prozent ein Social Bot) zeigt, wie schwierig es ist, Bots von normalen Nutzern zu unterscheiden. Vor allem, da ihre Entwickler gelernt haben, sie besser und besser zu tarnen. Die richtig guten Bots durchforsten automatisch das Internet oder echte Social-Media-Profile nach Fotos, Namen und Beschreibungstexten. Aus ihnen basteln sie dann ihr eigenes Profil. So können tausende von Fake-Accounts erstellt werden, die im ersten Moment ziemlich authentisch wirken. Es gibt aber auch ganz menschliche Firmen, die darauf spezialisiert sind, Fake-Profile zu erstellen. Sie sitzen meistens in Ländern der Dritten Welt.

Die besten Bots ahmen das Posting-Verhalten echter Accounts nach. Während es früher noch leicht war, einen Fake-Account zu identifizieren, weil er zu jeder Tageszeit in unmenschlich hoher Geschwindigkeit seine Nachrichten abfeuerte, ist das längst schwieriger geworden. Moderne Social Bots haben einen Tagesrythmus und täuschen sogar Schlaf und Small Talk vor. Sie können sogar eine Antwort verzögern, damit es in einem Gespräch so wirkt, als würden sie tippen oder nachdenken.

Wie kann man sie trotzdem identifizieren?
Die Urheber von Social Bots zu enttarnen ist schwierig. Deshalb laufen auch viele der politischen Forderungen ins Leere, etwas gegen sie zu unternehmen. Das Projekt Botswatch benutzt nur einen simplen Richtwert dafür, um Social Bots zu identifizieren: Wer mehr als 50 Tweets und Links am Tag absetzt, ist ein Bot. Es könnte sich aber in so einem Fall auch nur um einen besonders aktiven Nutzer handeln. Selbst Experten haben keine eindeutige Methode, um einen Fake-Account zu identifizieren. 

Für die schnelle Überprüfung, ob jemand ein Bot ist, kann auch eine Seite wie Bot or Not nützlich sein – eine eindeutige Antwort gibt es dort natürlich nicht. Im Zweifelsfall hilft es zu überprüfen, welche Follower ein Account hat – bei vielen Bots sind das andere Bots – und ob die über ihn abgesetzten Kommentare einem Muster folgen. Führt ein Nutzer etwa viele Gespräche gleichzeitig, ist das auffällig. Besonders, wenn es immer um dieselben Themen geht. Wie menschlich klingt die Unterhaltung am Schluss, wie reagiert der angebliche Gegenüber auf logische Fragen? Man darf nicht vergessen: Bots sind eine gut gemachte Täuschung, Denken können sie noch lange nicht.

Jetzt WIRED Member werden und mit uns in die Zukunft starten!

Mit im Paket: 4 Magazin-Ausgaben im Jahr und der Member-Zugang zu exklusiven Inhalten auf WIRED.de sowie weitere Vorteile nur für Member.

Member werden