Facebook-Nutzer in Berlin hatten am Montagabend kurz nach 20 Uhr eine Mitteilung in ihrem Feed: „Du bist scheinbar in der Nähe eines Anschlags in Berlin.“ Darunter zwei Buttons: „Ich bin in Sicherheit“ und „Ich bin nicht in dem Gebiet“.
Das Feature heißt Safety Check, in Deutschland kam er zum ersten Mal nach den Morden von München zum Einsatz. Eingeführt hat Facebook den Safety Check allerdings schon im Oktober 2014. Eine Mitarbeiterin in der Firmenzentrale in Kalifornien kam auf die Idee für die Funktion, nachdem der Taifun Haiyan die Philippinen getroffen hatte. Auf einem Facebook-Hackathon baute sie mit einem kleinen Team einen ersten Prototypen, der später auch Firmengründer Mark Zuckerberg überzeugte. Er richtete im Oktober 2014 eine ganze Abteilung namens Social Good ein. Facebook beschrieb die Funktion damals als „eine einfache und schnelle Art“, um in Notfallsituationen „zu sagen, dass du in Sicherheit bist und um nach anderen zu schauen“. (Einen ausführlichen Bericht über Safety Check von unseren US-Kollegen lest ihr hier)
Anfangs löste das Facebook-Team die Funktion noch von Hand aus: immer dann, wenn irgendwo auf der Welt eine Naturkatastrophe Menschen in Gefahr brachte und Tote zu erwarten waren. Bei Erdbeben in Afghanistan, Chile oder Nepal etwa, ebenso während Taifun Ruby auf den Philippinen.
Im November 2015 kam es dann zu einer entscheidenden Wende: Nach den Anschlägen von Paris aktivierte das Social Goods-Team Safety Check erstmals für ein katastrophales Ereignis, das nicht von der Natur verursacht worden war.
Wir machen keine selbstständige Einschätzung der Situation, sondern verlassen uns auf Medienquellen und Polizeiberichte
Die Entscheidung erwies sich als äußerst kontrovers. Warum war in Paris der Safety Check aktiviert worden, nicht aber in Beirut, wo am Tag davor ein Selbstmordattentäter 43 Menschen getötet hatte? Und warum nicht in Bagdad, wo am selben Tag 26 Menschen durch Bombenexplosionen starben? Was eine Katastrophe sei, so die Kritik, entscheide Facebook wohl vor allem anhand von räumlicher Nähe zur westlichen Welt, in der sich der Konzern selbst verorte: ein Doppelstandard.
Als Reaktion auf die Kritik hat Facebook eine neue Version von Safety Check entwickelt – eine, die nicht auf der Einschätzung eines Menschen basiert, der irgendwo auf einen Schalter drücken muss, um die Funktion zu aktivieren. Dieser neue Community Generated Safety Check ist erst seit Kurzem aktiv. Er wird automatisch ausgelöst, sobald eine kritische Menge an Nutzern ein Ereignis auf Facebook diskutiert – eine Art Trending Topics, nur eben in Bezug auf Katastrophen und Gewalttaten. Das Tool erkennt Schlüsselwörter in den Posts der Nutzer – etwa „earthquake“, „fire“ oder „shooting“ – und stellt fest, ob diese geballt aus einer Regionen kommen. Sollte dies der Fall sein, überprüft der Algorithmus Medienberichte aus dem Gebiet – und löst den Safety Check von selbst aus.
Das Tool spricht auch eine Emfpehlung aus, wie das Katastrophenereignis benannt werden sollte, etwa „Erdbeben“ oder „Schießerei“. Im Falle der Berliner Weihnachtsmarkt sei diese ursprüngliche Empfehlung „Anschlag“ gewesen, sagt Facebook-Sprecher Stefan Stojanow.
Schon der Safety Check nach dem Anschlag auf den Nachtclub Pulse in Orlando am 12. Juni 2016 wurde laut Facebook auf diese Weise ausgelöst, aber auch der nach einer Bombenexplosion in Bagdad eine Woche später. Dass ein Safety Check von Algorithmen ausgelöst worden ist, erkennt der Nutzer an einem Hinweis auf der entsprechenden Ereignis-Seite. So steht auf der Seite zu den mittlerweile „Vorfall am Weihnachtsmarkt in Berlin“ genannten Ereignissen vom Montagabend weit unten ein kleiner Hinweis: „Der Safety Check wurde basierend auf den Facebook-Aktivitäten von Personen im betroffenen Gebiet aktiviert.“
Wann das Feature ausgelöst wird, obliegt nun also nicht mehr ausschließlich dem Willen eines Teams in der Facebook-Zentrale. Allerdings machte der Montagabend ein weiteres Problem deutlich: Auch wenn der Safety Check von einen Algorithmus automatisch ausgelöst wird, braucht das Ereignis einen Namen.
Und dieser lautete auf Facebook kurz nach dem Ereignis eben „Der Anschlag von Berlin“. Das stand als Titel über der offiziellen Safety-Check-Seite für Berlin, als sei es Fakt – zu einem Zeitpunkt, als die Polizei noch vor Spekulationen warnte und darum bat, keine Gerüchte zu verbreiten. Wenig später, gegen 21 Uhr, korrigierte das Facebook-Team die Wortwahl, jetzt war von einer „Gewalttat“ die Rede. Auf der englischsprachigen Seite steht immer noch „The Violent Incident in Berlin“. Deutsche Facebook-Nutzer sehen hingegen den Titel „Der Vorfall am Weihnachtsmarkt in Berlin.“
Wie es zu diesen unterschiedlichen Varianten kam, erklärt Facebook-Sprecher Stojanow so: Das Safety Check-Tool gibt basierend auf den Posting der Nutzer eine Empfehlung, wie das katastrophale Ereignis zu bezeichnen ist. „Im Fall des Berliner Weihnachtsmarktes lautete diese Empfehlung: Anschlag“, sagt Stojanow. „Wir haben dann auf Basis der offiziellen Statements, die wir aus den Medien und vonseiten von Behörden bekommen haben, die Bezeichnung angepasst.“ Ab etwa 21 Uhr änderte das Team die Bezeichnung zu „Gewalttat“. „Das geschah nach ersten Berichten in den Medien“, erklärt Stojanow, „als davon auszugehen war, dass es sich um Absicht handelte und keinen Unfall.“ Etwas später, gegen 22 Uhr, war dann nur noch von einem „Vorfall“ die Rede.
Verantwortung kann nicht allein an einen Algorithmus delegiert werden. Es reicht nicht aus, sich auf die Weisheit der Daten zu verlassen
„Wir machen keine selbstständige Einschätzung der Situation, sondern verlassen uns auf Medienquellen und Polizeiberichte, wie es auch in der Seite des Safety Check als Hinweis steht“, sagt Stojanow. „In den Medien gab es widersprüchliche Berichte dazu. Zunächst hatte es gehießen, ein Polizeisprecher hätte bereits bestätigt, dass es sich im einen Anschlag handelt. Andere Medien sprachen auch von einem Anschlag.“ Die Mühe, Angaben selbst bei den Primärquellen nachzuprüfen, in diesem Fall der Berliner Polizei, macht sich Facebook jedoch nicht. „Das können wir in vielen Fällen gar nicht, etwa bei Naturkatastrophen, wir sind ja nicht vor Ort und müssen uns auf Medienquellen verlassen.“ Im Fall der Berliner Polizei hätte allerdings schon ein Blick auf deren Facebook-Seite ausgereicht. Dort bestätigte die Polizei, ebenso wie auf Twitter, nur das Ereignis selbst und die Zahl der Toten. Es war nirgends von einem Anschlag die Rede.
Der Safety Check hat am Montagabend in Berlin schnell funktioniert. Allerdings zeigt die Verwirrung um die Begrifflichkeiten einmal mehr: Facebook trägt eine Mitverantwortung für die Wortwahl, mit der Ereignisse beschrieben werden. Diese Verantwortung kann nicht allein an einen Algorithmus delegiert werden. Es reicht nicht aus, sich auf die Weisheit der Daten zu verlassen, denn Nutzer interessieren sich im Gegensatz zu den Medien nur selten für die publizistische Sorgfaltspflicht. Sie prüfen nicht erst nach, ob Fakten stimmen und ob unabhängige Quellen Gleichlautendes berichten. Sie posten Gerüchte und Spekulationen.
Es ist also egal, wie viele Nutzer auf Facebook zu einem frühen Zeitpunkt schon über einen „Anschlag“ diskutierten, diese Bezeichnung kann von Facebook nicht einfach übernommen werden. Wenn ein Feature, dessen erklärte Absicht es sein soll, Menschen in Zeiten der Krise zu beruhigen, stattdessen Millionen von Pushmitteilungen auf der ganzen Welt versendet, in denen von einem Anschlag die Rede ist, lange bevor dies bestätigt ist, dann dient das nicht der Beruhigung, sondern der Panikmache. Und das sollte auch Facebook beunruhigen.
