Facebook bestätigt: Riesige Fake-Kampagne kam aus Russland

t-online-Enthüllung bestätigt

Facebook: Riesiger Troll-Angriff kam aus Russland

Monatelang wurde ein enormer Aufwand betrieben, um Deutsche prorussisch zu stimmen: Facebook bestätigt nun t-online-Recherchen um ein riesiges Fake-Netzwerk.

Einen Monat nach der Enthüllung von t-online bestätigen Facebook-Experten: Putins Troll-Armee hat Deutschland angegriffen. "Es war die größte und komplexeste Operation russischen Ursprungs, die wir seit Beginn des Krieges in der Ukraine gestoppt haben." Das teilt Facebook in seinem heute vorgelegten Bericht zu globalen Bedrohungen mit.

Am sichtbarsten waren weitläufig verbreitete, nachgebaute Seiten bekannter Medienmarken mit prorussischen Fake-Artikeln. Doch sie waren nur Teil der von Russland gesteuerten Kampagne, um Stimmung gegen die Ukraine, gegen Sanktionen und für Russland zu machen. Der Facebook-Mutterkonzern widmet die aktuelle Ausgabe seiner Bedrohungsanalysen zum größten Teil diesem Fall. Das haben die Analysen ergeben:

Der Umfang im Netz: Facebook selbst stand im Zentrum, um insgesamt mehr als 60 gefälschte Webseiten im Aussehen bekannter Medien zu verbreiten. Die Adressen dieser Seiten waren ähnlich wie die der Medien, die Artikel sahen identisch aus. Doch die Fake-Accounts der Kampagne agierten auch auf Instagram, YouTube, Telegram, Twitter sowie auf den Petitionsplattformen "Change.org" and "Avaaz.com". Denkfabrik Institute for Strategic Dialogue (ISD) steuerte zu den Recherchen von t-online bei, dass es auch auf Twitter Tausende Postings gab.

Die Botschaften: Im Prinzip liefen die Beiträge immer auf das Gleiche hinaus, sagt Ben Nimmo, beim Mutterkonzern Meta als Leiter der globalen Bedrohungsanalyse tätig: "Ukraine schlecht, Sanktionen schlecht, Russland gut." Die gefälschten Websites enthielten Videos und Artikel, in denen die ukrainische Regierung und die ukrainischen Streitkräfte als kriminell und korrupt, Russland als Opfer einer westlichen Aggression und die westlichen Sanktionen als gefährlich für Europa und seine Bürger dargestellt wurden. Unter Beiträgen verfassten Fake-Accounts dann auch teilweise Fake-Kommentare, um zu suggerieren, dass das die vorherrschende Meinung sei. Meta spricht von einem "Fake-Engagement-Karussell": Mehrere Ebenen von Fakes verstärkten sich gegenseitig und schufen ihre eigene Echokammer.

Die Accounts: Um die Botschaften zu verbreiten, wurden massenhaft Fake-Accounts und Fake-Seiten eingesetzt, die sich gegenseitig teilten. Zum Teil waren das Accounts, die von Künstlicher Intelligenz erzeugte Profilbilder hatten und alle Netflix als Arbeitgeber angegeben hatten – t-online nannte sie die "Netflix-Frauen". Metas Zahlen: 1.633 Facebook-Profile und 703 Facebook-Seiten wurden als Teil des Netzwerks gelöscht. Die Seiten hatten zunächst noch plausibel erscheinende Namen wie "Offene Meinung" und dazu Profilbilder etwa mit dem Logo der "Frankfurter Allgemeinen Zeitung" (FAZ). Später ergaben Namen keinen Sinn, sie verwendeten nur noch das Logo. Am Fließband war nachgelegt worden – mit wenig Mühe, weil auch immer schneller gelöscht wurde.

Die Aufdeckung: Meta erklärt, nach dem Bericht von t-online und einem kurz darauf erschienenen ZDF-Beitrag vom 30. August in die Recherche eingestiegen zu sein – das stimmt nicht ganz: t-online hatte Facebook schon am 18. August mit einer E-Mail mit vielen Indizien kontaktiert. Meta erklärte, das ernst zu nehmen, lieferte von sich aus aber bis jetzt keine Antworten. Dafür wurden umgehend gemeldete Accounts gelöscht. Meta bekam für seine Recherchen auch noch Zulieferung des Digital Forensics Research Lab und stimmte sich mit anderen Netzwerken ab. An diesem Dienstag wurde die Analyse vorgelegt.

Die Hintermänner: Meta ist sich anhand verschiedener Anzeichen sicher, dass die Kampagne von Russland aus lief. Bislang reichen die Beweise aber nicht aus, um sie konkreten Akteuren wie der "Internet Research Agency" und deren Ablegern zuzuordnen, der berüchtigten "Trollfabrik". Es haben sich bisher keine eindeutigen Verbindungen zu früheren Operationen finden lassen.

Die Technik: Metas Team war beeindruckt vom Aufwand, mit dem die zahlreichen Seiten und Plattformen eingebunden wurden. Während die Fake-Artikel mit erheblichem Aufwand erstellt wurden, war das bei der Verbreitung aber nicht der Fall. Da sei es darum gegangen, die Fake-Seiten so schnell wie möglich und so weit wie möglich zu verbreiten, in der Hoffnung, dass wenigstens einige echte Menschen die gefälschten Websites sehen, bevor sie enttarnt würden. Die Macher waren schlampig darin, Fake-Accounts authentisch erscheinen zu lassen. Um die Beiträge an Nutzer zu bringen, wurden sie auch beworben und als gesponserte Beiträge angezeigt. Nach Meta-Angaben flossen 105.000 US-Dollar, überwiegend in Dollar und Euro gezahlt, in solche Werbung. Die Zielgruppe wurde dabei offenbar nicht sonderlich gezielt gewählt.

Die Anfänge: Accounts waren bereits im Frühjahr angelegt worden. Die erste sichtbare Aktivität ist nach Metas Recherchen aber eine Petition am 27. Mai. t-online hatte diese Petition auch in den Facebook-Beiträgen von "Netflix-Frauen" finden können. Es ging um die Forderung, Deutschland solle die "inakzeptable Großzügigkeit" gegenüber ukrainischen Flüchtlingen beenden. Richtig absurd war eine Petition, Deutschland solle nicht länger zulassen, dass aus der Ukraine geflüchtete Frauen deutsche Familien zerstören. Die Petitionen warben für einen Telegram-Kanal namens "News Freies Deutschland" und wurden von Accounts mit diesem Namen auf verschiedenen Petitionsplattformen erstellt. Obwohl sie auch auf Facebook gepostet wurden, war die Zahl der Unterzeichner lächerlich gering.

Der Verlauf: Nachdem die Fake-Accounts sich mit Memes und Videos warmgelaufen hatten, änderte sich im Juni die Taktik. Jetzt wurden die Fake-Medienseiten angelegt – zunächst für Deutschland und weitere europäische Länder, es gab Kopien etwa des "Guardian" oder der italienischen Nachrichtenagentur Ansa. Ab Mitte Juli ging es den Machern bei Fake-Seiten nur noch um Deutschland: Meta kommt auf 40 deutschsprachige Adressen mit Seiten, die deutsche Medien nachahmten: t-online, "Spiegel", "Bild", aber etwa auch das "Neue Deutschland". Für Publikum in anderen Ländern gab es weiterhin eine eigene "Nachrichtenseite" RRN (Reliable Recent News), die seit Anfang Juni unter "rrn.world" in Englisch, Französisch, Deutsch, Spanisch, Italienisch, Chinesisch und Arabisch betrieben wurde. Bei dem Erstellen der Artikel auf den Fake-Seiten und auf der neuen "eigenen" Nachrichtenseite gab es Austausch. Bemerkenswert: Artikel von "rrn.world" wurden auch von russischen Botschaften in Europa und Asien verbreitet.

Der Stand aktuell: Nach der t-online-Enthüllung mussten sich die Macher offenbar neu sortieren: Es wurden tagelang keine neuen Seiten mehr angelegt – seit dem 6. September aber wieder 12, so Facebook. "rrn.world" gibt es weiterhin, wenn auch ohne deutsche Unterseite. Und es gibt auch weiterhin Fake-Beiträge, die über Fake-Accounts verbreitet werden und zum Teil Wirkung zeigen. So postete ein Telegram-Kanal "Journalisten Freikorps" ein Video, das angeblich eine Sicherstellung von Kriegswaffen aus der Ukraine in Bremen zeigt. Dazu wurde eine Tonspur eines echten Polizeieinsatzes in Thüringen über Videoaufnahmen gelegt. Es ist ein Fake, der aber Kreise zog. Das lag auch daran, dass Russlands stellvertretender UN-Botschafter Dmitry Polyanskiy ihn geteilt hatte. Der Telegram-Account mit rund 6.000 Abonnenten wird weiter betrieben, es gibt auch kleinere Accounts, die dem Netzwerk zugerechnet werden. Meta teilt seine Erkenntnisse und Links mit Forschern, damit noch mehr Informationen zusammenkommen.

Der Effekt: Gemessen an dem Aufwand ist der messbare Effekt gering, erklärt Facebook. Die 703 Facebook-Seiten hätten zusammen nur rund 4.000 Follower anlocken können. Meta erklärt: "Größe ist nicht immer ein Zeichen für Effektivität – auch sieben Monate nach Beginn des Krieges hatten diese Netzwerke offenbar Mühe, organische Zugkraft zu entwickeln." Die Macher mussten also mehr oder weniger alles selbst machen und fanden wenig Unterstützung dadurch, dass Nutzer selbst die Inhalte weitergaben. Wie viele Nutzer die Beiträge tatsächlich zu sehen bekommen haben, kann Meta nicht sagen. Und nicht messen lässt sich, bei wem sie dann vielleicht Zweifel gesät oder bestehende Vorbehalte verstärkt haben.