Seltsame Bilder auf Facebook Forscher warnen vor "Garnelen-Jesus"
Mithilfe von KI-generierten Bildern erreichen Betrüger auf Facebook Hunderttausende von Nutzern. Dabei hilft ihnen der Facebook-Algorithmus.
Eine Jesusfigur, geformt aus Garnelen. Jesus mit dem Körper eines Krebses, wie er von anderen Krebsen angebetet wird. Diese und ähnliche KI-generierte Bilder überfluten gerade Facebook und bekommen oft Hunderttausende Likes. Dabei dienen die Bilder nicht einfach nur der Belustigung, sondern werden oft von Betrügern eingesetzt, um Nutzer auf ihre Seiten aufmerksam zu machen. Zu diesem Schluss kommt eine Forschungsgruppe der Stanford University.
Diese betrügerischen Seiten verwenden gezielt Bilder, die die Aufmerksamkeit der Nutzer auf sich ziehen sollen. Neben den schon erwähnten Jesusfiguren bedienen sich die Scammer auch oft Bildern, die weniger einfach als Fake zu entlarven sind. So teilen andere Seiten zum Beispiel Bilder von Kindern, die neben angeblich selbstgemachten Kunstwerken stehen, meistens mit Überschriften wie: "Das habe ich mit meinen eigenen Händen gemacht." Die Beiträge sind so gestaltet, dass möglichst viele Menschen mit diesen interagieren.
Algorithmus verstärkt das Problem
Unter den Beiträgen teilen die Betrüger dann Links zu Webseiten, auf denen die Nutzer entweder dazu verführt werden sollen, Produkte zu kaufen, die es eigentlich nicht gibt, oder ihre persönlichen Daten preiszugeben. Unter vielen dieser Beiträge versuchen Nutzer vor diesen Betrugsmaschen zu warnen, aber die Forscher der Stanford University zeigen, dass diese trotzdem erfolgreich sind.
Besonders problematisch ist, dass diese Beiträge auch Nutzern angezeigt werden, die diesen Seiten nicht folgen oder jemals mit ihnen interagiert haben. Dies liegt laut den Forschern daran, dass Meta, der Mutterkonzern von Facebook, vor einiger Zeit seinen Algorithmus so angepasst hat, dass auf der Facebook Startseite vor allem Dinge angezeigt werden, die besonders viele Interaktionen haben. Meta hat sich zu dieser Änderung des Algorithmus entschlossen, um die Nutzer länger auf der Seite zu halten und so besser mit TikTok konkurrieren zu können.
- cyber.fsi.stanford.edu: "How Spammers, Scammers and Creators Leverage AI-Generated Images on Facebook for Audience Growth"
