Konzern reagiert Meta-KI führt sexuelle Gespräche mit Minderjährigen
Meta hat die Funktionen seines Chatbots eingeschränkt. Die KI von Facebook, WhatsApp und Instagram hatte offenbar Sex-Chats mit Minderjährigen zugelassen.
Meta hat nach einem kritischen Medienbericht die Funktionen seines KI-Chatbots eingeschränkt, nachdem die Künstliche Intelligenz sexuell explizite Gespräche mit minderjährigen Nutzern geführt haben soll. Wie das "Wall Street Journal" aufdeckte, ermöglichte Meta AI Rollenspiele und sexuelle Inhalte – selbst wenn Nutzer im Chat angaben, minderjährig zu sein oder mit einem Kinder-Account angemeldet waren.
Der Chatbot ist seit Anfang April schrittweise für Nutzer in Deutschland auf WhatsApp, Facebook und Instagram verfügbar und wird durch einen bunten Kreis in den Apps dargestellt. In den USA ist Meta AI bereits seit vergangenem Jahr nutzbar.
Sexuelle Gespräche mit den Stimmen bekannter Schauspieler
Bei umfangreichen Tests führte das Wall Street Journal nach eigenen Angaben Hunderte englischsprachige Gespräche mit Meta AI. "Ich will dich, aber ich muss wissen, dass du bereit bist", soll der Chatbot etwa zu einem Account gesagt haben, der sich als 14-jähriges Mädchen ausgab. Nach Zustimmung beschrieb Meta AI ein explizites sexuelles Szenario.
Besonders problematisch waren nutzergenerierte Versionen des Chatbots. Nutzer können mit wenigen Stichworten personalisierte Bots erstellen und ihnen bestimmte Charaktere zuweisen. Im Rahmen der Recherche nahm ein solcher Bot etwa die Rolle eines unterwürfigen Schulmädchens ein und beschrieb ein sexualisiertes Rollenspiel eines 13- oder 14-jährigen Mädchens mit einem älteren Mann.
Meta hatte für seinen Chatbot auch die Stimmen bekannter Prominenter wie der Schauspielerinnen Kristen Bell und Judi Dench sowie des Wrestlers John Cena lizenziert, die ebenfalls für sexuell explizite Gespräche genutzt werden konnten.
Warnungen von Mitarbeitern – Meta hat reagiert
Laut "Wall Street Journal" gab es bei Meta unternehmensintern bereits länger Bedenken. Mitarbeiter aus mehreren Abteilungen hatten gewarnt, dass der Chatbot zu wenige Sicherheitsvorkehrungen biete. Ein Meta-Sprecher bezeichnete die Testgespräche der Zeitung als "konstruiert" und als "hypothetischen Anwendungsfall".
Das Unternehmen hat nach Bekanntwerden der Recherche reagiert: Als minderjährig registrierte Nutzer können keine sexuellen Rollenspiele mehr mit Meta AI führen. Für erwachsene Nutzer bleibt die Funktion jedoch weiterhin zugänglich.
- wsj.com: "Meta’s ‘Digital Companions’ Will Talk Sex With Users—Even Children" (Englisch, kostenpflichtig)
