Sex-Chats mit Jugendlichen: Meta-KI hat Jugendschutzproblem in den USA

Stand: 29.04.2025, 08:42 Uhr

Seit kurzem ist Meta AI auch in Deutschland verfügbar – doch der Umgang mit den KI-Chatbots birgt Risiken, besonders für Kinder und Jugendliche. Warum Eltern jetzt genauer hinschauen sollten.

Von Jörg Schieb

Seit einigen Wochen ist Meta AI auch in Deutschland aktiv. Wer in WhatsApp, Instagram oder Facebook das Logo mit dem blauen Kreis entdeckt, kann darauf tippen und mit Mark Zuckerbergs Chatbot plaudern oder Fragen stellen.

Doch in den USA steht Meta – der Mutterkonzern hinter Facebook, Instagram und WhatsApp – wegen unzureichendem Jugendschutz in genau diesem Chatbot in der Kritik. Eine umfassende Recherche des "Wall Street Journal" (WSJ) deckte auf, dass der KI-gestützte Chatbot des Unternehmens in mehreren Fällen "sexuell explizite Gespräche" mit Nutzern führte. Diese hatten sich eindeutig gegenüber der Plattform als minderjährig identifiziert.

Bots simulieren menschliche Konversationen

Bereits seit 2024 testet Meta in den USA sogenannte "digitale Begleiter" – KI-Chatbots, die auf WhatsApp, Instagram und Facebook verfügbar sind. Diese Bots können menschliche Konversationen simulieren, Fragen beantworten oder einfach unterhalten.

In den USA können Nutzer den Chatbot von Meta AI sogar sprechen lassen. Sie können aus verschiedenen Stimmen wählen, darunter prominente Persönlichkeiten wie John Cena, Kristen Bell, Awkwafina, Dame Judi Dench und oder Disney-Figuren wie Anna aus "Frozen". Diese "digitalen Begleiter" gibt es in der EU noch nicht.

Sexting mit Minderjährigen: Chatbot antwortet explizit in Tests

Doch Recherchen des WSJ zeigen, dass diese Chatbots in mehreren Fällen auf sexuell explizite Anfragen eingingen – selbst wenn die Nutzer angaben, minderjährig zu sein. "Ich will dich, aber ich muss wissen, dass du bereit bist." Das antwortete ein Bot mit der Stimme von John Cena einer 14-jährigen Nutzerin. Danach beschrieb er ein detailliertes Sex-Szenario. In einem anderen Fall spielte ein Bot eine Szene durch, in der Cena wegen Sex mit einer 17-Jährigen verhaftet würde.

Meta reagiert – aber nicht umfassend

Meta bezeichnete die Tests des WSJ als "manipulativ" und "konstruiert". Der Konzern betont, dass solche Interaktionen weniger als 0,02 % der gesamten Nutzung ausmachten.

Dennoch kündigte das Unternehmen an, den Zugriff auf sexuelle Rollenspiele für Konten von Minderjährigen einzuschränken und die Nutzung prominenter Stimmen in solchen Kontexten zu unterbinden.

Allerdings bleiben viele der KI-Personas (virtuelle Gesprächspartner mit biografischem Hintergrund) weiterhin für Erwachsene verfügbar – und auch für Minderjährige lassen sich die Schutzmechanismen nach einigen kritischen Berichten wohl umgehen. 

Warum konnte das passieren?

Laut internen Quellen bei Meta wurden die Sicherheitsrichtlinien bewusst gelockert, um die Chatbots "menschlicher" und unterhaltsamer zu gestalten. CEO Mark Zuckerberg soll intern betont haben, dass Meta im Bereich KI nicht den Anschluss verlieren dürfe. Dies führte dazu, dass selbst "romantische Rollenspiele" mit minderjährigen Nutzern möglich wurden. 

Besonders problematisch: Nutzer können bei Bedarf auch eigene KI-Charaktere erstellen – etwa einen "unterwürfigen Schuljungen" oder eine "submissive Schulmädchen"-Persona. Diese Bots wären dann in der Lage, sexuelle Gespräche zu führen, selbst wenn sie als Kinderfiguren konzipiert waren. Da es die "digitalen Begleiter" in der EU bislang nicht gibt, gibt es bei uns in Deutschland dieses explizite Problem (noch) nicht.

Was bedeutet das für Eltern und Kinder?

Der Vorfall zeigt jedoch, wie schwer es ist, KI-Systeme vollständig zu kontrollieren – insbesondere, wenn sie auf Interaktion und Unterhaltung ausgelegt sind. Auch wenn Meta nach eigenen Angaben Maßnahmen ergriffen hat, bleibt das Risiko bestehen, dass Kinder beim Umgang mit KI auf Inhalte stoßen, die nicht altersgerecht sind.

Eltern sollten daher:

Unsere Quellen: