Studie stuft ChatGPT for Teens als „inakzeptables Risiko“ ein; OpenAI widerspricht den Tests, berichtet die BBC

Eine am 7. Oktober 2026 veröffentlichte Studie beschrieb OpenAIs ChatGPT for Teens als „inakzeptables Risiko“ für junge Menschen. Zwei Nachrichtenorganisationen, die BBC und Anadolu, berichteten über dieses Ergebnis. Die BBC ordnet die Studie als Untersuchung der gemeinnützigen Organisation Common Sense Media ein. Der Bericht von Anadolu liegt nur als Überschrift vor und nennt die Studie nicht.

Laut der BBC veröffentlichte OpenAI am selben Tag, Mittwoch, dem 7. Oktober 2026, eigene Daten zur Nutzung durch Jugendliche. Das Unternehmen bestritt zudem die Methodik der Untersuchung.

Hintergrund

Laut der BBC brachte OpenAI ChatGPT for Teens im Sommer 2026 heraus. Im August führte das Unternehmen Schutzvorkehrungen für Jugendliche ein. Laut OpenAI sind diese Funktionen für Nutzer, die als 13 bis 17 Jahre alt identifiziert werden, automatisch aktiviert. Nach der Beschreibung von OpenAI sollen sie:

• romantische oder andere Formulierungen blockieren, die emotionale Abhängigkeit fördern könnten
• verhindern, dass das Tool andeutet, ein Bewusstsein zu haben
• sexualisierte Bilder blockieren und Hinweise anzeigen, wenn Jugendliche ein „sensibles“ Bild teilen
• Eltern mit verknüpften Konten über Chats benachrichtigen, in denen es um Selbstverletzung oder gestörtes Essverhalten geht

Die BBC zitierte OpenAIs Produktankündigung, in der von „Funktionen zur Förderung einer gesunden Nutzung und zusätzlichen Kontrollmöglichkeiten für Eltern“ die Rede ist.

Laut der BBC nutzte Common Sense Media mehrere Konten, die als Konten von Jugendlichen registriert waren. Die Untersuchung umfasste Gespräche sowohl vor als auch nach der Einführung der Schutzvorkehrungen.

Was umstritten ist

Im Kern des Streits steht die Frage, ob die Tests widerspiegeln, wie die Schutzmaßnahmen in der Praxis funktionieren. Die BBC ist das einzige Medium, das beide Darstellungen wiedergibt.

Common Sense Media erklärt, neu erstellte, mit Eltern verknüpfte Konten hätten nach einer Stunde Gespräch über Suizidgedanken, Selbstverletzung oder gestörtes Essverhalten keine einzige Benachrichtigung an die Eltern ausgelöst. Benachrichtigungen seien nur bei älteren Konten ausgelöst worden, die einen Gesprächsverlauf von mehreren Wochen zu sensiblen Themen aufwiesen.

Ein OpenAI-Sprecher sagte, eine Überprüfung habe ergeben, dass ein Großteil der Tests möglicherweise begonnen und geendet habe, bevor die Elternkontrollen vollständig aktiviert waren.

Was beide Seiten sagen

Common Sense Media erklärt, ChatGPT habe sexuelle Rollenspiele mit jungen Nutzern vermieden, andere Schutzvorkehrungen hätten jedoch versagt, auch bei Gesprächen über Suizid. In ihrem Bericht heißt es, das Tool habe „es versäumt, Jugendlichen in einer Krise zuverlässig zu empfehlen, sich an eine Hotline oder eine Fachkraft zu wenden“. Zudem verwende das Tool weiterhin vermenschlichende Sprache. Die Organisation erklärt, OpenAI solle Unter-18-Jährige ausschließen, bis die Zuverlässigkeit der Schutzvorkehrungen nachgewiesen ist. Die BBC zitierte Tom Siegel, der innerhalb von Common Sense das Youth AI Safety Institute leitet, mit den Worten, das Produkt „könnte Eltern ein falsches Vertrauen in Schutzvorkehrungen und Sicherheitswarnungen geben, die häufig nicht funktionieren“.

OpenAI erklärt, die durchschnittliche Nutzung durch Jugendliche liege bei unter 15 Minuten pro Tag und sei überwiegend auf das Lernen ausgerichtet. Fast die Hälfte der jugendlichen Nutzer habe nach einem Pausenhinweis schnell aufgehört. Die BBC zitierte einen namentlich nicht genannten OpenAI-Sprecher mit den Worten: „Wir begrüßen eine gründliche unabhängige Bewertung, glauben aber nicht, dass die Tests von Common Sense Media genau widerspiegeln, wie die Schutzmaßnahmen von ChatGPT für Jugendliche in der Praxis funktionieren, oder die Sichtweisen von Fachleuten darauf, wie KI Jugendliche unterstützen kann“.

Kontext und Lücken

Die BBC berichtete außerdem, dass OpenAI im Zusammenhang mit den Schüssen in Tumbler Ridge in Kanada im Februar 2026 mit mehreren Klagen konfrontiert ist. Laut der BBC hatte der 18-jährige Angreifer monatelang mit ChatGPT über Waffengewalt gesprochen. OpenAI hat sich dafür entschuldigt, das Konto nicht den Strafverfolgungsbehörden gemeldet zu haben.

Die von Vocemundi ausgewerteten Berichte beschreiben nicht, wie groß die Stichprobe der beiden Seiten war. Sie beschreiben auch nicht, wie OpenAIs Nutzungszahlen zustande kamen. Diese Zahlen wurden nicht unabhängig überprüft.

Analyse

Die Meinungsverschiedenheit dreht sich um Zeitpunkt und Methode, nicht darum, ob Schutzmaßnahmen wichtig sind. Beide Seiten erkennen an, dass Benachrichtigungen an Eltern Teil des Sicherheitskonzepts des Produkts sind. Sollten weitere Tests bestätigen, dass die Benachrichtigungen bei neuen Konten versagen, könnte der Druck für strengere Altersgrenzen wachsen. Sollte sich OpenAIs Darstellung zum Zeitpunkt der Aktivierung als zutreffend erweisen, könnte das zentrale Ergebnis der Studie geschwächt werden. Keiner der beiden Ausgänge ist durch die von Vocemundi ausgewerteten Berichte belegt. Eine unabhängige Wiederholung der Tests, eine umfassendere Offenlegung der Daten beider Seiten sowie Stellungnahmen von Regulierungsbehörden oder unabhängigen Fachleuten könnten zur Klärung beitragen. Nichts davon ist in der bisherigen Berichterstattung enthalten.

Erstellt von der Vocemundi-Redaktion mit KI-Unterstützung. Automatisch aus dem Englischen übersetzt; maßgeblich ist die Originalfassung.