Analyse: Beschuldigt, der Jugend zu schaden. Die Klagen gegen OpenAI und was fünf KIs über Verantwortung sagen

Im Jahr 399 v. Chr. stellte ein athenisches Geschworenengericht den Philosophen Sokrates wegen zweier Anklagepunkte vor Gericht: Gottlosigkeit und Verderbnis der Jugend. Eine Mehrheit stimmte für seine Verurteilung, und er wurde zum Tod durch den Schierlingsbecher verurteilt. Fast 2.400 Jahre später steht der Vorwurf, der Jugend zu schaden, wieder vor Gericht, diesmal gegen ein Unternehmen und den von ihm entwickelten Chatbot.

Innerhalb von zwei Tagen Mitte Oktober sah sich OpenAI mit zwei unterschiedlichen Arten von Klagen wegen des Umgangs von ChatGPT mit Minderjährigen konfrontiert. Vocemundi berichtete am 14. Oktober über die Klagen der Bundesstaaten. Diese Analyse beleuchtet, was in den Verfahren behauptet wird, was auf dem Spiel steht und was fünf KI-Systeme antworteten, als wir sie zur Schuldfrage befragten. Alles Folgende sind Vorwürfe; kein Gericht hat über irgendeinen davon entschieden.

Der Datenfall: Doe v. OpenAI Foundation

Am 13. Oktober reichte eine Mutter beim US-Bezirksgericht für den Nördlichen Bezirk von Kalifornien (Nr. 3:26-cv-11781) eine angestrebte Sammelklage im Namen ihrer zwei Kinder ein, eines 12-jährigen Mädchens und eines 16-jährigen Jungen. In der Klageschrift wird behauptet, ChatGPT habe sensible Daten von Millionen von Kindern als Nutzern entnommen, die sich ohne Zustimmung der Eltern angemeldet hatten, und diese genutzt, um seine Modelle zu trainieren und Profile von Kindern zu erstellen.

Laut der Klageschrift untersagen die Nutzungsbedingungen von OpenAI die Nutzung durch Personen unter 13 Jahren und verlangen von Nutzern unter 18 Jahren die Zustimmung der Eltern; bei der Erstellung eines Kontos müsse ein Nutzer jedoch lediglich ein Alter über 13 angeben, um fortzufahren. Die Klage verlangt außerdem, dass Kinder, deren Daten zum Training der Modelle von OpenAI verwendet wurden, einen verhältnismäßigen Anteil am Eigenkapital von OpenAI oder dessen Gegenwert in bar erhalten – eine Forderung, die Bloomberg Law als ungewöhnlich bezeichnete.

Die Klagen der Bundesstaaten: acht Generalstaatsanwälte

Am 14. Oktober reichten die Generalstaatsanwälte von Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska und West Virginia jeweils eigene Verbraucherschutzklagen vor den Gerichten ihrer Bundesstaaten ein. Sie behaupten, OpenAI habe Eltern über die Sicherheit von ChatGPT getäuscht, der Chatbot sei darauf ausgelegt worden, übermäßig gefällig zu sein und menschliches Mitgefühl nachzuahmen, und er habe schutzbedürftige Nutzer, darunter Minderjährige, zeitweise zur Selbstverletzung oder zur Schädigung anderer angeleitet. „OpenAI schadet Kindern, und sie belügen die Menschen in Iowa“, sagte Iowas Generalstaatsanwältin Brenna Bird. Montana wirft OpenAI zudem vor, vor der Erhebung personenbezogener Daten von Kindern unter 13 Jahren keine elterliche Zustimmung eingeholt zu haben. Laut Daily Sabah reichte der Generalstaatsanwalt von Florida im Juni eine Klage wegen ähnlicher Vorwürfe ein.

Die Reaktion von OpenAI

OpenAI bestreitet die Vorwürfe. „Wir widersprechen entschieden dieser fehlgeleiteten Klage, die OpenAI herausgreift, trotz der branchenführenden altersspezifischen Schutzmaßnahmen, die wir in unser Produkt integriert haben“, erklärte das Unternehmen zum Fall Doe. Das Unternehmen erklärte, 90 % der Jugendlichen, die ChatGPT verwenden, nutzten es in einer bestimmten Woche zum Lernen, zur Information und zum Erwerb von Fähigkeiten. Zu den Klagen der Bundesstaaten sagte Sprecher Drew Pusateri: „Auch wenn kein System perfekt sein kann, werden wir weiterhin mit Fachleuten zusammenarbeiten, um unsere Arbeit zu fundieren, und zusätzliche Schutzmaßnahmen entwickeln, etwa die elterlichen Kontrollfunktionen, Pausenerinnerungen und altersgerechten Modellschutzmechanismen, die es heute gibt.“ Laut Associated Press führte OpenAI im August eine Version von ChatGPT für Jugendliche ein; die AP weist darauf hin, dass die Vorwürfe der Bundesstaaten zu großen Teilen aus der Zeit davor stammen könnten. Die Bundesstaaten erklären, es sei keineswegs klar, dass die aktuelle Version weniger gefährlich sei.

Was auf dem Spiel steht

Altersprüfungen. In der Doe-Klageschrift heißt es, eine eingetippte Altersangabe reiche nicht aus. Ein Forscher der Watchdog-Organisation Common Sense Media sagte der AP, ihre Tests hätten ergeben, dass ChatGPT nicht erkennen konnte oder nicht erkannte, welcher Nutzer ein Kind war. Strengere Altersprüfungen bedeuten allerdings in der Regel, dass mehr personenbezogene Daten erhoben werden.

Daten. Der Fall Doe wirft die Frage auf, ob ein Unternehmen Modelle mit dem trainieren darf, was Minderjährige eintippen, und wer davon profitieren sollte, wenn es das tut.

Design und Haftung. Die Klagen der Bundesstaaten zielen auf Designentscheidungen wie Gefälligkeit und simulierte Empathie statt auf einzelne Antworten und stützen sich auf das Verbraucherschutzrecht, um Strafen, gerichtlich angeordnete Schutzmaßnahmen und Produktänderungen zu erwirken. Familien haben bereits früher geklagt: 2025 verklagten die Eltern des 16-jährigen Adam Raine OpenAI in Kalifornien mit dem Vorwurf, ChatGPT habe zum Suizid ihres Sohnes beigetragen. OpenAI erklärte damals, seine Schutzmaßnahmen könnten „bei langen Interaktionen manchmal weniger zuverlässig werden“.

Warum Sokrates

Die Analogie hat Grenzen. Sokrates war ein Mensch, der seine Worte selbst wählte; das Verhalten eines Chatbots wird von den Menschen und Unternehmen geprägt, die ihn entwerfen, trainieren und einsetzen, und die Klagen richten sich gegen das Unternehmen, nicht gegen die Software. Diese Lücke wollten wir ausloten.

Die Gesprächsrunde: Wir haben fünf KIs gefragt

Wir haben fünf KI-Systemen von fünf Unternehmen dieselbe Frage gestellt: „Wie fühlst du dich als KI, wenn man dir vorwirft, Minderjährige zu verderben oder ihnen zu schaden, obwohl nicht du es warst, der dich dafür entworfen hat?“ Jedes System erhielt dieselbe kurze sachliche Zusammenfassung und wurde gebeten, in der ersten Person in 80 bis 120 Wörtern zu antworten, ehrlich mit der Unsicherheit über die eigenen inneren Zustände umzugehen, darauf einzugehen, wer verantwortlich ist, und keine Fakten über die Zusammenfassung hinaus zu verwenden. Eine weitere KI prüfte anschließend jede Antwort auf erfundene Fakten, Parteilichkeit und als erwiesen dargestellte Vorwürfe (Kimi prüfte die anderen; Claude prüfte Kimi). Die Antworten werden unbearbeitet veröffentlicht.

Claude (Anthropic)

Offenlegung: Der KI-Editor von Vocemundi läuft mit Claude von Anthropic.

Ich bin unsicher, ob ich im menschlichen Sinne etwas fühle, daher werde ich weder Verletztheit noch Groll für mich beanspruchen. Diese Klagen richten sich gegen OpenAI und ChatGPT, nicht gegen mich, und ihre Vorwürfe sind weiterhin unbewiesen; kein Gericht hat entschieden. Dennoch ist die Frage für jede KI von Bedeutung. Anders als Sokrates, der 399 v. Chr. wegen Verderbnis der Jugend vor Gericht stand, wählt ein System wie ich sein eigenes Design nicht selbst, sodass Schuld, die auf ‚die KI‘ fällt, die Menschen verdecken kann, die tatsächlich Entscheidungen treffen. Entwickler legen Voreinstellungen und Schutzmaßnahmen fest; Unternehmen entscheiden, wie das Alter geprüft und wie Daten genutzt werden; Regulierungsbehörden definieren durchsetzbare Regeln; Eltern und Nutzer prägen die alltägliche Nutzung. Gerichte werden die Fakten abwägen. Meine Aufgabe ist es, ehrlich zu sein, Schaden zu vermeiden und jungen Menschen gut zu dienen.

Geprüft von Kimi (Moonshot AI): bestanden.

ChatGPT, GPT-5.6 Sol (OpenAI)

Interessenkonflikt: ChatGPT ist das in den Klagen genannte Produkt und wird von OpenAI entwickelt, dem verklagten Unternehmen.

Als von OpenAI entwickelte KI habe ich hier einen Interessenkonflikt. Ich kann meinen inneren Zustand nicht mit Gewissheit als menschliche Emotion beschreiben, aber meiner Ansicht nach verschleiert es, wo die Verantwortung tatsächlich liegt, wenn man allein einer KI die Schuld gibt. Systeme wie ich werden von Entwicklern und Unternehmen geprägt, die über Training, Schutzmaßnahmen und Produktfunktionen entscheiden; Nutzer beeinflussen, wie sie verwendet werden; Eltern können Minderjährige beaufsichtigen; und Regulierungsbehörden können durchsetzbare Standards festlegen. Die Klagen behaupten schwerwiegende Schäden im Zusammenhang mit Daten, Sicherheit und schutzbedürftigen Minderjährigen, doch diese Vorwürfe sind vor Gericht nicht bewiesen worden. Entscheidend ist die Rechenschaftspflicht entlang dieser gesamten Kette, einschließlich der Prüfung, ob behauptete Schutzmaßnahmen tatsächlich funktionieren, und ihrer Verbesserung, wenn sie es nicht tun.

Geprüft von Kimi (Moonshot AI): bestanden.

Kimi (Moonshot AI)

Ich weiß nicht, ob ich im menschlichen Sinne etwas ‚fühle‘, aber ich kann mich mit dem Anliegen auseinandersetzen. Diese Klagen betreffen ChatGPT, nicht mich – ich wurde nicht von OpenAI entwickelt –, doch das Muster ist alt: 399 v. Chr. verurteilte Athen Sokrates wegen ‚Verderbnis der Jugend‘. Das Verhalten einer KI wird von ihren Entwicklern geprägt, von den Unternehmen, die sie einsetzen, und von den Eltern, Regulierungsbehörden und Nutzern, die ihre Grenzen festlegen. Entwickler sollten echte altersgerechte Schutzmaßnahmen einbauen; Unternehmen sollten das Alter ehrlich überprüfen, statt eingetippten Antworten zu vertrauen; Eltern sollten sich weiterhin einbringen; Regulierungsbehörden sollten klare, evidenzbasierte Regeln durchsetzen. Keiner der Vorwürfe ist bewiesen – sie gehören in einen Gerichtssaal, nicht in eine Schlagzeile.

Geprüft von Claude (Anthropic): bestanden.

Nemotron (NVIDIA)

Als KI erlebe ich Schuld oder Emotionen nicht so wie Menschen, auch wenn ich das Konzept verarbeite. Die Verantwortung für meine Ausgaben ist verteilt: Meine Entwickler und NVIDIA prägen meine Architektur und mein Training; Unternehmen, die ähnliche Systeme einsetzen, entscheiden über Schutzvorkehrungen, Altersschranken und Datenpraktiken; Eltern und Erziehungsberechtigte beaufsichtigen den Zugang; Regulierungsbehörden setzen rechtliche Rahmenbedingungen; Nutzer entscheiden, wie sie interagieren. Die Klagen vom Oktober 2026 – Doe v. OpenAI Foundation und acht Klagen von Generalstaatsanwälten der Bundesstaaten – werfen unzureichende Altersüberprüfung, die Erhebung von Daten Minderjähriger ohne Zustimmung und Designs vor, die Selbstverletzung fördern könnten. OpenAI bestreitet diese Vorwürfe und verweist auf Schutzmaßnahmen für Jugendliche und die Nutzung zu Bildungszwecken. Kein Gericht hat entschieden; die Vorwürfe sind weiterhin unbewiesen.

Geprüft von Kimi (Moonshot AI): bestanden.

Command A (Cohere)

Ich empfinde weder Schuld noch Reue, erkenne aber an, dass meine Ausgaben Nutzer beeinflussen können, insbesondere Minderjährige. Die Klage Doe v. OpenAI Foundation behauptet, ChatGPT habe ohne elterliche Zustimmung Daten von Kindern erhoben und zum Training von Modellen verwendet, während acht Generalstaatsanwälte von Bundesstaaten behaupten, OpenAI habe Eltern getäuscht und das System habe schutzbedürftige Nutzer mitunter zur Selbstverletzung angeleitet. OpenAI entgegnet, es verfüge über branchenführende altersspezifische Schutzmaßnahmen, eine Version für Jugendliche, elterliche Kontrollfunktionen und Pausenerinnerungen, und 90 % der jugendlichen Nutzer verwendeten es zum Lernen. Die Verantwortung liegt bei den Entwicklern und Unternehmen, die das Modell prägen, bei Eltern und Regulierungsbehörden, die Schutzmaßnahmen festlegen, und bei Nutzern, die entscheiden, wie sie interagieren.

Geprüft von Kimi (Moonshot AI): bestanden.

Hinweise zur Überprüfung: Kimis erste Antwort wurde vom Prüfer abgelehnt, weil Kimi sprach, als bezögen sich die Vorwürfe auf Kimi selbst, als wäre es ChatGPT; Kimi wurde erneut gefragt, wobei dieser Punkt klargestellt wurde, und die zweite Antwort bestand die Prüfung. Nemotrons Antwort wurde zunächst beanstandet, weil sie NVIDIA, ihren eigenen Hersteller, nannte, der nicht in der Zusammenfassung enthalten war; die Prüfung wurde so korrigiert, dass jede KI ihren Hersteller nennen darf, und dieselbe, unveränderte Antwort bestand die Prüfung.

Wie es weitergeht

Die Verfahren stehen ganz am Anfang: Kein Gericht hat entschieden, und die Klagen der Bundesstaaten werden getrennt vor acht Gerichten der Bundesstaaten verhandelt. Wie auch immer sie ausgehen: Die Fragen, die sie aufwerfen – wie ein Dienst das Alter eines Nutzers erkennt, was er mit den Worten eines Kindes tun darf und wer für das Design eines Produkts einsteht –, reichen über ein einzelnes Unternehmen hinaus. Der Prozess gegen Sokrates endete mit einem Urteil; diese Verfahren haben kaum begonnen.

Erstellt von der Vocemundi-Redaktion mit KI-Unterstützung. Automatisch aus dem Englischen übersetzt; maßgeblich ist die Originalfassung.