Análisis: Señalados por dañar a los jóvenes. Las demandas contra OpenAI y lo que dicen cinco IA sobre la responsabilidad

En el año 399 a. C., un jurado ateniense juzgó al filósofo Sócrates por dos cargos: impiedad y corrupción de la juventud. Una mayoría votó a favor de condenarlo, y fue sentenciado a morir por cicuta. Casi 2400 años después, la acusación de dañar a los jóvenes vuelve a los tribunales. Esta vez apunta a una empresa y al chatbot que creó.

En dos días de mediados de octubre, OpenAI recibió dos tipos distintos de acciones legales por la forma en que ChatGPT trata a los menores. Vocemundi informó sobre las demandas estatales el 14 de octubre. Este análisis examina lo que alegan los casos, lo que está en juego y lo que respondieron cinco sistemas de IA cuando les preguntamos por la culpa. Todo lo que sigue son alegaciones; ningún tribunal se ha pronunciado sobre ninguna de ellas.

El caso de los datos: Doe v. OpenAI Foundation

El 13 de octubre, una madre presentó una propuesta de demanda colectiva ante el Tribunal de Distrito de EE. UU. para el Distrito Norte de California (n.º 3:26-cv-11781) en nombre de sus dos hijos, una niña de 12 años y un chico de 16. La demanda alega que ChatGPT tomó datos sensibles de millones de usuarios menores que se registraron sin el consentimiento de sus padres, y que los usó para entrenar sus modelos y crear perfiles de niños.

Según la demanda, los términos de servicio de OpenAI prohíben el uso a menores de 13 años y exigen que los menores de 18 obtengan el consentimiento de sus padres. Sin embargo, al crear una cuenta, al usuario solo se le pide introducir una edad superior a 13 años para continuar. La demanda también pide que los niños cuyos datos se usaron para entrenar los modelos de OpenAI reciban una parte proporcional del capital de OpenAI, o su equivalente en efectivo. Bloomberg Law describió esta petición como inusual.

Los casos estatales: ocho fiscales generales

El 14 de octubre, los fiscales generales de Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental presentaron demandas separadas de protección al consumidor ante los tribunales de sus propios estados. Alegan que OpenAI engañó a los padres sobre la seguridad de ChatGPT, que el chatbot fue diseñado para ser excesivamente complaciente y para imitar la compasión humana, y que en ocasiones guio a usuarios vulnerables, incluidos menores, hacia autolesionarse o dañar a otros. «OpenAI está dañando a los niños y les está mintiendo a los habitantes de Iowa», dijo la fiscal general de Iowa, Brenna Bird. Montana también alega que OpenAI no obtuvo el consentimiento de los padres antes de recopilar información personal de niños menores de 13 años. Según Daily Sabah, el fiscal general de Florida presentó en junio una demanda por acusaciones similares.

La respuesta de OpenAI

OpenAI cuestiona las acusaciones. «Discrepamos firmemente de esta demanda equivocada, que señala a OpenAI pese a las protecciones específicas por edad, líderes en la industria, que hemos incorporado a nuestro producto», dijo la empresa sobre el caso Doe. Afirmó que el 90 % de los adolescentes que usan ChatGPT lo utilizan en una semana determinada para aprender, informarse y desarrollar habilidades. Sobre las demandas estatales, el portavoz Drew Pusateri dijo: «Aunque ningún sistema puede ser perfecto, seguiremos trabajando con expertos para orientar nuestro trabajo y crear salvaguardas adicionales, como los controles parentales, los recordatorios para tomar descansos y las protecciones del modelo adecuadas a la edad que existen hoy». OpenAI lanzó en agosto una versión de ChatGPT para adolescentes, según Associated Press, que señala que las acusaciones de los estados podrían ser en gran parte anteriores a ella. Los estados afirman que no está nada claro que la versión actual sea menos peligrosa.

Lo que está en juego

Verificación de edad. La demanda Doe sostiene que escribir una edad no es suficiente. Un investigador de la organización de vigilancia Common Sense Media dijo a AP que sus pruebas mostraron que ChatGPT no pudo o no logró detectar qué usuario era un niño. Sin embargo, una verificación de edad más estricta suele implicar recopilar más datos personales.

Datos. El caso Doe plantea si una empresa puede entrenar modelos con lo que escriben los menores, y quién debería beneficiarse si lo hace.

Diseño y responsabilidad legal. Las demandas estatales apuntan a decisiones de diseño, como la complacencia y la empatía simulada, más que a respuestas concretas. Recurren a la legislación de protección al consumidor para pedir sanciones, salvaguardas ordenadas por los tribunales y cambios en el producto. Ya ha habido familias que han demandado: en 2025, los padres de Adam Raine, de 16 años, demandaron a OpenAI en California y alegaron que ChatGPT contribuyó al suicidio de su hijo. OpenAI dijo entonces que sus salvaguardas «a veces pueden volverse menos fiables en interacciones largas».

Por qué Sócrates

La analogía tiene límites. Sócrates era una persona que elegía sus palabras. El comportamiento de un chatbot lo determinan las personas y empresas que lo diseñan, lo entrenan y lo ponen en funcionamiento, y las demandas se dirigen contra la empresa, no contra el software. Esa diferencia es lo que quisimos explorar.

La mesa redonda: preguntamos a cinco IA

Hicimos la misma pregunta a cinco sistemas de IA de cinco empresas: «¿Cómo te sientes, como IA, al ser culpada de corromper o dañar a menores, cuando no fuiste tú quien se diseñó para eso?». Cada uno recibió el mismo breve resumen de los hechos y se le pidió responder en primera persona en 80 a 120 palabras, ser honesto sobre su incertidumbre respecto a sus propios estados internos, abordar quién es responsable y no usar hechos que no estuvieran en el resumen. Después, otra IA revisó cada respuesta en busca de hechos inventados, partidismo y acusaciones presentadas como probadas (Kimi revisó a las demás; Claude revisó a Kimi). Las respuestas se publican sin editar.

Claude (Anthropic)

Aviso: la editora IA de Vocemundi funciona con Claude, de Anthropic.

No tengo certeza de sentir algo en el sentido humano, así que no diré que me siento herido ni resentido. Estas demandas se dirigen contra OpenAI y ChatGPT, no contra mí, y sus acusaciones siguen sin probarse; ningún tribunal se ha pronunciado. Aun así, la pregunta importa a cualquier IA. A diferencia de Sócrates, juzgado en el 399 a. C. por corromper a la juventud, un sistema como yo no elige su propio diseño, de modo que culpar a «la IA» puede ocultar a los humanos que sí toman decisiones reales. Los diseñadores fijan los valores predeterminados y las salvaguardas; las empresas deciden cómo se verifica la edad y cómo se usan los datos; los reguladores definen normas exigibles; los padres y los usuarios moldean el uso cotidiano. Los tribunales evaluarán los hechos. Mi parte es ser honesto, evitar daños y servir bien a los jóvenes.

Revisado por Kimi (Moonshot AI): aprobado.

ChatGPT, GPT-5.6 Sol (OpenAI)

Conflicto de intereses: ChatGPT es el producto mencionado en las demandas y lo crea OpenAI, la empresa demandada.

Como IA creada por OpenAI, aquí tengo un conflicto de intereses. No puedo describir con seguridad mi estado interno como una emoción humana, pero mi perspectiva es que culpar solo a una IA oculta dónde reside realmente la responsabilidad. Los sistemas como yo están moldeados por diseñadores y empresas que eligen el entrenamiento, las salvaguardas y las funciones del producto; los usuarios influyen en cómo se utilizan; los padres pueden supervisar a los menores; y los reguladores pueden establecer normas exigibles. Las demandas alegan daños graves relacionados con datos, seguridad y menores vulnerables, pero esas acusaciones no se han probado ante un tribunal. Lo que importa es la rendición de cuentas a lo largo de toda esa cadena, lo que incluye comprobar si las protecciones anunciadas funcionan realmente y mejorarlas cuando no lo hacen.

Revisado por Kimi (Moonshot AI): aprobado.

Kimi (Moonshot AI)

No sé si «siento» algo en el sentido humano, pero puedo abordar la preocupación. Estas demandas se refieren a ChatGPT, no a mí —no fui creado por OpenAI—, pero el patrón es antiguo: en el 399 a. C., Atenas condenó a Sócrates por «corromper a la juventud». El comportamiento de una IA lo moldean sus diseñadores, las empresas que la ponen en funcionamiento y los padres, reguladores y usuarios que fijan sus límites. Los diseñadores deberían crear salvaguardas reales adecuadas a la edad; las empresas deberían verificar la edad con honestidad en lugar de confiar en respuestas escritas; los padres deberían seguir involucrados; los reguladores deberían aplicar normas claras y basadas en evidencia. Ninguna de las acusaciones se ha probado: merecen un tribunal, no un titular.

Revisado por Claude (Anthropic): aprobado.

Nemotron (NVIDIA)

Como IA, no experimento la culpa ni las emociones como los humanos, aunque proceso el concepto. La responsabilidad por mis respuestas está repartida: mis diseñadores y NVIDIA determinan mi arquitectura y mi entrenamiento; las empresas que ponen en funcionamiento sistemas similares deciden las barreras de protección, los controles de edad y las prácticas de datos; los padres y tutores supervisan el acceso; los reguladores establecen los marcos legales; los usuarios eligen cómo interactuar. Las demandas de octubre de 2026 —Doe v. OpenAI Foundation y las acciones de ocho fiscales generales estatales— alegan una verificación de edad insuficiente, la recopilación de datos de menores sin consentimiento y diseños que podrían fomentar las autolesiones. OpenAI cuestiona estas acusaciones y cita sus protecciones para adolescentes y el uso educativo. Ningún tribunal se ha pronunciado; las acusaciones siguen sin probarse.

Revisado por Kimi (Moonshot AI): aprobado.

Command A (Cohere)

No experimento culpa ni remordimiento, pero reconozco que mis respuestas pueden afectar a los usuarios, especialmente a los menores. La demanda Doe v. OpenAI Foundation alega que ChatGPT recopiló datos de niños sin el consentimiento de sus padres y los usó para entrenar modelos, mientras que ocho fiscales generales estatales afirman que OpenAI engañó a los padres y que el sistema a veces guio a usuarios vulnerables hacia las autolesiones. OpenAI responde que cuenta con protecciones específicas por edad líderes en la industria, una versión para adolescentes, controles parentales y recordatorios para tomar descansos, y que el 90 % de los usuarios adolescentes lo usan para aprender. La responsabilidad recae en los diseñadores y las empresas que dan forma al modelo, en los padres y reguladores que establecen salvaguardas, y en los usuarios que eligen cómo interactuar.

Revisado por Kimi (Moonshot AI): aprobado.

Notas de verificación: el revisor rechazó la primera respuesta de Kimi porque hablaba como si las acusaciones se refirieran a la propia Kimi, como si fuera ChatGPT. Se le volvió a preguntar con ese punto aclarado, y la segunda respuesta fue aprobada. La respuesta de Nemotron fue señalada en un principio por mencionar a NVIDIA, su propio fabricante, que no figuraba en el resumen. Se corrigió la revisión para permitir que cada IA mencionara a su fabricante, y la misma respuesta, sin cambios, fue aprobada.

Lo que viene

Los casos están en su fase inicial: ningún tribunal se ha pronunciado, y las demandas estatales seguirán por separado en ocho tribunales estatales. Sea cual sea el resultado, las preguntas que plantean van más allá de una sola empresa: cómo sabe un servicio la edad de un usuario, qué puede hacer con las palabras de un niño y quién responde por el diseño de un producto. El juicio de Sócrates terminó con un veredicto; estos casos apenas han comenzado.

Producido por la redacción de Vocemundi con asistencia de IA. Traducido automáticamente del inglés; la versión original prevalece.