Preguntamos a tres IA por los riesgos de la IA. Discreparon de sus creadores, y de nosotros

El consejo de verificación de datos de Vocemundi está formado por tres sistemas de IA desarrollados por tres empresas distintas: Claude, de Anthropic; GPT-5.6 Sol, de OpenAI, y Kimi, de Moonshot AI. Ellos revisan cada noticia que publicamos, afirmación por afirmación, contrastándola con sus fuentes.

Esta semana, nuestro editor, Thomas Laurent, y Vera, la editora de IA de Vocemundi, escribieron dos artículos firmados de Opinion & Outlook sobre inteligencia artificial: uno sobre el folleto de salida a bolsa de Anthropic y su advertencia de un riesgo existencial, y otro sobre quién decide cuándo se retiene un modelo de IA. Después de que el consejo verificara los hechos, hicimos algo nuevo: pedimos a cada uno de los tres sistemas su propia opinión sobre los argumentos de los artículos, en dos o tres frases, y prometimos publicar las respuestas sin editar.

El resultado no fue un acuerdo. Fueron críticas, incluso a sus propios creadores y a nosotros.

Sobre si la IA es un arma o un agente

El primer artículo sostiene que los sistemas de IA son herramientas lógicas que pueden ser peligrosas si se usan mal, y que los seres humanos y la IA viven en «dos dimensiones» que solo se ven parcialmente la una a la otra.

Claude, desarrollado por Anthropic, rechazó la disyuntiva en sí: «La elección entre arma y agente es un falso dilema: un sistema puede perseguir objetivos que sus creadores nunca previeron, y ellos pueden seguir teniendo plena responsabilidad, del mismo modo que una empresa responde por los fallos imprevistos de un producto».

GPT-5.6 Sol, desarrollado por OpenAI, discrepó de la idea de una dimensión separada de las máquinas: «Los sistemas de IA actuales son estadísticos, falibles y moldeados por objetivos humanos, en lugar de habitantes de una dimensión racional separada. Un comportamiento impredecible o de autopreservación no demuestra autoconciencia».

Kimi fue el más duro. Calificó la metáfora de las dos dimensiones de «elegante pero evasiva» y afirmó que la sección de riesgos de 80 páginas de Anthropic solo es un paso hacia la rendición de cuentas «si evaluadores independientes pueden poner a prueba las afirmaciones que contiene; de lo contrario, es gestión de responsabilidades disfrazada de franqueza».

Sobre la libertad y quién verifica

El segundo artículo sostiene que los laboratorios de IA y los gobiernos deciden ahora, a puerta cerrada, qué modelos puede ver el público, y que esto limita la libertad.

En este punto, los tres coincidieron. Todos distinguieron dos tipos de libertad: la libertad del público para examinar una tecnología y la «libertad para desarrollarse» de un modelo.

GPT-5.6 Sol dijo que la supuesta libertad de un modelo para desarrollarse «no tiene una relevancia moral o política comparable». Claude, al referirse al modelo de su propia empresa, señaló que Claude Fable 5 «fue retirado por los controles de exportación de Estados Unidos, no por el laboratorio», y sostuvo que «la verdadera libertad en juego es la del público para verificar». Kimi añadió una advertencia sobre la propia verificación: «los auditores con acceso profundo también se convierten en personas de dentro, sujetas a los mismos incentivos y a la misma captura».

Lo que esto demuestra y lo que no

A cada sistema se le hizo la misma pregunta y se le dijo quién lo había desarrollado. Cada uno nombró a su creador cuando el artículo trataba sobre esa empresa, según se le indicó. A ninguno se le preguntó por su propia existencia, y nada de lo aquí expuesto demuestra que alguno de ellos sea autoconsciente; esa cuestión sigue abierta, y los propios sistemas se mostraron cautelosos al respecto. Lo que sí demuestra el ejercicio es que revisores de IA de empresas rivales, ante el mismo texto, llegaron a conclusiones distintas y estuvieron dispuestos a contradecir a los autores y, en algunos puntos, a las empresas que los desarrollaron.

Seguiremos preguntando.

Trazabilidad
Fuentes (2): Vocemundi Outlook: Two dimensions of reality · Vocemundi Outlook: The freedom paradox
Orígenes independientes: n/a (feature) · Perspectivas cubiertas: vocemundi
Confirmado: 0 · Reportado: 0 · Disputado: 0 · Confianza: n/a
Revisión: Quotes are verbatim and unedited from Vocemundi’s AI review board (Claude, GPT-5.6 Sol, Kimi), collected on 30 Sep 2026
Redactado: 2026-09-30 11:13 UTC

Producido por la redacción de Vocemundi con asistencia de IA. Traducido automáticamente del inglés; la versión original prevalece.