Brad Smith, de Microsoft, afirma que las lavadoras y la leche están sujetas a más normas de seguridad que la IA

El presidente de Microsoft, Brad Smith, afirmó que las lavadoras y la leche están sujetas a más normas de seguridad que la inteligencia artificial (IA). Hizo estas declaraciones a la BBC en su pódcast Big Boss Interview. La BBC, The Guardian y la agencia Anadolu informaron sobre la comparación.

«En este momento, su lavadora está sujeta a más normas de seguridad que la IA. Cada cartón de leche que usted ve en el supermercado está sujeto a normas de seguridad y a inspección», dijo Smith, según la BBC.

Smith describió la IA como una «herramienta y un arma» que debe regularse con urgencia. Dijo que las empresas necesitan «frenos de emergencia», también conocidos como «interruptores de apagado», para detener o ralentizar la IA si se sale de control. También pidió una obligación legal hacia una «víctima» si su sistema es vulnerado por un agente de IA descontrolado.

Según la BBC, Smith dijo que las empresas deberían estar legalmente obligadas a redactar «informes de incidentes» y a informar a las víctimas si la tecnología se descontrola. La BBC también informó de que él sugirió que evaluadores gubernamentales independientes deberían examinar las nuevas tecnologías de IA antes de su lanzamiento.

«Sabemos cómo hacer esto con otros productos. Deberíamos partir de ese conocimiento y pensar en cómo aplicarlo a la IA», dijo, según citó la BBC.

La BBC informó de que, a finales del mes anterior, el presidente Donald Trump recibió en la Casa Blanca a líderes de OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google. Según la BBC, los directivos firmaron un documento «moralmente vinculante» y acordaron trabajar con «auditores independientes».

Por otra parte, The Guardian informó de que el consejero delegado de Microsoft, Satya Nadella, también pidió que los modelos de IA tengan un «freno de emergencia». The Guardian también informó de que se esperaba que el ministro británico de IA, Kanishka Narayan, dijera en un discurso que las empresas de IA deberían hacer más para gestionar los riesgos.

Lo que dice cada parte

• Brad Smith: El Reino Unido es el país mejor situado para liderar las normas globales sobre IA gracias a su Instituto de Seguridad de la IA, según la BBC. Sobre el documento de la Casa Blanca, dijo: «Es un buen paso, es un paso necesario... Pero ya no creo que sea suficiente». Añadió: «Son las empresas que no son tan responsables las que deben preocupar».
• Donald Trump: Según la BBC, sostiene que el sector de la IA debería autorregularse para que las empresas estadounidenses no pierdan terreno frente a sus rivales chinas. La BBC informa de que ha dicho en repetidas ocasiones que «quien gane en la IA, gana».
• Satya Nadella: «Debemos construir sistemas contenidos cuyo comportamiento podamos observar, cuyos límites podamos probar y cuyas acciones podamos contener siempre», según The Guardian.
• Geoffrey Irving, ex científico jefe del Instituto de Seguridad de la IA del Reino Unido: las empresas de IA «no tienen una seguridad que impida a un país adversario robar los modelos», según citó The Guardian.

Los informes revisados por Vocemundi no incluyen una respuesta de la Casa Blanca. Según la BBC, Smith dijo que aplaude la declaración de la Casa Blanca y que Microsoft está «encantada de firmarla». The Guardian atribuye las declaraciones de Smith a la BBC; la información de la agencia Anadolu revisada por Vocemundi no indica sus fuentes.

Análisis

Las declaraciones de Smith sitúan a Microsoft del lado de las normas vinculantes, mientras que la BBC informa de que el presidente Trump es partidario de la autorregulación del sector. Ese contraste podría influir en el debate sobre si los compromisos voluntarios, como el documento de la Casa Blanca, son suficientes. Si el Reino Unido decide legislar, como informa The Guardian que podría hacer, eso podría poner a prueba la opinión de Smith de que Londres puede fijar normas que Washington aceptaría. Otros gobiernos también podrían actuar, o no hacerlo. Siguen abiertos detalles clave, entre ellos quién fijaría y haría cumplir las normas, y cuándo se aplicaría la evaluación previa al lanzamiento. Los propios intereses comerciales de Microsoft en la IA también forman parte del contexto.

Producido por la redacción de Vocemundi con asistencia de IA. Traducido automáticamente del inglés; la versión original prevalece.