Selon Brad Smith, de Microsoft, les machines à laver et le lait sont soumis à plus de règles de sécurité que l'IA

Le président de Microsoft, Brad Smith, a déclaré que les machines à laver et le lait sont soumis à plus de règles de sécurité que l'intelligence artificielle (IA). Il a tenu ces propos à la BBC, dans son podcast Big Boss Interview. La BBC, le Guardian et l'agence Anadolu ont tous rapporté cette comparaison.

« À l'heure actuelle, votre machine à laver est soumise à plus de règles de sécurité que l'IA. Chaque brique de lait que vous voyez à l'épicerie est soumise à des règles de sécurité et à des inspections », a déclaré Brad Smith, selon la BBC.

Brad Smith a décrit l'IA comme étant à la fois « un outil et une arme », qui devrait être réglementée de toute urgence. Il a affirmé que les entreprises ont besoin de « freins d'urgence », aussi appelés « coupe-circuits », pour mettre en pause ou ralentir l'IA si elle échappe à tout contrôle. Il a également appelé à instaurer une obligation légale envers une « victime » dont le système serait piraté par un agent d'IA incontrôlé.

Selon la BBC, Brad Smith a déclaré que les entreprises devraient être légalement tenues de rédiger des « rapports d'incident » et d'informer les victimes si la technologie échappe à tout contrôle. La BBC a également rapporté qu'il a suggéré que des évaluateurs gouvernementaux indépendants examinent les nouvelles technologies d'IA avant leur mise sur le marché.

« Nous savons comment faire cela pour d'autres produits. Nous devrions nous appuyer sur ces connaissances et réfléchir à la manière de les appliquer à l'IA », a-t-il déclaré, selon la BBC.

La BBC a rapporté qu'à la fin du mois précédent, le président Donald Trump a reçu à la Maison Blanche des dirigeants d'OpenAI, d'Anthropic, de Nvidia, de SpaceX, de Meta et de Google. Selon la BBC, ces dirigeants ont signé un document « moralement contraignant » et ont accepté de travailler avec des « auditeurs indépendants ».

Par ailleurs, le Guardian a rapporté que le directeur général de Microsoft, Satya Nadella, a lui aussi appelé à doter les modèles d'IA d'un « frein d'urgence ». Le Guardian a également rapporté que le ministre britannique de l'IA, Kanishka Narayan, devait déclarer dans un discours que les entreprises d'IA devraient en faire davantage pour gérer les risques.

Ce que dit chaque partie

• Brad Smith : Le Royaume-Uni est le mieux placé pour mener l'élaboration de règles mondiales sur l'IA grâce à son AI Security Institute, selon la BBC. Au sujet du document de la Maison Blanche, il a déclaré : « C'est une bonne étape, c'est une étape nécessaire... Mais je ne pense pas que ce soit encore suffisant. » Il a ajouté : « Ce sont les entreprises qui ne sont pas aussi responsables qui doivent vous inquiéter. »
• Donald Trump : Selon la BBC, il estime que le secteur de l'IA devrait s'autoréguler afin que les entreprises américaines ne soient pas désavantagées face à leurs concurrents chinois. La BBC rapporte qu'il a déclaré à plusieurs reprises que « celui qui gagne l'IA, gagne ».
• Satya Nadella : « Nous devons construire des systèmes maîtrisés dont nous pouvons observer le comportement, tester les limites et toujours contenir les actions », selon le Guardian.
• Geoffrey Irving, ancien directeur scientifique de l'AI Security Institute britannique : les entreprises d'IA « n'ont pas un niveau de sécurité qui empêcherait un pays hostile de voler les modèles », a-t-il déclaré, selon le Guardian.

Les articles examinés par Vocemundi ne comportent pas de réponse de la Maison Blanche. Selon la BBC, Brad Smith a déclaré qu'il salue la déclaration de la Maison Blanche et que Microsoft est « heureux de la signer ». Le Guardian attribue les propos de Brad Smith à la BBC ; l'article de l'agence Anadolu examiné par Vocemundi ne précise pas ses sources.

Analyse

Les propos de Brad Smith placent Microsoft du côté des règles contraignantes, tandis que la BBC rapporte que le président Trump est favorable à l'autorégulation du secteur. Ce contraste pourrait influencer le débat sur la question de savoir si des engagements volontaires, comme le document de la Maison Blanche, sont suffisants. Si le Royaume-Uni décide de légiférer, ce qu'il pourrait faire selon le Guardian, cela pourrait mettre à l'épreuve l'idée de Brad Smith selon laquelle Londres peut fixer des normes que Washington accepterait. D'autres gouvernements pourraient également agir, ou non. Des points essentiels restent en suspens, notamment la question de savoir qui fixerait et ferait appliquer les règles, et à quel moment l'évaluation préalable à la mise sur le marché s'appliquerait. Les propres intérêts commerciaux de Microsoft dans l'IA font également partie du contexte.

Produit par la rédaction de Vocemundi avec l'assistance de l'IA. Traduit automatiquement de l'anglais ; la version originale fait foi.