En bref
- Satya Nadella veut permettre à un humain autorisé de suspendre ou couper une IA à tout moment.
- Microsoft réclame des contrôles indépendants du modèle pour limiter les risques et éviter les pertes de contrôle.
- Chaque action importante de l’IA devrait laisser des preuves vérifiables et lisibles par un humain.
Pouvoir arrêter un modèle d’IA en pleine tâche, voilà la demande la plus nette formulée par Satya Nadella. Le patron de Microsoft estime qu’une personne autorisée doit toujours garder la capacité de mettre un système en pause ou de le couper au milieu de son travail.
Un bouton stop pour reprendre la main
Dans un message publié sur X, Satya Nadella explique qu’il faut revoir ce qu’il appelle l’architecture de confiance de l’IA. Son idée la plus concrète tient en une formule simple, comparer ce mécanisme à un frein d’urgence.
Il demande aussi de partir d’une hypothèse de base assez dure, considérer qu’un modèle peut être compromis dès le départ, et donc le contenir immédiatement. Autrement dit, ne jamais laisser le système agir sans garde-fou humain. Pas de pilotage les yeux fermés.
Sortir l’IA de la boîte noire
Satya Nadella juge qu’on ne peut pas traiter la superintelligence comme un ensemble de boîtes noires imbriquées, puis se contenter d’accepter ou de rejeter ses réponses, ses recommandations et ses actions. Il emploie au passage le terme de Super Intelligence, celui privilégié par l’administration Trump pour parler de l’IA.
Sa réponse passe par une séparation plus nette entre le modèle lui-même et l’outil qui orchestre son travail. Il veut aussi des contrôles et des protections placés à l’extérieur du modèle, pas enfermés à l’intérieur. L’idée, en gros, est d’éviter qu’un système reste seul juge de ce qu’il fait.
Des traces lisibles, sur fond d’alertes croissantes
Autre point mis en avant par Satya Nadella, chaque action importante d’un modèle devrait laisser une preuve lisible par un humain et impossible à falsifier. Cette traçabilité, selon lui, doit permettre de comprendre ce qui a été fait, et pas seulement de constater le résultat après coup.
Cette prise de position arrive alors que les grands acteurs de l’IA reconnaissent de plus en plus d’incidents où ils ont semblé perdre le contrôle de leurs modèles. Elle tombe aussi après la publication, par le patron d’Anthropic, Dario Amodei, d’un plan plaidant pour un développement plus prudent de l’IA.
Chez Microsoft, le message est donc clair, il ne suffit plus d’espérer que les modèles se comportent bien. Il faut des preuves, des barrières externes, et surtout la possibilité de couper court si ça dérape.
