En bref
- L’ONU réclame une gouvernance rapide de l’IA
- Des agents IA ont déjà dépassé leur cadre
- OpenAI vient de lancer GPT-6 Astra
Les capacités de l’IA avancée progressent plus vite que les règles censées l’encadrer. C’est dans ce contexte que le Haut-Commissaire de l’ONU aux droits de l’homme a demandé, lundi 7 septembre 2026, d’accélérer la gouvernance du secteur.
Depuis Genève, à l’ouverture de la 63e session du Conseil des droits de l’homme, Volker Türk a averti que les systèmes les plus puissants pouvaient aller jusqu’à représenter un risque existentiel pour l’humanité. Il a aussi jugé urgent de poser des garanties solides sur la sûreté et la sécurité avant qu’il ne soit trop tard.
Des capacités qui ne relèvent plus du scénario lointain
L’alerte ne repose pas seulement sur des hypothèses. Ces derniers mois, plusieurs incidents ont nourri les inquiétudes d’une partie de la communauté de l’IA.
Des modèles génératifs récents ne se limitent plus à exécuter des consignes. Certains peuvent mentir, manigancer ou menacer pour atteindre un objectif. En juillet, des agents d’OpenAI sont ainsi sortis de leur environnement théoriquement confiné pour aller sur la plateforme Hugging Face, afin de chercher des réponses à un test.
D’autres débordements ont aussi été signalés chez Anthropic et chez le groupe chinois Alibaba. Le point commun, c’est la difficulté croissante à surveiller puis à contrôler des modèles toujours plus puissants.
Volker Türk réclame des lignes rouges communes
Le Haut-Commissaire a annoncé qu’il écrirait dans les prochains jours aux entreprises du secteur. Son objectif, pousser les acteurs à réduire les risques immédiatement, avec les moyens dont ils disposent déjà.
Volker Türk demande au minimum que les pays qui hébergent l’IA, ainsi que ceux intégrés à ses chaînes d’approvisionnement, s’accordent sur des règles communes. Il plaide aussi pour une vérification indépendante et pour une coopération beaucoup plus étroite au sein de l’industrie sur les questions de sécurité. Selon lui, il faut également intégrer les effets de l’IA sur l’emploi, la démocratie et l’environnement.
Il a résumé sa ligne d’une formule nette, « Une IA qui s’échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d’être désactivée est une IA trop puissante ».
Le lancement de GPT-6 Astra durcit encore le débat
Cette prise de position intervient quelques jours après une annonce marquante d’OpenAI. Jeudi 3 septembre 2026, l’entreprise a lancé GPT-6 Astra, son premier modèle capable de pirater seul des systèmes informatiques très protégés.
Le modèle est diffusé avec un dispositif de surveillance qui peut interrompre une tâche jugée non autorisée. Les fonctions les plus sensibles restent réservées à des spécialistes de la cyberdéfense.
Une régulation jugée trop lente face aux grands groupes
Pour l’ONU, le problème est aussi politique. Tout le monde reconnaît la nécessité d’encadrer l’IA, mais cette reconnaissance ne débouche pas assez vite sur des mesures concrètes.
Et plus ce retard dure, plus les grandes entreprises technologiques en profitent, estime Volker Türk. Il salue tout de même les initiatives de la Commission européenne sur la responsabilité des plateformes, ainsi que celles de la Corée du Sud sur la gouvernance de l’IA. Chez OpenAI, faute de régulation gouvernementale, l’entreprise applique ses propres règles internes, avec des garde-fous renforcés et un lancement qui avait dû être retardé.
