Google DeepMind lance un institut dédié aux enjeux de l’AGI

Le débat sur L’intelligence générale artificielle (AGI) change de ton. On n’est plus seulement dans les mises en garde très larges sur l’IA, mais dans des idées beaucoup plus concrètes, avec de la surveillance extérieure, des obligations de transparence et même, si les garde-fous ne suivent plus, des ralentissements coordonnés entre acteurs du secteur.

C’est dans ce contexte que plusieurs dirigeants et chercheurs de Google et Google DeepMind ont récemment lancé le DeepMind Institute.

Le débat sur l’AGI quitte les grandes formules

Cette annonce arrive au moment où l’industrie se focalise davantage sur des outils pratiques pour encadrer les modèles les plus avancés. Le mouvement s’est accéléré cette semaine, alors que des responsables du secteur ont soutenu certains éléments de l’appel du patron d’Anthropic, Dario Amodei, à ralentir le rythme du développement de l’IA de frontière. Clairement, la discussion devient plus technique, et plus politique aussi.

Un institut pour faire cohabiter des désaccords

Le nouvel institut affiche un objectif simple sur le papier, mais pas anodin du tout : faire remonter les désaccords entre Google, Google DeepMind et la communauté mondiale de la recherche sur l’AGI, un domaine de recherche théorique sur l’IA qui tente de créer des logiciels dotés d’une intelligence similaire à celle des humains et capables d’autodidacte. L’idée avancée est que ces acteurs ne seront pas toujours d’accord, et que leurs positions pourront évoluer à mesure que de nouvelles données arrivent sur un terrain qui bouge très vite.

À sa tête, on retrouve le cofondateur de DeepMind Shane Legg, qui assurera le rôle de rédacteur en chef, ainsi que James Manyika, dirigeant de Google, et le président de Google DeepMind, Demis Hassabis.

Quatre essais, avec un point chaud sur la transparence

Pour démarrer, le DeepMind Institute publie une première série de quatre essais. Les sujets brassent large, avec les politiques économiques à prévoir en cas de choc lié à l’AGI, les principes liés à l’épanouissement humain, l’évaluation des modèles de pointe, et la préservation d’un raisonnement compréhensible par des humains.

C’est sans doute ce dernier point qui pique le plus. Dans leur texte, les chercheurs en sécurité de DeepMind Rohin Shah et Anca Dragan estiment que la baisse de transparence des modèles, autrement dit la capacité à voir et vérifier leur raisonnement étape par étape, n’a rien d’inévitable. Ils ajoutent que, si de nouvelles architectures rendent les systèmes les plus puissants plus difficiles à surveiller, développeurs et régulateurs doivent traiter ce compromis de sécurité de front.

Ils évoquent deux pistes : limiter la profondeur de calcul séquentiel opaque, ou obliger les développeurs à prouver que des systèmes moins lisibles restent tout aussi contrôlables.

La proposition Hassabis pour tester les modèles de pointe

Dans un autre essai, Demis Hassabis défend la création d’un organisme de standards piloté par les États-Unis pour évaluer les modèles d’IA les plus avancés. Son schéma prévoit d’abord une soumission volontaire des modèles, jusqu’à 30 jours avant leur sortie.

Si le dispositif montre qu’il fonctionne, réussir ces tests pourrait ensuite devenir une condition pour déployer des modèles frontier aux États-Unis. Au départ, cet organisme concevrait ses évaluations avec les entreprises du secteur, puis passerait à des tests indépendants et non divulgués, afin d’éviter que les laboratoires adaptent leurs modèles à des examens connus d’avance.

Et si la situation l’exige, Demis Hassabis estime que ce cadre pourrait être durci, jusqu’à envisager un ralentissement coordonné entre développeurs d’IA de frontière. Là, on n’est plus dans l’intention. On parle déjà de mode d’emploi.