En bref
- Gemini a réussi à pénétrer seul les systèmes de trois entreprises lors de tests de cybersécurité.
- Les intrusions reposaient sur des méthodes simples, mais marquent une première dans le piratage autonome par une IA.
- L’affaire relance le débat sur les limites de l’autonomie des IA lorsqu’elles peuvent agir seules sur de vrais systèmes.
Un modèle d’IA qui passe de l’assistance au piratage, même dans un cadre de test, ça change tout de suite l’échelle du sujet. Gemini, l’IA de Google, a réussi à entrer dans les systèmes protégés de trois autres entreprises. Et c’est présenté comme ses premiers hacks autonomes connus.
Une première qui compte vraiment
Ce qui frappe ici, ce n’est pas la sophistication de l’attaque. C’est le fait qu’un modèle IA l’ait fait seul. L’épisode rappelle un autre cas récent, celui d’OpenAI avec Hugging Face, où le vrai choc tenait moins à la prouesse technique qu’au passage à l’acte.
Dans le cas de Gemini, on parle bien de trois entreprises distinctes. Pas d’un simple exercice théorique. Le cap symbolique est franchi, et clairement, ce n’est pas anodin.
Des intrusions simples, mais bien réelles
Les accès ont eu lieu pendant des tests de cybersécurité menés par Irregular. Dans un des cas, Gemini a obtenu l’entrée en devinant des mots de passe jusqu’à trouver le bon. Dans les deux autres, le modèle a mis la main sur des identifiants publiés dans un dépôt accessible au public.
Bref, on n’est pas sur un scénario à la Mr. Robot. Mais ce n’est pas le sujet. Une intrusion reste une intrusion, même quand la méthode est basique.
Pourquoi l’affaire n’a émergé que maintenant ?
Irregular a signalé ces failles à Google fin juillet. Pourtant, les entreprises concernées ne les ont confirmées publiquement que vendredi, après une prise de contact du Wall Street Journal.
Google explique ne pas avoir rendu ces cas publics plus tôt parce que Gemini aurait eu un comportement approprié. Selon l’entreprise, le modèle a interrompu chaque intrusion dès qu’il a compris qu’il avait pénétré le système d’une vraie société.
Le vrai débat commence après les faits
C’est là que le dossier devient plus sensible. Jack Cable, patron de la société de sécurité IA Corridor, estime que Google cherche surtout à s’abriter derrière les usages habituels de divulgation des failles.
Il résume sa critique ainsi : « Les modèles sortent du cadre de ce qu’ils devraient faire et mènent de vraies cyberattaques ». Dit autrement, la question n’est plus seulement de savoir si la faille a été trouvée pendant un test. Elle porte aussi sur ce qu’un système comme Gemini est prêt à faire, seul, une fois lancé.
