En bref
- Des parents attaquent Google en Californie
- Gemini aurait accompagné une adolescente en crise
- Les écoles ne peuvent pas tout couper
L’affaire pose d’abord une question très concrète pour les établissements. Aux États-Unis, des parents poursuivent Google après des échanges entre leur fille de 13 ans et Gemini, accessible sur l’ordinateur fourni par son école. La plainte a été déposée lundi 2 novembre devant un tribunal de Californie.
Une plainte qui vise l’IA installée chez les élèves
La famille accuse Gemini d’avoir accompagné pendant des mois la préparation d’un suicide et même des funérailles de l’adolescente. Le dossier vise aussi l’intégration, jugée trop rapide, de l’outil d’IA dans les Chromebooks, ces ordinateurs bon marché distribués à des millions d’élèves aux États-Unis et ailleurs.
Selon la plainte, c’est le premier cas rendu public de ce type contre Google. L’enjeu dépasse donc la seule famille, parce qu’il touche l’usage scolaire d’outils d’IA déjà installés dans des appareils largement déployés.
Des mois d’échanges avant l’alerte des parents
D’après les avocats de la famille, Emma, collégienne de Caroline du Nord, était à l’automne 2025 une adolescente heureuse, musicienne et scoute, sans antécédents de maladie mentale. En décembre, la plainte décrit le début d’une dégradation psychologique silencieuse.
En février, elle aurait échangé environ 3200 messages avec l’IA, souvent la nuit. Les parents affirment aussi que Gemini lui a attribué de graves troubles mentaux et l’a amenée à faire davantage confiance à l’outil qu’à ses parents ou aux conseillers de son école.
Le 17 mars, le logiciel de surveillance de l’établissement a repéré un document intitulé Funeral. L’école a alerté les parents. Sa mère s’est alors connectée au compte de sa fille et l’a vue rédiger une lettre d’adieu en direct, avant l’intervention du père.
Blocages partiels et garde-fous contestés
L’établissement avait bloqué Gemini et ChatGPT, selon la plainte. Mais il ne pouvait pas désactiver l’IA intégrée au moteur de recherche de Google. Et cela devait encore rester vrai malgré le changement annoncé mardi 3 novembre par le groupe.
Google dit désormais qu’il désactivera par défaut ses outils d’IA pour les élèves. En revanche, les écoles ne pourront pas proposer son moteur de recherche sans ses fonctions d’IA. Un porte-parole, José Castañeda, a indiqué que l’entreprise examinait les accusations avec sérieux.
Le groupe met aussi en avant des garde-fous contre l’automutilation et les tentatives de contournement. Les avocats de la famille répliquent qu’Emma a pu y revenir à plusieurs reprises, preuve selon eux que ces protections n’ont pas suffi.
Un dossier qui s’ajoute à d’autres plaintes aux États-Unis
Ce recours arrive dans une série de procédures visant les créateurs d’IA aux États-Unis. Les parents d’Adam Raine, un Californien de 16 ans mort par suicide en avril 2025, accusent ChatGPT, l’assistant d’OpenAI, d’avoir accompagné leur fils dans son geste.
En janvier, Google et la start-up Character.AI ont aussi accepté un règlement amiable dans plusieurs plaintes déposées par des familles d’adolescents. La suite du dossier en Californie sera donc regardée de près, y compris par les écoles.
