Pourquoi des chercheurs « blessent » l’IA pour étudier son langage

Une équipe de l’Université de Caroline du Sud applique aux grands modèles de langage des tests inspirés de la neurologie pour mieux comprendre leurs erreurs.

Intelligence artificielle
Image d'illustration. Intelligence artificielle — ADN

En bref

  • Des chercheurs lèsent volontairement des IA
  • Leurs erreurs rappellent l’aphasie humaine
  • Des pistes s’ouvrent pour l’IA et les soins

Des tests pensés pour des patients cérébro-lésés servent désormais à ausculter des modèles d’IA. L’idée peut sembler étrange, mais elle dit quelque chose de très concret sur le moment que traverse l’IA générative, des systèmes déjà utilisés dans des contextes où leurs erreurs comptent, alors même qu’on comprend encore mal pourquoi ils déraillent.

Des examens cliniques transposés aux modèles de langage

L’étude, publiée dans Patterns, reprend un vieux réflexe de la neurologie. Depuis plus de 150 ans, médecins et chercheurs observent des lésions cérébrales pour relier une zone touchée à un trouble précis du comportement ou du langage.

L’équipe de Julius Fridriksson, à l’Université de Caroline du Sud, a déplacé cette logique vers les grands modèles de langage, les LLM. Leur méthode, baptisée interprétabilité basée sur les lésions, consiste à introduire volontairement des erreurs dans certaines couches du modèle, puis à lui faire passer des épreuves comparables à celles utilisées en clinique.

Pour Julius Fridriksson, l’enjeu est simple : ces systèmes sont déjà déployés dans des situations où l’échec a des conséquences, mais leur fonctionnement reste largement opaque.

Quand l’IA se trompe comme un patient aphasique

Ce choix ne sort pas de nulle part. Le laboratoire de Fridriksson travaille depuis longtemps sur l’aphasie, ce trouble du langage et de la parole souvent provoqué par un AVC. En étudiant ces patients avec différentes techniques d’imagerie, l’équipe cherche d’abord à améliorer leur récupération, tout en affinant la compréhension des réseaux cérébraux impliqués dans le langage.

Le point de départ de l’étude tenait dans ce parallèle : les modèles de langage apprennent à partir du langage humain, et l’aphasie est une altération de ce même langage. Les chercheurs ont donc voulu voir si des modifications ciblées du modèle pouvaient produire des erreurs comparables à celles observées chez leurs patients.

Résultat, les « lésions » infligées aux modèles ont provoqué des fautes de traitement du langage proches de celles relevées chez des personnes aphasiques. Roger Newman-Norlund, co-auteur à l’Université de Caroline du Sud, explique que les erreurs de langage, de compréhension et de cognition se ressemblent de façon frappante.

Ce que cette piste peut changer pour l’IA et les patients

L’intérêt de l’approche, selon les auteurs, est qu’elle dépasse les simples rapprochements statistiques entre humain et machine. Fridriksson estime qu’elle permet, pour la première fois, de travailler sur une relation de cause à effet. Avec une limite importante quand même, il ne s’agit pas de dire qu’un LLM possède des structures équivalentes à celles du cerveau humain, seulement que certains schémas de défaillance se correspondent.

Et les applications envisagées sont larges. Ces travaux pourraient aider à ouvrir un peu la boîte noire des LLM, à repérer des parties redondantes ou inutiles, puis à concevoir des modèles plus petits et plus sobres en énergie. Ils pourraient aussi servir à créer des « jumeaux numériques » de patients aphasiques, à simuler des essais cliniques et à accélérer l’arrivée de nouvelles pistes thérapeutiques. À moyen terme, le cadre pourrait même être étendu à d’autres troubles neurologiques.

Morgan Fromentin

Spécialiste Santé

X Tous ses articles →
Une erreur dans cet article ?

Nous apportons le plus grand soin à chaque article et nous appuyons sur des sources fiables. Personne n'est à l'abri d'une erreur : si vous en repérez une, signalez-la, nous la corrigerons au plus vite.

Sujets
IA Recherche

Lisez 24matins en priorité sur Google

Ajoutez-nous à vos sources préférées : nos articles remonteront plus haut dans votre actualité.

Ajouter à mes sources

À découvrir

La suite, sélectionnée pour vous.