Google Search dévoile un nouveau tour pour vous protéger des images générés par IA

Il est possible de repérer des images générées par l'intelligence artificielle. Cette prouesse technique ouvre de nouvelles perspectives, mais soulève également des questions. Parviendrons-nous à distinguer le vrai du faux à l'avenir ?

Une technologie pour débusquer les images générées par l’IA

Google, en collaboration avec la Coalition pour la Provenance et l’Authenticité du Contenu (C2PA), travaille sur une technologie visant à identifier si une image a été prise avec un appareil photo, modifiée par des programmes comme Photoshop ou générée par des modèles d’IA comme le modèle Gemini de Google.

En savoir plus sur l’image : une nouvelle fonctionnalité Google

Dans le cadre de cette technologie, les résultats de recherche Google bénéficieront d’une nouvelle fonctionnalité « à propos de cette image« , qui vous informera sur la manière dont une image a été créée ou éditée.

Le rôle de la C2PA dans la lutte contre la désinformation

La C2PA, dédiée à lutter contre la désinformation et les images générées par l’IA, a développé une norme technique d’authentification incluant des informations sur l’origine du contenu, créant ainsi une traçabilité numérique. Cette norme est soutenue par de grandes entreprises investissant dans le domaine de l’IA, telles que Google, Amazon, Microsoft, OpenAI et Adobe.

Bien que l’adoption de cette norme n’ait pas encore connu un grand succès, son intégration dans les résultats de recherche Google marquera le premier grand test pour cette norme.

Google et la version 2.1 de la norme

Google, ayant collaboré à la dernière version de la norme (2.1), prévoit de la combiner à une liste de confiance C2PA à venir. Cette liste permettra à Google Search de confirmer l’origine des images. « Par exemple, si les données montrent qu’une image a été prise par un modèle spécifique d’appareil photo, la liste de confiance aide à valider que cette information est précise« , explique Laurie Richardson, vice-présidente de Trust & Safety chez Google.

Les informations d’authentification proviennent de deux produits Google spécifiques : Search et Ads. « Notre objectif est de renforcer cela au fil du temps et d’utiliser les signaux C2PA pour informer notre manière d’appliquer les politiques clés« , déclare Richardson. « Nous explorons également des moyens de transmettre les informations C2PA aux spectateurs sur YouTube lorsque le contenu est capturé avec une caméra, et nous aurons plus de mises à jour à ce sujet plus tard dans l’année. »