D’ici la fin de l’année 2024, Google prévoit d’apporter des changements à son moteur de recherche pour indiquer clairement quelles images ont été générées ou modifiées des outils d’intelligence artificielle (IA). Cette initiative vise à lutter contre la désinformation et à informer les utilisateurs sur la provenance des images qu’ils consultent.
Dans les prochains mois, Google commencera à signaler ces images dans la fenêtre « À propos de cette image » sur Google Search, Google Lens et la fonctionnalité « Circle to Search » sur Android. Il est également possible que d’autres services de Google, comme YouTube, adoptent ces divulgations, mais la société communiquera davantage à ce sujet d’ici la fin de l’année.
Les images concernées seront uniquement celles contenant des métadonnées « C2PA » (Coalition for Content Provenance and Authenticity), un ensemble de normes techniques permettant de retracer l’historique d’une image, notamment l’équipement et les logiciels utilisés pour la capturer ou la créer. Des entreprises comme Google, Amazon, Microsoft, OpenAI et Adobe soutiennent cette initiative. Cependant, son adoption reste limitée, avec peu d’outils génératifs et d’appareils photo (comme ceux de Leica et Sony) intégrant ces spécifications.
Toutefois, un défi majeur demeure : les métadonnées C2PA peuvent être supprimées, corrompues ou altérées, rendant parfois cette information inutilisable. De plus, certains des outils génératifs les plus populaires, tels que Flux utilisé le chatbot Grok d’xAI, n’adhèrent pas encore aux standards C2PA.
Bien que ces mesures ne soient pas parfaites, elles constituent un pas en avant pour contrer la propagation rapide des contenus falsifiés. Entre 2023 et 2024, les escroqueries liées aux contenus générés IA auraient augmenté de 245 %, et les pertes dues aux deepfakes pourraient atteindre 40 milliards de dollars d’ici 2027, selon Deloitte. La majorité des personnes interrogées s’inquiètent d’ailleurs d’être trompées des deepfakes et des contenus de propagande diffusés l’IA.
Ce développement est une étape importante pour améliorer la transparence à l’ère des images générées IA.