La fillette à la pancarte aux fautes d'orthographe ne manifestait pas

La jeune fille tenant une pancarte comportant des fautes d'orthographe n'était présente à aucune manifestation. Son image a été créée grâce à l'intelligence artificielle, puis partagée par diverses personnalités publiques et organisations.

Des images produites par IA se propagent sur les réseaux sociaux

Depuis la mi-octobre, des comptes de réseaux sociaux très suivis associent de vraies photos de manifestations à des images générées ou retouchées par IA. Ces images ont été largement diffusées sans vérification par des élus et par un syndicat de police.

Manifestations lycéennes et contenus générés par IA

Des lycéens bloquent leurs établissements et partagent des photos des manifestations quotidiennes depuis le 17 septembre. L'une des premières images devenues virales était le portrait d'une jeune fille tenant une pancarte comportant des fautes d'orthographe.

Vérification des images générées par IA

Les Observateurs de France 24 ont confirmé que l'image de la fillette à la pancarte avait été créée à l'aide d'un outil d'IA développé par OpenAI. La pancarte elle-même a été générée par un modèle d'IA appelé DALL·E.

Le filigrane SynthID utilisé pour la détection

Google DeepMind a mis au point le filigrane SynthID, adopté par OpenAI pour les images de ChatGPT. Cet outil permet aux internautes de vérifier si une image a été créée ou retouchée à l'aide de l'IA.

Vérification de l'image de la Panthère rose

Les journalistes de vérification espagnols de Newtral ont utilisé le SynthID Detector pour confirmer que l'image de la Panthère rose était générée par IA. CheckNews a également confirmé que l'image avait été créée ou retouchée avec l'IA de Google.

Les origines des images générées par IA

Libération a retracé la première utilisation de ces images générées par IA jusqu'à un artiste sur internet, qui les avait partagées sur la plateforme Klek Studio. Les images ne provenaient pas à l'origine de Paris et ont ensuite été retouchées pour donner l'impression qu'elles y avaient été prises.

Les limites des outils de détection de l'IA

Google met en garde : son SynthID Detector n'est pas un outil de détection générale de l'IA et ne peut pas identifier les images créées par des modèles qui ne portent pas le filigrane SynthID. Certaines images générées par IA restent donc indétectables.

Des fausses images relayées par des responsables

Des élus et un syndicat de police ont partagé des images générées par IA sans en vérifier l'authenticité. Un conseiller régional du Rassemblement national a publié l'image de la fillette à la pancarte en la commentant.

Impact sur la perception du public

Malgré les avertissements des détecteurs de contenus d'IA et des internautes, les images générées par IA ont été largement diffusées. Certains médias ont relayé ces images sans indiquer clairement qu'elles pouvaient être fausses ou retouchées.