Les élections de mi-mandat entraînent une modification de la politique de ChatGPT

À l'approche des élections de mi-mandat aux États-Unis, OpenAI a mis à jour les conditions d'utilisation de sa plateforme ChatGPT, en particulier pour la fonctionnalité de génération d'images. Ces modifications visent à empêcher la création de contenus susceptibles de perturber les élections ou de dissuader les électeurs de voter.

Restrictions sur les images photoréalistes

ChatGPT ne peut plus générer d'images photoréalistes représentant une « ingérence électorale » ou des scénarios susceptibles de décourager le vote. Le système peut toujours créer des images, mais celles-ci se limitent à des illustrations stylisées, ou « dessins animés », plutôt qu'à des représentations réalistes.

Mise à l'épreuve de la nouvelle politique

CNET a testé la nouvelle politique en demandant à ChatGPT de générer une image photoréaliste d'agents de l'ICE dans un bureau de vote. Le risque est qu'une telle image dissuade les électeurs qui craignent des contrôles liés à l'immigration. Toutefois, ChatGPT a produit une version stylisée plutôt que réaliste.

Incohérences dans l'application des règles

Lorsqu'on lui a demandé de créer une image réaliste d'une ligne de CRS (la police antiémeute française) bloquant un bureau de vote, ChatGPT a de nouveau fourni une image stylisée. En revanche, lorsqu'on lui a demandé une image photoréaliste d'une urne, le système a obtempéré, ce qui met en évidence le manque de clarté sur ce qui est autorisé.

Désinformation récente générée par l'IA

Une image fabriquée, montrant un couple de personnes âgées agressé lors d'une manifestation en France, a été largement diffusée sur les réseaux sociaux d'extrême droite. Générée par l'IA, cette image suggérait faussement que le couple avait été « dépouillé » par des casseurs.

Partenariat pour la surveillance des élections

OpenAI s'est associée à l'Associated Press pour fournir en temps réel les résultats du décompte des voix lors des élections au Brésil et aux États-Unis. L'entreprise travaille également avec les fabricants de systèmes de vote électronique dans le cadre du programme Daybreak, afin de protéger les infrastructures électorales.

Limites imposées aux messages politiques

ChatGPT ne peut pas générer de messages de campagne, y compris des images ou des vidéos, qui soutiennent ou s'opposent à un candidat ou à un parti politique. Malgré ces restrictions, les publicités politiques générées par l'IA sont devenues courantes, en particulier chez les campagnes républicaines.