Avec l'évolution de l'intelligence artificielle (IA), il devient de plus en plus difficile de déterminer si les personnes que l'on croise en ligne sont réelles ou générées par l'IA. L'IA peut désormais créer des avatars et des profils réalistes, certains gérés par des équipes réelles et devenus des figures publiques. Des exemples incluent Tilly Norwood, une actrice générée par l'IA, et Aitana Lopez, une influenceuse virtuelle. Si certains créateurs mentionnent clairement que leurs profils sont générés par l'IA, d'autres ne le font pas, ce qui engendre de la confusion chez les utilisateurs. Pour répondre à ce problème, Instagram, une plateforme de médias sociaux populaire appartenant à Meta, a annoncé de nouvelles mesures. La plateforme a constaté que les utilisateurs sont frustrés lorsqu'ils croisent des profils qui semblent humains mais sont en réalité générés par l'IA. Cette expérience trompeuse a poussé Instagram à agir. L'entreprise prévoit désormais de surveiller les comptes qui ne dévoilent pas leur utilisation de l'IA. Ces comptes pourraient être soumis à des sanctions, comme une visibilité réduite sur la plateforme. Outre la surveillance, Instagram met à jour son système de balisage. Le label "Créateur IA" sera remplacé par "Profil généré par IA". Ce changement vise à rendre plus clair pour les utilisateurs si un profil est entièrement généré par l'IA. Cependant, le nouveau balisage ne s'applique pas aux utilisateurs qui utilisent l'IA pour créer une partie de leur contenu, comme des images ou des vidéos. Cette distinction est encore en cours d'éclaircissement, mais cette mise à jour marque une étape importante dans la gestion de l'augmentation des contenus générés par l'IA en ligne. Cette initiative d'Instagram reflète un effort plus large pour gérer l'influence croissante de l'IA dans les espaces numériques. Alors que les profils générés par l'IA deviennent plus courants, les plateformes travaillent à assurer la transparence et à préserver la confiance des utilisateurs. Bien que des défis persistent, cette initiative représente une approche proactive pour gérer la complexité de l'IA sur les réseaux sociaux.