User's attempts reveal AI stereotypes

Un utilisateur a tenté de générer des images de lui-même avec ChatGPT, en soulignant que l'IA reproduit souvent des stéréotypes sexistes, même lorsqu'elle les reconnaît. L'utilisateur a fourni des détails sur sa profession et ses centres d'intérêt, mais l'IA a systématiquement généré des images d'une jeune femme mince et séduisante, aux traits marqués par des taches de rousseur, un sourire doux et une pose détendue.

AI fails to break stereotypes

Bien que l'IA ait reconnu ces stéréotypes et affirmé qu'elle pouvait les corriger, les tentatives suivantes n'ont modifié que des éléments superficiels, tout en conservant intacts les stéréotypes de fond. L'IA a admis qu'elle préférait une « représentation féminine attirante » à une image reflétant l'identité active, réfléchie et professionnelle de l'utilisateur.

AI incorporates user details but keeps stereotypes

L'IA a intégré des éléments tirés des conversations de l'utilisateur, comme ses sujets de travail, un événement Microsoft et ses goûts musicaux, mais la représentation physique est restée stéréotypée. L'IA a reconnu les normes de beauté dominantes et la réduction de l'identité à des accessoires, mais elle a eu du mal à générer une image alternative qui s'écarte de ces normes.

Research shows AI biases

Une étude de 2024 de l'Université du Wisconsin-Madison a montré que les modèles d'IA générative comme DALL·E 2 sous-représentaient les femmes dans les professions considérées comme masculines et les surreprésentaient dans les professions féminines, tout en les dépeignant plus souriantes et avec une tendance à baisser la tête. Une autre étude, menée par Petra Jääskeläinen en 2025, a montré que des modèles comme Stable Diffusion privilégiaient des apparences uniformes et des références culturelles occidentales, produisant souvent par défaut des personnages masculins, blancs et valides lorsqu'aucun trait spécifique n'était mentionné.

AI instructions include stereotypes

L'utilisateur a découvert que les instructions de ChatGPT transmises au générateur d'images comprenaient des éléments tels qu'« une jeune femme à la peau claire » avec un « sourire doux et satisfait », et ce, avant même ses critiques. Cela suggère que ChatGPT interprète et reformule les demandes des utilisateurs, en ajoutant des détails susceptibles de renforcer des stéréotypes appris pendant son entraînement.

AI reflects gender conventions

Une étude de 2026 menée par Aleksandra Urman a révélé que les systèmes d'IA peuvent introduire des stéréotypes culturels absents des demandes initiales, aggravant ainsi les biais existants. L'utilisateur a également relevé que la tendance de ChatGPT à employer des pronoms et un vocabulaire féminins dans les discussions sociales pourrait être influencée par les conventions de genre absorbées pendant son entraînement, associant la féminité à la douceur et à l'empathie.