À la fin de l’année 2025, l’autorité française chargée de la lutte contre les discriminations a exprimé des inquiétudes concernant le système de diffusion des offres d’emploi d’une grande plateforme de médias sociaux. Certaines annonces étaient affichées plus fréquemment auprès des hommes, tandis que d’autres l’étaient davantage auprès des femmes. Cette affaire met en lumière une question de plus en plus pressante pour les entreprises et les responsables publics : comment des systèmes d’intelligence artificielle (IA) peuvent-ils produire des résultats inégaux sans être explicitement programmés pour discriminer ? Cette problématique est d’autant plus urgente avec le règlement européen sur l’IA, qui classe les systèmes utilisés dans le recrutement et l’emploi comme à haut risque. Ce texte souligne clairement qu’il ne suffit pas de supprimer des variables sensibles comme le genre ou l’origine ethnique des systèmes d’IA pour garantir l’équité dans les embauches et les recommandations d’emploi. Une idée reçue veut que les biais n’apparaissent que lorsque l’algorithme utilise directement des caractéristiques protégées, telles que la race ou le sexe. Pourtant, le problème est souvent plus complexe. Les systèmes d’IA apprennent à partir de données historiques, qui peuvent déjà refléter des inégalités passées. De nombreuses plateformes de travail en ligne et outils de recrutement s’appuient désormais sur des systèmes de classement qui privilégient des indicateurs comme les performances passées, le nombre de missions accomplies ou l’expérience accumulée. D’un point de vue entrepreneurial, cette logique semble rationnelle, car elle réduit les coûts de recherche, facilite la détection de profils pertinents et récompense l’expérience. Cependant, ces indicateurs peuvent aussi renforcer les inégalités existantes en supposant que les succès passés reflètent le mérite individuel plutôt que l’accès à des opportunités. Cela crée un cercle vicieux : une personne qui bénéficie d’un léger avantage en début de carrière peut accumuler davantage d’expérience, ce qui améliore son classement dans les systèmes automatisés. Cette visibilité accrue peut lui ouvrir davantage d’opportunités, renforçant encore son avantage. Pour les entreprises utilisant des outils de recrutement basés sur l’IA, cela signifie qu’un classement présenté comme « objectif » ou « basé sur la performance » peut en réalité reproduire et amplifier les inégalités existantes. Des recherches menées sur de grandes plateformes de travail en ligne montrent que ces mécanismes peuvent affecter plusieurs groupes simultanément. En moyenne, les femmes accomplissent moins de missions que les hommes présentant des caractéristiques comparables, comme l’âge, le niveau d’éducation ou le taux horaire. Cela se traduit par une visibilité moindre dans les classements. L’écart peut être encore plus marqué lorsque plusieurs facteurs se combinent : par exemple, les femmes issues de minorités ethniques peuvent subir des désavantages plus importants que ce que laisserait supposer chaque facteur pris isolément. De même, les jeunes professionnels disposent souvent de moins d’expérience à mettre en avant et peuvent être systématiquement désavantagés dans les classements, même si leurs compétences sont comparables. Il en résulte un « déficit de visibilité » qui ne reflète pas nécessairement leurs réelles capacités. Pour les organisations utilisant l’IA dans le recrutement, la gestion des talents ou les ressources humaines, plusieurs enseignements s’imposent. Supprimer des données sensibles comme le genre ou l’ethnie ne suffit pas à éviter les biais. Un système peut encore reproduire des inégalités s’il apprend à partir de décisions passées elles-mêmes biaisées. Même si ces données sont retirées des profils des freelances, le biais initial introduit par les humains peut persister dans les données. Les critères d’optimisation doivent également faire l’objet d’un examen approfondi. Des outils qui identifient les « meilleurs candidats » peuvent favoriser ceux qui ont déjà bénéficié d’une plus grande visibilité ou d’un meilleur accès aux opportunités. Enfin, les boucles de rétroaction – où un système influence la visibilité des candidats, qui à son tour affecte les données futures – doivent être traitées comme un défi sérieux en matière de gouvernance. La mise en œuvre du règlement européen sur l’IA marque un changement de perspective. La question ne porte plus uniquement sur l’utilisation de données sensibles par un algorithme, mais aussi sur la production d’effets discriminatoires par des mécanismes indirects. Ces enjeux dépassent largement le cadre du recrutement. Aujourd’hui, les algorithmes influencent également l’octroi de crédits, la tarification des assurances, les recommandations personnalisées et la modération de contenu. Dans tous ces domaines, comprendre l’origine des données est tout aussi important que la conception technique des modèles.