Une étude relie discrimination et préférence pour l'IA

Une étude révèle que les consommateurs ayant subi une discrimination sont plus enclins à se tourner vers des recommandations fondées sur l'IA plutôt que vers des conseils humains, afin d'éviter le jugement ou les conversations inconfortables. Les chercheurs soulignent que la peur d'être jugé ou de se sentir gêné peut pousser les personnes à recourir à l'IA. Toutefois, si les systèmes d'IA sont eux-mêmes biaisés, ils risquent d'aggraver la discrimination même que les consommateurs cherchaient à fuir.

Un test de discrimination en conditions réelles

L'étude, menée en conditions réelles, portait sur des participants évalués dans le cadre de demandes de prêt sur un campus universitaire. Une version du questionnaire comportait une question supplémentaire demandant aux participants d'évaluer eux-mêmes la couleur de leur peau, une question conçue pour susciter des sentiments de discrimination. Tous les candidats ont ensuite été refusés ; ceux à qui l'on avait posé la question sur la couleur de leur peau ont déclaré avoir eu le sentiment d'avoir été victimes de discrimination.

Une préférence pour l'IA après une discrimination

Lors d'une collecte de données de suivi, les participants ont eu le choix entre un évaluateur humain et un évaluateur IA. Une proportion nettement plus élevée de ceux qui avaient le sentiment d'avoir été discriminés lors de la première phase a choisi d'être évaluée par le système d'IA, perçu comme « dépourvu d'émotions et de biais ».

Le mécanisme psychologique derrière la préférence pour l'IA

Les consommateurs ayant subi une discrimination semblent nettement plus susceptibles de s'appuyer sur des recommandations fondées sur l'IA que sur des conseils humains. Ce changement peut s'expliquer par un mécanisme psychologique précis : la gêne. Cette émotion sociale apparaît lorsque les individus ont le sentiment d'être jugés négativement par autrui. Les participants exposés à des situations discriminatoires ont déclaré éprouver un niveau de gêne plus élevé, et cette émotion a directement influencé leurs choix ultérieurs. Plus ils se sentaient gênés, plus ils cherchaient à limiter leurs interactions humaines.

L'IA perçue comme neutre

Par rapport aux êtres humains, les systèmes algorithmiques sont perçus comme plus neutres, plus objectifs et moins sujets aux biais ou aux préjugés. Pourtant, la réalité est plus complexe. Les algorithmes peuvent être biaisés, selon les données et l'entraînement qu'ils reçoivent. Or, beaucoup de personnes continuent de les considérer comme neutres et objectifs. Dans ce contexte, ce sont ces perceptions qui comptent le plus. Opter pour l'IA permet aux consommateurs de réduire le risque de se sentir à nouveau jugés ou traités injustement. Cet effet dépend du contexte dans lequel les décisions sont prises. La préférence pour les systèmes d'IA plutôt que pour les humains est particulièrement marquée dans les situations publiques, lorsque les choix sont visibles par autrui. En revanche, lorsque les décisions sont prises en privé, cet effet s'atténue considérablement.

L'IA comme outil de confort psychologique

Ces résultats suggèrent que le recours aux systèmes automatisés est motivé non seulement par des considérations d'efficacité ou de performance, mais aussi par des besoins psychologiques façonnés par des expériences sociales passées. Pour les entreprises, les implications sont importantes. Dans les secteurs où les interactions peuvent être perçues comme sensibles, comme la banque, la santé ou, plus généralement, le service client, proposer des alternatives fondées sur l'IA peut aider certains consommateurs à se sentir plus à l'aise. Pour ces personnes, l'IA n'est pas simplement un outil technologique ; elle devient un moyen d'échapper au jugement social et de reprendre le contrôle après des expériences négatives.

Les risques des systèmes d'IA biaisés

Ces résultats comportent toutefois une mise en garde importante : si les systèmes d'IA sont eux-mêmes biaisés, entraînés sur des données biaisées ou conçus sans prise en compte de l'équité, ils risquent de reproduire, voire d'amplifier, la discrimination même que les consommateurs cherchaient à fuir. Plus grave encore, ce type de discrimination passe souvent inaperçu, car il est dissimulé et difficile à détecter. Le déploiement de l'IA comme alternative « sûre » n'a de sens que si cette sécurité est réelle, et non simplement perçue.