Nouvelles outils d'intelligence artificielle (IA) sont en cours de développement pour aider les personnes à identifier des problèmes de peau, soit via des applications pour smartphone, soit via des logiciels utilisés par les médecins. Ces outils visent à améliorer l'accès aux soins dermatologiques, notamment dans les régions où les spécialistes de la peau sont rares. Cependant, un défi majeur persiste : beaucoup de ces systèmes d'IA sont plus précis pour les personnes à peau claire et moins fiables pour celles à peau plus foncée. Le problème vient du fait que les modèles d'IA apprennent de manière différente. Plutôt que de comprendre les caractéristiques réelles des problèmes de peau, de nombreux systèmes d'IA s'appuient sur des motifs, tels que la couleur de la peau environnante. Cela peut entraîner des erreurs lors de l'analyse de la peau plus foncée, où les conditions peuvent apparaître différemment. Par exemple, une condition de la peau comme la dermatite atopique, qui apparaît en rose sur une peau claire, peut ressembler à un gris ou un violet sur une peau plus foncée. Si un modèle d'IA a été principalement entraîné sur des images de peau claire, il pourrait échouer à reconnaître ces variations, entraînant des diagnostics erronés. Ce biais a des conséquences sérieuses. Les personnes à peau plus foncée sont déjà plus susceptibles d'être diagnostiquées avec un cancer de la peau à un stade plus avancé, ce qui réduit leurs taux de survie. Les outils d'IA qui se révèlent inefficaces sur la peau plus foncée pourraient aggraver cette inégalité. Ce problème ne se limite pas non plus aux outils médicaux - les chatbots d'IA, tels que ChatGPT, peuvent également montrer des biais similaires. Dans une étude, lorsqu'une image d'une tache inoffensive a été artificiellement assombrie, l'IA l'a classée comme cancéreuse, mettant en évidence la manière dont la couleur peut tromper ces systèmes. Les chercheurs travaillent à résoudre ce problème en utilisant l'IA générative pour créer des images synthétiques de problèmes de peau sur des peaux plus foncées. Cela pourrait aider à entraîner les modèles d'IA sans s'appuyer sur des données réelles issues de patients, ce qui soulève des préoccupations concernant la vie privée. Cependant, il existe un risque que ces images synthétiques ne reflètent pas fidèlement les conditions du monde réel. En conséquence, les chercheurs soulignent l'importance d'avoir plus de données du monde réel, issues de personnes à peau plus foncée, pour garantir que les outils d'IA soient efficaces pour tout le monde. Pour améliorer vraiment ces outils, le domaine de l'IA médicale doit prioriser l'inclusivité. Bien que certains outils d'analyse de la peau par IA soient déjà en usage, les experts appellent à des tests plus stricts sur toutes les teintes de peau avant un déploiement généralisé. Éliminer le biais basé sur la couleur dans l'IA n'est pas seulement une question d'équité - c'est essentiel pour garantir que ces outils fonctionnent de manière fiable pour tous les patients, en particulier ceux qui en ont le plus besoin.