L'IA dans le maintien de l'ordre risque d'accentuer les discriminations en héritant de données biaisées, selon une étude d'universités britanniques et australiennes.
L'IA dans le maintien de l'ordre risque d'aggraver les discriminations
Des chercheurs d'universités britanniques et australiennes mettent en garde : l'IA utilisée par la police pourrait aggraver les discriminations, selon un essai d'Adrian Dredge publié le 25 octobre 2026 par la BBC News. Cet article, primé par l'Association of British Science Writers, s'intéresse non pas aux défauts temporaires des logiciels, mais aux données de base sur lesquelles ces outils reposent.L'IA hérite des biais historiques
L'IA déployée dans le maintien de l'ordre hériterait de décennies de contrôles policiers inégalement répartis, sans pouvoir détecter ce déséquilibre dans les archives. Ces archives consignent les faits constatés par les patrouilles, et non le nombre total d'infractions commises.Les biais de la collecte de données
La sociologue Sarah Brayne, qui a observé la police de Los Angeles, a relevé deux biais convergents. Les infractions commises dans les espaces publics laissent davantage de traces écrites, tandis que l'attention des policiers s'est concentrée de manière disproportionnée sur les quartiers noirs. Le modèle apprend donc une géographie de la criminalité qui reflète d'abord celle des patrouilles.Les données « sales » dans les systèmes d'IA
Des juristes de l'Université de New York ont donné un nom à ce problème : dirty data, littéralement des données impures ou biaisées. Dans treize juridictions américaines équipées d'IA, ce problème a été identifié.
