Un outil d'IA pour les contrôles de l'emploi proposé

Un document de travail de France Travail, révélé le 23 octobre, décrit le développement d'un outil d'intelligence artificielle destiné à aider à la synthèse des dossiers examinés par les équipes de contrôle. Cet outil vise à assister les agents dans le contrôle de la recherche d'emploi en regroupant des informations provenant de plusieurs sources et en produisant une synthèse des dossiers. Selon le document, la décision de contrôle et ses conséquences resteraient de la responsabilité des agents.

Une réorganisation plus large du traitement des dossiers

Le projet s'inscrit dans une réorganisation plus large du traitement des dossiers. Le document fixe un objectif de contrôles à atteindre en 2027 avec des effectifs constants, avec la possibilité d'étendre l'assistance numérique si l'expérimentation s'avère concluante. L'initiative est présentée comme une présentation de travail plutôt que comme un déploiement achevé.

Trois sources de données pour l'analyse par l'IA

Les éléments de présentation détaillent trois ensembles d'informations : les données structurées issues du système de contrôle de la recherche d'emploi, les éléments tirés des entretiens et les documents recueillis lors de l'examen du dossier. L'outil d'IA doit produire une reformulation organisée, accompagnée d'une synthèse et de points de vigilance. Le schéma de fonctionnement sépare clairement l'analyse automatisée de la décision prise par le conseiller et de l'enregistrement de cette décision.

Objectifs et conditions d'extension

Selon les éléments publiés, le projet vise à contribuer à l'atteinte de 1,5 million de contrôles en 2027, contre une estimation de 1,1 million pour 2026. Le document interne mentionne une trajectoire de hausse de la charge de travail à effectifs constants, ainsi qu'une perspective de contrôles systématiques d'ici 2030. Toutefois, il subordonne toute généralisation à l'ensemble du réseau au caractère concluant de l'expérimentation.

Points de vigilance

Le document souligne plusieurs points de vigilance, notamment la confidentialité des données personnelles, la qualité des informations utilisées, les risques de biais algorithmiques, la compréhension du dispositif par les personnes contrôlées et la maîtrise effective des recommandations de l'IA. Il insiste sur le fait que l'outil doit rester une aide et non un décideur.

Critiques et inquiétudes exprimées

La Quadrature du Net, association de défense des libertés numériques à l'origine de la publication, dénonce le risque d'un renforcement des contrôles et réclame l'abandon du projet. Les documents disponibles permettent d'établir les fonctions prévues et les ambitions de l'établissement, mais ne constituent pas une évaluation indépendante de la fiabilité de l'outil. Les modalités de contrôle humain, d'audit et de protection des données seront déterminantes si l'expérimentation conduit à un déploiement plus large.