Le gouvernement français étend l’utilisation de l’intelligence artificielle (IA) dans l’administration publique, avec un plan visant à équiper 1 million d’agents publics d’assistants IA. Ce projet est financé par un plan de 655 millions d’euros destiné à intégrer l’IA dans les tâches administratives quotidiennes. Cette initiative intervient alors que les responsables reconnaissent l’importance de garantir que les décisions prises par l’IA soient traçables, explicables et soumises à un contrôle humain. Une enquête menée dans le cadre du plan Notre IA révèle que 89 % des agents publics utilisent déjà des outils d’IA, dont 55 % s’appuient sur des outils publics non vérifiés. Cette utilisation généralisée soulève des inquiétudes quant à la nécessité d’une gouvernance adaptée pour encadrer les risques liés à un déploiement non maîtrisé de l’IA. Des autorités comme l’Agence nationale de la sécurité des systèmes d’information (ANSSI), la Commission nationale de l’informatique et des libertés (CNIL) et le Conseil de l’IA et du numérique pointent les difficultés liées à l’attribution de la responsabilité des décisions prises par des systèmes d’IA autonomes. À mesure que ces systèmes gagnent en autonomie, il devient plus complexe de déterminer qui est responsable d’une décision, et l’origine d’un dysfonctionnement peut être masquée par des étapes de traitement complexes et peu transparentes. Cela suscite des craintes concernant des enjeux critiques, comme le refus erroné d’aides sociales ou la propagation d’erreurs dans les processus administratifs. La feuille de route tracée par les autorités part d’assistants IA qui aident actuellement à la rédaction et à la synthèse d’informations, pour évoluer vers un avenir où l’IA pourrait jouer un rôle plus central dans la prise de décision. Cela pose la question de savoir qui est considéré comme l’auteur des décisions administratives. Des solutions existent, qui se concentrent sur la structure des systèmes d’IA plutôt que d’attendre des avancées technologiques futures. Un agent IA autonome peut être conçu de deux manières : soit il élabore sa logique au moment de l’exécution, créant un vide de responsabilité, soit sa logique décisionnelle est clairement définie et validée à l’avance. Pour des processus comme le traitement des demandes d’aides, les critères d’éligibilité, les documents requis et les seuils sont établis et approuvés lors de la phase de conception. L’agent IA collecte les informations nécessaires, applique les règles préapprouvées et soumet les cas ambigus à un agent humain. Chaque décision peut ainsi être retracée jusqu’à une règle spécifique et à la personne qui l’a validée. L’autonomie, dans ce contexte, renvoie à la séquence des actions entreprises, et non au raisonnement sous-jacent à la décision. La priorité reste le flux de travail, garantissant que chaque action administrative soit reproductible, justifiée et liée à une intention documentée, et donc à un auteur identifiable. Avec le nouveau règlement européen sur l’IA qui entre en vigueur, la traçabilité n’est plus un luxe, mais une obligation légale. Le droit français s’aligne sur cette exigence, puisque le Conseil constitutionnel a admis les décisions administratives fondées sur des algorithmes, mais a explicitement exclu celles issues de systèmes modifiant les règles qu’ils appliquent sans contrôle ni validation.