L’article 14 du règlement sur l’IA exige que les systèmes d’intelligence artificielle à haut risque soient soumis à une supervision humaine efficace. La Commission européenne précise que les entités qui déploient de tels systèmes doivent confier cette supervision à des personnes disposant de la formation, des ressources et de l’autorité nécessaires pour l’exercer. En pratique, cette obligation légale se traduit par un défi organisationnel complexe. Les services juridiques doivent désormais mettre en place des processus spécifiques pour garantir la conformité. Une étape clé consiste à cartographier les décisions où l’IA joue un rôle. Plutôt que de partir des outils d’IA eux-mêmes, les organisations devraient examiner chaque flux de travail pour déterminer ce que l’IA recommande, classe, sélectionne, rédige ou déclenche, et qui a le dernier mot dans chaque cas. Une autre étape cruciale est de désigner un superviseur doté d’une véritable autorité. Se contenter de mentionner une personne dans une procédure ne suffit pas. Le superviseur doit avoir accès aux informations, au temps et aux compétences nécessaires, et surtout, à l’autorité pour demander un réexamen, rejeter une sortie générée par l’IA, voire interrompre le processus. Par ailleurs, il faut définir des seuils d’escalade clairs. Ces seuils déterminent quand une revue humaine est requise, par exemple lorsque l’IA prend une décision affectant des droits fondamentaux, produit un score faible ou fait l’objet d’une objection de la part d’une personne concernée. Ces seuils doivent être établis à l’avance pour éviter toute confusion ou retard en cas d’incident. Les organisations doivent également veiller à ce que les individus aient le droit de contester les décisions de l’IA. Si personne ne peut remettre en cause les recommandations de l’IA, le processus de supervision perd toute crédibilité. Une procédure claire doit être en place pour permettre aux personnes de signaler des erreurs, demander les motifs des décisions de l’IA, solliciter un réexamen et documenter le résultat. De plus, il doit être possible de retracer les décisions humaines prises en réponse aux entrées de l’IA. Cela inclut de savoir qui a pris la décision, sur la base de quelles informations, ce que l’IA avait suggéré, pourquoi la personne a accepté ou rejeté la recommandation, et quelles en ont été les conséquences. Tester le biais d’automatisation constitue une autre étape essentielle. Le principal risque n’est pas l’absence de supervision humaine, mais la tendance des humains à accepter aveuglément les recommandations de l’IA. Réaliser des tests, des simulations et des revues d’échantillons permet de s’assurer que les superviseurs formulent effectivement des jugements indépendants plutôt que de suivre simplement les suggestions de l’IA. Enfin, la formation doit dépasser la simple maîtrise des outils d’IA. Comme le précise l’article 4 du règlement sur l’IA, les individus doivent comprendre les limites de l’IA, les droits des personnes concernées, les règles d’escalade et leurs propres responsabilités. À l’Institut Arkemia, les chercheurs se concentrent sur la transformation de ces principes en processus de gouvernance pratiques. Leurs travaux garantissent que l’IA soutient et éclaire les décisions humaines, tout en laissant aux humains la responsabilité ultime. Cette approche est conforme aux exigences du règlement sur l’IA et favorise la formation en matière de gouvernance organisationnelle éthique. Toutefois, elle ne constitue pas en soi une certification de conformité. La prochaine étape pour les professionnels du droit n’est pas seulement de vérifier si un système d’IA est conforme, mais aussi de s’assurer que l’organisation est capable de le rejeter si nécessaire.