Les règles sur l'IA n'interdisent ni n'autorisent la force robotique

Les règles européennes sur l'intelligence artificielle et les machines n'interdisent ni n'autorisent clairement les robots autonomes à recourir à la force. Les analyses du règlement sur l'IA (RIA) et du règlement « machines » montrent que le système d'IA d'un robot n'est pas automatiquement considéré comme « à haut risque » au titre de ces textes. Le RIA définit les systèmes d'IA à haut risque en fonction de conditions précises, comme le fait d'être un composant de sécurité d'un produit couvert par l'annexe I et d'être soumis à une évaluation de conformité par un tiers.

Les critères du haut risque sont précis

Le RIA restreint la notion de composants de sécurité, tout en conservant ceux dont la défaillance pourrait mettre en danger la santé et la sécurité. Un système qui déciderait de frapper un être humain entrerait dans cette catégorie, mais le fait qu'il soit soumis à une évaluation par un tiers dépend de sa conception. Le règlement n'aborde pas explicitement le recours à la force par des systèmes autonomes.

Le règlement « machines » couvre certaines fonctions de sécurité

Le règlement « machines » exige l'intervention d'un organisme notifié pour six catégories de produits, dont les systèmes au comportement auto-évolutif. Toutefois, il n'est pas certain que la neutralisation d'un agresseur soit considérée comme une « fonction de sécurité » au titre de ce règlement. Les projets de lignes directrices de la Commission adoptent une approche large, mais la version définitive n'est pas attendue avant la fin de 2026.

Les exigences du RIA ne s'appliquent pas directement aux machines

Même si le système d'IA d'un robot était classé à haut risque, il échapperait à l'essentiel du RIA. Le règlement « machines » figure à la section B de l'annexe I du RIA, ce qui signifie que seuls certains articles s'appliquent. Aucune des exigences du chapitre III du RIA, y compris l'exigence de contrôle humain, n'est directement applicable.

L'annexe III vise la perception, non l'action

L'annexe III du RIA ne cible pas spécifiquement la décision de recourir à la force, mais elle peut couvrir la chaîne de perception d'un robot de sécurité, comme l'identification biométrique à distance et la reconnaissance des émotions. Ces modules de perception seraient soumis à certains articles du RIA à partir du 2 décembre 2027. La décision de frapper resterait toutefois hors du champ.

Le règlement « machines » exclut les armes

Le règlement « machines » encadre déjà la mobilité autonome, mais pas le recours à la force. Il exige des évaluations de risques spécifiques, des systèmes de contrôle et des fonctions de supervision pour les machines mobiles autonomes. Il n'a cependant pas été conçu pour des machines destinées à exercer une force sur des personnes. Si un robot était considéré comme une arme, il sortirait du champ du règlement « machines », qui exclut les armes ainsi que les machines conçues à des fins militaires ou policières.

Calendrier de mise en œuvre et limites juridiques

Le calendrier de mise en œuvre de ces règlements prévoit l'entrée en vigueur du règlement « machines » le 20 janvier 2027 et l'application de l'annexe III du RIA le 2 décembre 2027. La date limite pour les actes délégués au titre du RIA est fixée au 2 août 2028. Selon ces textes, rien n'interdit la mise sur le marché d'un robot humanoïde autonome conforme au règlement « machines », mais rien ne l'autorise non plus à recourir à la force. Il s'agit de législations de mise sur le marché : elles fixent les conditions dans lesquelles un produit peut être vendu, et non ce qu'il peut faire une fois dans la rue.