La réglementation de l'IA dans la justice met en lumière ses limites

Le règlement européen sur l'intelligence artificielle classe l'activité judiciaire parmi les usages à haut risque, mais sa mise en œuvre reste incomplète et certains domaines ne sont pas entièrement couverts, selon un rapport récent. Le règlement fixe un cadre de référence, à partir duquel ont été élaborés six principes clés destinés à guider l'utilisation de l'IA dans le secteur juridique.

Six principes encadrent l'usage de l'IA dans la justice

Ces principes sont la primauté humaine, la maîtrise humaine, la responsabilité humaine, la protection des données, la préférence pour les systèmes internes et l'amélioration continue. Le premier principe souligne qu'aucune décision judiciaire ne peut être générée automatiquement, même sous la supervision d'un juge, et que les outils d'IA générative ne peuvent pas être imposés aux magistrats dans l'exercice de leurs fonctions.

Trois niveaux d'usage de l'IA

Une annexe à la charte distingue cette approche des autres principes d'organisation en classant l'usage de l'IA en trois niveaux : autorisé, autorisé sous conditions ou exclu. Cette classification s'applique à deux reprises, selon que l'outil d'IA est interne (développé ou utilisé par la juridiction ou le ministère) ou externe.

Différences entre outils internes et externes

La distinction entre outils internes et externes repose sur des critères tels que le lieu de stockage des données, la personne qui les contrôle et la possibilité de les utiliser pour entraîner de futurs modèles. Pour les entreprises, la question ne porte pas sur des outils précis comme ChatGPT ou Copilot, mais sur l'édition, le contrat, la localisation des données et la question de savoir si l'éditeur utilise les données de l'entreprise pour entraîner ses modèles.

Obligation de formation et de suivi de l'usage de l'IA

La juridiction a mis en place une adresse dédiée pour signaler les dysfonctionnements et les résultats suspects de l'IA, une mesure que les entreprises devraient également mettre en œuvre. La formation aux outils d'IA est obligatoire et doit être adaptée aux fonctions et aux outils réellement utilisés. Cela rejoint l'article 4 du règlement sur l'IA, qui impose aux fournisseurs et aux utilisateurs de favoriser la maîtrise de l'IA par leur personnel, sans les obliger à garantir des niveaux de compétence précis.

La généralisation des outils d'IA suppose une évaluation

L'utilisation d'un outil d'IA n'est autorisée qu'après avoir confirmé que ses bénéfices l'emportent sur ses coûts et ses risques. Beaucoup d'entreprises, toutefois, activent d'abord les outils, souvent à l'initiative de l'éditeur, et ne se penchent sur les bénéfices que dans un second temps. La charte de la juridiction comprend des considérations propres à la justice, comme le secret des délibérations, l'indépendance des juges et le risque de reproduire des solutions juridiques passées.

La charte s'inscrit dans un cadre juridique et social plus large

L'élaboration de la charte a été soumise au comité social d'administration placé auprès du premier président. Elle s'inscrit dans le prolongement d'un accord du ministère de la Justice daté du 10 juillet 2026, relatif à l'utilisation et à l'évaluation des outils numériques, en particulier de l'IA. Dans les entreprises comptant au moins cinquante salariés, des questions similaires se posent, le Code du travail imposant l'information et la consultation du comité social et économique sur les nouvelles technologies.

Un réexamen régulier et une mise en œuvre concrète sont nécessaires

La juridiction s'engage à réexaminer sa charte au moins tous les deux ans, un délai raisonnable compte tenu de la rapidité avec laquelle les outils d'IA et leurs conditions d'utilisation peuvent évoluer. La rédaction de la charte relève d'une tâche juridique, tandis que la compréhension des outils utilisés, notamment leur édition, la localisation des données et leurs fonctions, relève d'une tâche technique. Ces deux volets sont étroitement liés : sans le second, même une charte bien conçue risque de décrire une situation qui n'existe plus. La Cour de cassation suggère que son approche pourrait servir de modèle à d'autres institutions.