La loi européenne sur l'IA met l'accent sur la compréhension

La loi européenne sur l'IA exige que les entreprises démontrent qu'elles comprennent réellement leurs systèmes d'IA, et ne se contentent pas de cocher des listes de conformité. Il s'agit de savoir quels systèmes sont utilisés, à quelles fins, quels niveaux de risque ils présentent et qui en est responsable.

L'inventaire révèle une utilisation cachée de l'IA

Une première étape pour se conformer à la loi sur l'IA consiste à établir un inventaire de tous les outils d'IA utilisés. Cet exercice fait souvent apparaître des applications d'IA que les services juridiques ou informatiques ignoraient, comme des outils de présélection de candidats à l'embauche ou d'analyse de documents. Ces découvertes montrent à quel point l'IA est répandue dans les organisations, et parfois de manière inattendue.

La classification des risques repose sur un inventaire clair

Classer les systèmes d'IA selon leur niveau de risque, de l'interdit au minimal, n'est efficace que si les entreprises disposent d'un inventaire précis de leurs outils d'IA. La loi sur l'IA impose des obligations différentes selon le rôle de l'entreprise (fournisseur, déployeur, importateur ou distributeur), et ces rôles doivent être clairement définis dans la chaîne d'approvisionnement. Par exemple, une entreprise qui utilise l'IA pour faciliter le recrutement, sans automatiser les décisions finales, doit être en mesure de justifier pourquoi il ne s'agit pas d'un usage à haut risque, ou de prouver qu'elle respecte les exigences applicables.

La maîtrise de l'IA est une exigence essentielle

La loi sur l'IA insiste également sur l'importance de la maîtrise de l'IA, en demandant aux utilisateurs de comprendre les limites des systèmes, leurs biais potentiels, leurs effets sur les données personnelles et leurs propres responsabilités. Il s'agit de favoriser une culture commune autour de l'IA plutôt que de simplement apprendre à utiliser des outils. La loi sur l'IA s'articule avec le RGPD, qui continue de s'appliquer lorsque les systèmes d'IA traitent des données personnelles : les bases juridiques, la minimisation des données, l'information des personnes et les analyses d'impact restent donc pertinentes.

La loi sur l'IA vise une gouvernance continue

La loi sur l'IA est considérée comme un outil de gouvernance plutôt que comme une simple contrainte réglementaire. Comprendre les usages, les finalités, les garanties et les responsabilités liés aux systèmes d'IA est essentiel pour prendre des décisions éclairées sur leur déploiement. La conformité est un processus continu, qui exige une évaluation permanente à chaque nouvel outil d'IA, à chaque changement de fournisseur ou à chaque intégration d'un modèle à usage général dans un produit. La réussite de la conformité dépendra de la capacité à faire de l'inventaire et de la gouvernance un réflexe, plutôt qu'un projet ponctuel.