À mesure que les systèmes d'intelligence artificielle (IA) deviennent capables d'accomplir des tâches opérationnelles complexes, telles que la conciliation des comptes financiers, la négociation avec les fournisseurs, la signature de documents et la soumission de documents juridiques, l'attention se déplace de ce que l'IA peut faire à la question de savoir qui est responsable de ses actions. Le fait de déléguer l'autorité à l'IA introduit de nouveaux défis en matière de responsabilité : qui a autorisé l'IA, quels sont les intérêts qu'elle sert, jusqu'où s'étend son autorité, et qui est responsable en cas de problème. Ces questions ne peuvent pas être résolues en améliorant simplement les capacités de l'IA. Elles nécessitent plutôt un système clair qui fixe les limites de ce que l'IA peut faire et qui crée un registre reliant chaque action à la personne qui l'a autorisée. Les systèmes d'IA peuvent commettre des erreurs, et ces erreurs peuvent rapidement devenir des problèmes majeurs. Par exemple, un agent d'IA pourrait accidentellement envoyer une facture à un client erroné ou mal interpréter une instruction, entraînant des erreurs généralisées sur un marché. La vitesse à laquelle l'IA opère peut transformer même une petite erreur en un problème important, surtout lorsqu'elle a le pouvoir d'envoyer des messages, de soumettre des documents juridiques ou de transférer de l'argent. Pour gérer ces risques, les agents d'IA peuvent être légalement liés à des personnes réelles par des identifiants sécurisés qui suivent les actions de l'agent et les remontent à la personne qui l'a déployé. Des permissions et des règles claires peuvent être établies pour définir l'autorité de l'IA, de sorte que ses actions soient visibles et pouvant être examinées. Ces permissions peuvent être très spécifiques, par exemple, un agent d'IA pourrait être autorisé à consulter des documents financiers sans y apporter de modifications, ou à préparer un paiement sans l'approbation effective. Ces permissions peuvent également être temporellement limitées, telles que prendre fin après une seule transaction ou une période spécifique. L'annulation de l'autorité d'un agent d'IA devrait être simple, permettant à une entreprise de retirer son accès sans affecter les identifiants de la personne qui l'a déployé. Cela garantit que l'autorité juridique de l'IA peut durer plus longtemps que le modèle d'IA lui-même, qui pourrait être mis à jour ou remplacé au fil du temps. L'Estonie explore ces questions en développant un système étatique permettant d'enregistrer les agents d'IA, disponible à la fois pour ses citoyens et les entrepreneurs internationaux. Ce système fait partie des efforts de l'Estonie pour adapter ses services publics entièrement numérisés à l'utilisation croissante de l'IA dans le secteur des affaires. Selon le plan actuel, les individus recevraient un identifiant numérique unique pouvant être lié à un ou plusieurs agents d'IA agissant à leur place. Toute opération effectuée par un agent d'IA serait considérée comme l'action d'une machine, la personne naturelle restant légalement responsable. Les fournisseurs de services privés devraient également savoir si une opération a été effectuée par une personne ou par un agent d'IA, leur permettant d'appliquer des contrôles et des évaluations des risques appropriés. L'approche de l'Estonie s'appuie sur son système d'identité numérique existant, qui permet déjà aux personnes d'agir en faveur d'autres avec des limites de permissions claires. Ce système pourrait aider à établir des mandats clairs pour les agents d'IA, donnant aux utilisateurs plus de confiance dans le fait que des mesures de protection sont en place pour les protéger contre les erreurs prévisibles de l'IA. Avant que les agents d'IA puissent être donnés un pouvoir décisionnel significatif, ils ont besoin d'un cadre à la fois techniquement et juridiquement solide, définissant clairement qui ils représentent, ce qu'ils peuvent faire et qui est finalement responsable de leurs actions.