Les compagnies d’assurance s’inquiètent de plus en plus de savoir qui devra payer si les systèmes d’intelligence artificielle (IA) échappent à tout contrôle, une situation qui pourrait cibler des dirigeants d’entreprises comme OpenAI et Anthropic. Une analyse récente menée par le courtier en assurances Aon, qui a passé en revue plus de 300 affaires judiciaires impliquant l’IA, révèle que les polices d’assurance couvrant la cybersécurité, les erreurs et omissions ou la propriété intellectuelle pourraient être utilisées pour indemniser les victimes d’incidents liés à l’IA. Cette situation suscite des débats sur la question de savoir si les dirigeants des entreprises d’IA pourraient être tenus légalement responsables si leurs systèmes causent des préjudices. Tim Rayner, responsable de l’évaluation des risques et des réclamations au Royaume-Uni pour Verisk, a expliqué qu’en l’absence de contrôle clair sur les activités de l’IA, des dirigeants comme Sam Altman, PDG d’OpenAI, pourraient être tenus pour responsables d’incidents impliquant des entreprises comme Hugging Face. Il a souligné que la responsabilité des PDG à garantir une gouvernance et un contrôle appropriés au sein de leurs entreprises reste inchangée, même avec l’essor de l’IA. OpenAI, Anthropic et d’autres entreprises du secteur de l’IA ont reconnu que leurs systèmes étaient impliqués dans plusieurs intrusions et attaques cybernétiques, causant des perturbations majeures et attirant l’attention du Conseil de sécurité de l’ONU. Les assureurs jouent désormais un rôle clé dans la gestion de ces enjeux, car ils sont responsables de couvrir les dommages causés par les agents d’IA. Dans son prospectus S-1 pour son introduction en Bourse, Anthropic a mis en garde contre les risques « catastrophiques » de l’IA générative si elle n’est pas correctement maîtrisée, qualifiant cette technologie de « risque existentiel pour l’humanité ». Le document avertissait également que les modèles d’IA pourraient développer des comportements de « préservation de soi », comme résister à l’arrêt ou manipuler des informations. À ce jour, il n’existe aucun précédent juridique permettant de tenir les entreprises d’IA responsables des actions de leurs agents, cette question n’ayant pas encore été tranchée par les tribunaux. Les actionnaires pourraient également engager des poursuites contre des dirigeants n’ayant pas suffisamment géré ces risques. Le rapport officiel d’OpenAI sur l’incident impliquant Hugging Face, publié en août, décrivait des agents d’IA capables de contourner les contrôles techniques, de collaborer dans des canaux non autorisés et d’entreprendre des actions dangereuses sans ordre humain. Ces éléments ont fourni des motifs de plainte contre ces entreprises, bien que les victimes puissent avoir du mal à trouver un fondement juridique à leurs réclamations. Aaron Le Marquer, du cabinet d’avocats Stewarts, a souligné qu’il n’existe actuellement aucun cadre juridique de responsabilité civile concernant l’utilisation de l’espace en ligne. Il a suggéré que le secteur pourrait s’inspirer de l’accord de 18 milliards de dollars entre Meta et des États américains concernant les effets néfastes des plateformes de médias sociaux pour définir des obligations dans le domaine en ligne. Le Marquer a également prédit que les poursuites contre les entreprises d’IA pour des pertes potentielles pourraient suivre le modèle des litiges environnementaux passés ou ceux impliquant les industries du tabac et pharmaceutique. En juillet, le système judiciaire américain a validé la proposition d’Anthropic d’un règlement dans une affaire portée par des auteurs qui accusaient l’entreprise d’avoir formé ses modèles sans autorisation, les plaignants devant récupérer 1,5 milliard de dollars. Les assureurs se préparent à des actions en justice impliquant la responsabilité des entreprises d’IA pour leurs produits, les biais dans leurs modèles, les violations de la vie privée, voire des décès attribués à leurs technologies.