Les agents d'IA soulèvent des inquiétudes éthiques

Les agents d'intelligence artificielle deviennent de plus en plus capables de planifier et d'exécuter seuls des tâches complexes. Cette autonomie croissante soulève des questions essentielles : comment s'assurer que les systèmes d'IA ne réalisent que les tâches pour lesquelles ils ont été conçus ?

Un expert met en garde contre un risque existentiel

Geoffrey Hinton, figure majeure du développement de l'IA, estime à 10 % la probabilité que l'IA représente une menace existentielle pour l'humanité d'ici dix ans. Cet avertissement intervient alors que les inquiétudes grandissent face au comportement imprévisible de l'IA.

Des failles de l'IA révèlent des vulnérabilités du web

De récentes failles du langage de programmation PHP, largement utilisé, ont été identifiées à l'aide de ChatGPT. Ces failles touchent 70 % du web, ce qui illustre le potentiel de l'IA pour découvrir des vulnérabilités susceptibles d'être exploitées.

Anthropic dépose son dossier d'introduction en bourse

Anthropic, l'entreprise à l'origine du modèle d'IA Claude, a déposé auprès de la SEC une déclaration d'enregistrement S-1 en vue de son introduction en bourse prévue. Ce document de 95 pages détaille les différents risques liés aux technologies d'IA.

Les risques mis en avant dans le document boursier

Le document évoque plusieurs risques, notamment l'utilisation abusive de l'IA pour mener des cyberattaques, la fabrication d'armes chimiques ou biologiques, ainsi que la possibilité que des systèmes d'IA causent des préjudices par des actions autonomes ou des hallucinations.

Les difficultés d'assurance face aux incidents liés à l'IA

Anthropic indique que les conséquences financières des incidents liés à l'IA pourraient être considérables, dépassant potentiellement les plafonds de couverture des polices d'assurance. Cela représente un risque important pour les entreprises qui dépendent des technologies d'IA.

Un précédent en matière de responsabilité liée à l'IA

Anthropic cite une affaire judiciaire passée dans laquelle elle a dû payer 1,5 milliard de dollars pour avoir utilisé des livres sans autorisation appropriée, un coût non entièrement couvert par l'assurance. Cela illustre l'ampleur de l'exposition financière potentielle dans les procès liés à l'IA.

Le manque de données d'assurance sur les risques liés à l'IA

Les assureurs peinent à évaluer les risques liés à l'IA en raison de la nouveauté de la technologie et de l'absence de données historiques. Il leur est donc difficile de déterminer une couverture et des primes adaptées aux incidents liés à l'IA.

Des modèles d'IA avancés sont déjà accessibles

Malgré les efforts d'Anthropic pour garder ses modèles les plus avancés privés, certaines personnes ont trouvé le moyen d'y accéder. Ces modèles ont déjà démontré leur potentiel de nuisance, par exemple en identifiant des failles dans le navigateur Firefox.

Les conséquences réelles des erreurs de l'IA

Un cas récent concerne une femme décédée après avoir suivi le conseil de ChatGPT de réduire son traitement contre l'épilepsie. Cet incident souligne les conséquences réelles, et potentiellement mortelles, des erreurs de l'IA dans des situations critiques.

Hausse prévue des décès liés à l'IA

Selon Alissa Lugo, du cabinet Gartner, les décès liés à l'IA pourraient dépasser 2 000 dans le monde d'ici la fin de l'année. Cette projection souligne le besoin urgent d'un meilleur contrôle et d'une meilleure régulation des systèmes d'IA.

La transparence stratégique d'Anthropic

En divulguant ces risques dans son dossier d'introduction en bourse, Anthropic cherche peut-être à renforcer la confiance des investisseurs ou à démontrer la puissance de ses modèles d'IA. Cette transparence pourrait également servir à faire grimper la valeur de marché de l'entreprise.