La sécurité, priorité absolue au sommet sur l'IA

Lors du sommet international sur l'intelligence artificielle, organisé à Dublin le 14 octobre, des dirigeants de l'industrie technologique et des responsables européens se sont concentrés sur la sécurité de l'intelligence artificielle, alors que les incidents de cybersécurité deviennent de plus en plus fréquents. Les discussions ont mis en lumière une inquiétude croissante : sans renforcement des efforts de sécurité, des incidents majeurs pourraient survenir d'ici un à deux ans.

Appel à des pratiques de sécurité communes à plusieurs secteurs

Demis Hassabis, président de Google DeepMind, a suggéré de s'inspirer des meilleures pratiques d'autres secteurs qui gèrent des systèmes critiques, comme la biologie ou l'énergie nucléaire. Il a également évoqué son intention de créer une autorité de régulation pour les modèles d'IA les plus puissants, qui pourrait s'inspirer de la Financial Industry Regulatory Authority (FINRA).

Les défis du désalignement de l'IA

Demis Hassabis a insisté sur la question du désalignement des systèmes d'IA, qui consiste à aligner les valeurs et objectifs humains sur les modèles d'IA afin de garantir qu'ils soient sûrs et fiables. Il a averti que ce défi devient plus complexe avec des systèmes de plus en plus automatisés, et que des incidents récents ont montré les risques en jeu.

Nécessité de mécanismes d'urgence pour l'IA

Brad Smith, dirigeant de Microsoft, a appuyé l'idée de mettre en place des « freins d'urgence » ou des disjoncteurs obligatoires dans les systèmes d'IA. Ceux-ci permettraient aux utilisateurs de limiter les dégâts en cas de perte de contrôle, en particulier pour l'IA qui gère des infrastructures critiques ou des systèmes automatisés. Il a souligné que l'IA ne fait actuellement l'objet d'aucune réglementation comparable à celle qui encadre les objets du quotidien.

La volonté de l'UE d'imposer contrôle et transparence

Henna Virkkunen, vice-présidente de la Commission chargée du numérique, a critiqué la course mondiale au développement rapide de l'IA, estimant que la sécurité est négligée. Elle a relevé que les entreprises manquent souvent de visibilité sur les actions de leurs agents d'IA et a insisté sur la nécessité de les contrôler. Elle a également mis en avant la loi européenne sur l'IA, qui oblige les entreprises à garder le contrôle de leurs systèmes, et a demandé aux grands acteurs des informations sur leurs mesures de sécurité.

Concilier innovation et régulation

Sarah Friar, directrice financière d'OpenAI, a soutenu le renforcement des mesures de sécurité, tout en mettant en garde contre des règles susceptibles de ralentir le secteur ou de donner un avantage à des acteurs malveillants. Elle a insisté sur la nécessité d'un équilibre entre innovation et régulation, permettant une évaluation rigoureuse des modèles d'IA sans freiner le progrès technologique.