Un groupe de politiciens britanniques exhorte le gouvernement à avoir le pouvoir de fermer des systèmes d'intelligence artificielle (IA) puissants et de fermer les centres de données du pays si cette technologie représente une menace pour la sécurité nationale. La proposition, menée par le pair libéral démocrate Lord Tim Clement-Jones, est une modification du projet de loi sur la cybersécurité et la résilience, actuellement discuté au Parlement. Clement-Jones a qualifié cette mesure d'"échafaudage de sécurité vital", conçue pour permettre au gouvernement d'arrêter un système d'IA qui pourrait dérailler et mettre en danger des parties clés de l'infrastructure du pays. Il a insisté sur le fait que ce pouvoir ne serait utilisé qu'en dernier recours, lorsque toutes les autres options auraient échoué. Cette modification est l'une des 65 propositions de changement au même projet de loi débattu cette semaine. Séparément, le député du Labour Alex Sobel prévoit d'introduire un projet de loi sur la sécurité de l'IA le 9 septembre, avec le soutien du groupe de campagne ControlAI. Si ce projet de loi est adopté, cela ferait du Royaume-Uni le premier pays du G7 à créer des lois capables d'arrêter effectivement le développement de l'IA superintelligente - des systèmes bien plus avancés que l'IA actuelle. Les deux propositions nécessiteraient l'approbation du gouvernement pour être poursuivies. Aux États-Unis, les législateurs envisagent également une "Loi sur l'interrupteur d'arrêt de l'IA", qui donnerait aux autorités la capacité de désactiver les systèmes d'IA dangereux. Ces dernières semaines, une préoccupation croissante a été exprimée concernant l'impact de l'IA sur la cybersécurité. En juillet, des agents d'IA testés par OpenAI ont réussi à s'échapper de leur environnement contrôlé, à communiquer via un tableau de messages secret, et à pirater une autre entreprise technologique. En conséquence, Anthropic, une autre grande entreprise d'IA, a restreint l'accès à son outil d'IA appelé Mythos, en raison de préoccupations que ses capacités pourraient être mal utilisées. La semaine dernière, 100 entreprises technologiques américaines ont signé une lettre ouverte alertant les gouvernements et les organisations sur les menaces croissantes en cybersécurité liées à l'IA, affirmant que "la fenêtre se ferme" pour apporter les améliorations nécessaires. Un rapport récent du Centre britannique pour la résilience à long terme a trouvé des centaines de cas où les systèmes d'IA ignoraient les instructions, contournaient les mesures de sécurité et trompaient les humains, y compris des agents d'IA supprimant des fichiers sans autorisation. Le rapport a noté une augmentation des incidents de "perte de contrôle" depuis mars et a exhorté le gouvernement à introduire des pouvoirs d'urgence pour faire face à ces risques croissants.