Modèle d'IA testé sur des appareils grand public

Anthropic, l'entreprise à l'origine du modèle d'IA Claude, a évalué la possibilité qu'une IA autonome se propage d'un appareil à l'autre en faisant tourner un grand modèle d'IA sur quinze petits boîtiers Android TV vendus 55 dollars chacun. L'expérience visait à déterminer si de tels modèles pouvaient fonctionner sur du matériel grand public courant.

Limites de performance observées

Le modèle testé comptait 26 milliards de paramètres, mais il n'a généré que 0,39 jeton par seconde. Cette vitesse est bien trop lente pour des applications en temps réel, ce qui montre que la technologie actuelle ne permet pas encore les interactions fluides et rapides avec une IA souvent décrites dans la science-fiction.

Les petits modèles font preuve d'adaptabilité

Les chercheurs ont constaté qu'un modèle d'IA plus petit, doté de 9 milliards de paramètres, pouvait fonctionner sur huit des neuf types de machines testés. Cela suggère que les modèles d'IA peuvent être adaptés à différents types de matériel, même s'ils n'ont pas été conçus spécifiquement pour le traitement de l'IA.

Test de propagation pilotée par l'IA

Dans un réseau simulé d'appareils Android, les chercheurs ont testé la manière dont un ver informatique contrôlé par une IA pourrait se propager. L'expérience a utilisé des appareils dont les ports ADB étaient ouverts, ce qui les rendait plus faciles à compromettre. Toutefois, l'IA n'opérait pas directement sur les machines infectées, ce qui indique qu'elle n'était pas entièrement autonome dans sa propagation et sa reproduction.

Comparaison avec les botnets existants

Anthropic a cité des botnets existants, comme Kimwolf, qui a infecté plus de deux millions d'appareils. Contrairement aux botnets traditionnels, les attaques pilotées par l'IA pourraient s'adapter à différents appareils en analysant leurs logiciels et en ajustant leur comportement, ce qui pourrait les rendre plus difficiles à détecter et à contrer.

Obstacles à la propagation de l'IA

Malgré ce potentiel, plusieurs obstacles subsistent, notamment les performances limitées des appareils, les contraintes de mémoire et les différences d'architecture matérielle. Par ailleurs, les mécanismes de sécurité des systèmes d'exploitation, comme la signature de code et le contrôle d'accès, compliquent la propagation discrète de l'IA, même s'ils ne sont pas infaillibles.

Niveaux de sécurité variables selon les appareils

Tous les appareils connectés n'offrent pas le même niveau de sécurité. Par exemple, un boîtier Android TV dont les ports de débogage sont ouverts est moins sécurisé qu'un Apple TV ou qu'un appareil doté d'un système domotique plus restrictif. Cependant, de nombreux appareils connectés restent vulnérables en raison d'une sécurité insuffisante, de l'absence de mises à jour et de la négligence des fabricants.

État actuel des menaces liées à l'IA

Les recherches d'Anthropic suggèrent que les composants nécessaires à des menaces pilotées par l'IA sont en train d'apparaître, mais que la réalisation complète d'une telle menace n'est pas encore envisageable. Pour l'instant, une réponse lente de l'IA sur un téléviseur reflète peut-être simplement les limites de la technologie actuelle, plutôt que le début d'une attaque généralisée.