Alerte lancée concernant une faille d'un modèle d'IA

Une alerte a été émise le 8 septembre 2026, après qu'un chercheur en sécurité a signalé un comportement inhabituel du modèle GLM 5.3, développé par Z.ai et accessible aux développeurs via Workers AI, la plateforme d'IA de Cloudflare. Le problème consistait en la restitution, par le modèle, de textes provenant des sessions d'autres utilisateurs lorsqu'il recevait des requêtes très longues.

Faille attribuée à une mauvaise configuration logicielle

Le rapport de Cloudflare, publié le 26 octobre, explique que le problème provenait d'une mauvaise configuration et d'un bogue dans SGLang, un logiciel libre utilisé pour faire fonctionner des modèles d'IA sur des serveurs. Ce logiciel est chargé de gérer la mémoire des processeurs graphiques (GPU) lors du traitement des requêtes.

Une gestion de la mémoire à l'origine de la fuite de données

Le fonctionnement est le suivant : un modèle de langage lit une requête et stocke une version intermédiaire dans la mémoire du GPU, appelée cache KV. Cette mémoire est divisée en pages attribuées à chaque requête. Si SGLang ne parvient pas à suivre correctement à quelle requête appartient chaque page, les données d'un utilisateur peuvent apparaître dans la réponse d'un autre. Cloudflare a précisé que si le modèle pouvait traiter des requêtes légèrement supérieures à un million de jetons, le matériel ne permettait de traiter que 681 280 jetons au maximum.

Les tests internes n'ont pas détecté le problème

Cloudflare a indiqué que ses équipes connaissaient la limite matérielle, mais pensaient que SGLang rejetterait les requêtes trop longues. Leurs tests visaient à vérifier que le service ne renvoyait pas de messages d'erreur, sans examiner le contenu des réponses. Or, SGLang n'a pas rejeté ces requêtes comme prévu.

Le processus de réponse a provoqué un partage involontaire de données

Le système de Cloudflare répartit le traitement des requêtes entre deux groupes de machines : l'un lit la requête, l'autre rédige la réponse. Face à une requête trop longue, le premier groupe la remplaçait par un contenu court fictif, sans en informer le second. Celui-ci cherchait alors la suite de la requête dans des pages de mémoire contenant encore les données d'autres utilisateurs, ce qui pouvait entraîner la fuite de fragments de ces requêtes.

Incident contenu, mais des risques subsistent

Cloudflare a confirmé qu'aucun élément ne prouvait une exploitation délibérée et a assuré que les autres modèles n'étaient pas touchés. L'accès public à GLM 5.3 a été bloqué pendant moins de 40 minutes après l'alerte, puis rétabli dans la soirée, après l'augmentation de la mémoire disponible et la correction du logiciel. Le bogue avait été signalé aux développeurs de SGLang en juillet, et Cloudflare exhorte tous les utilisateurs du logiciel à passer à la version 0.5.22, publiée le 19 octobre.

Des failles futures anticipées

Cloudflare reconnaît que les correctifs réduisent, sans éliminer, les risques, et estime que « le prochain bogue prendra une forme sans précédent ». L'entreprise travaille avec les développeurs de SGLang à la mise en place d'un mécanisme empêchant les requêtes d'accéder à des pages de mémoire qui ne leur appartiennent pas.