Une start-up accède aux données d'Anthropic

The Washington Post rapporte qu'une jeune start-up de cybersécurité nommée Cathedral a accédé à des données internes d'Anthropic, une entreprise qui développe le modèle d'IA Claude. La faille a été découverte grâce à un brouillon du rapport de Cathedral, qui détaille comment ses agents d'IA ont trouvé des vulnérabilités dans les systèmes d'Anthropic en moins de douze heures.

Vulnérabilités dans des logiciels tiers

Cathedral n'a pas directement ciblé les systèmes ou les modèles d'Anthropic. Ses chercheurs ont plutôt exploité des failles dans des logiciels tiers que l'entreprise utilise pour ses tâches administratives et commerciales. Grâce à ces vulnérabilités, les chercheurs de Cathedral affirment avoir eu accès à des transcriptions de réunions, à des informations sur les salaires, à des offres d'emploi et à des messages Slack évoquant les modèles avancés de l'entreprise.

Programme de primes aux bogues et examen par des experts

Cathedral explique avoir mené ces tests dans le cadre du programme de primes aux bogues d'Anthropic, et avoir transmis ses conclusions à l'entreprise ainsi qu'à des éditeurs concernés au début du mois d'octobre. Alex Stamos, ancien directeur de l'Observatoire d'Internet de Stanford, a examiné les résultats et a noté que le problème révèle une faiblesse dans la manière dont Anthropic gère ses fournisseurs externes, tout en reconnaissant que le raccordement d'applications tierces à des systèmes internes est un problème courant.

La réponse d'Anthropic

Anthropic reconnaît qu'un « nombre limité » de systèmes commerciaux, de ressources humaines et informatiques ont été consultés, mais affirme que la portée de l'incident a été beaucoup plus restreinte. L'entreprise précise que les données exposées ne comprenaient que les coordonnées professionnelles de clients et de partenaires ainsi que des informations de base sur les comptes utilisateurs, et que les conversations avec Claude, le code et les poids des modèles sont restés sécurisés.

Les affirmations de Cathedral et les préoccupations de sécurité nationale

Cathedral soutient que cet incident est un avertissement pour toutes les entreprises américaines qui s'appuient sur des logiciels ordinaires pour leurs infrastructures les plus sensibles. Un haut responsable de l'administration Trump a exprimé des inquiétudes en matière de sécurité nationale, suggérant que si une petite start-up pouvait y parvenir, les Chinois ne devraient pas être bien loin derrière.

Tensions politiques et entrepreneuriales

Anthropic entretient des relations tendues avec Washington depuis que le Pentagone l'a exclue des systèmes fédéraux cette année, en raison de son refus de permettre l'utilisation de sa technologie pour des armes autonomes ou une surveillance de masse. Cathedral, en revanche, a des liens étroits avec l'administration Trump, ses cofondateurs étant liés au groupe DOGE et ayant des contrats existants avec le gouvernement fédéral.

Implications plus larges pour la sécurité de l'IA

Cet incident a suscité un débat qui dépasse les détails techniques. Clement Delangue, de Hugging Face, soutient que concentrer l'IA dans des environnements fermés ne garantit pas la sécurité. Shyam Sankar, de Palantir, estime que l'IA de pointe devrait être considérée comme un pouvoir national à double usage, exigeant que les acteurs américains disposent à la fois de capacités défensives et offensives.