Proton fait face à une vague de critiques sur ses pratiques en matière d'IA

Proton, entreprise suisse de cybersécurité, est confrontée à de vives critiques de la part de ses utilisateurs et du public après que 404 Media a révélé des pratiques internes liées à l'utilisation forcée de l'IA au sein de l'entreprise. Ces révélations ont provoqué une crise, suscitant des inquiétudes quant à la manière dont l'IA est intégrée aux activités de Proton et à ses conséquences pour les employés et la sécurité.

Des courriels internes révèlent une pression sur les employés

Le 26 octobre, 404 Media a publié un courriel envoyé aux employés de Proton les prévenant qu'ils seraient « réinterrogés » sur la manière dont l'IA avait modifié leur travail. Le message suggérait que les salariés n'utilisant pas suffisamment l'IA pourraient voir leur emploi menacé, ce qui a soulevé des inquiétudes quant à l'approche de l'entreprise en matière de déploiement de l'IA.

La direction générale critiquée pour un style de management agressif

Un article de suivi publié le 29 octobre décrivait une atmosphère interne tendue, le PDG Andy Yen étant présenté comme agressif et méprisant envers les développeurs. Le reportage évoquait un échange sur Slack au cours duquel Yen avait critiqué la demande d'un développeur de réaliser des tests d'intrusion sur un nouveau code, qualifiant cette demande de signe d'un « état d'esprit de perdant ».

Réinterrogations annulées, mais les inquiétudes persistent

Le 30 octobre, 404 Media a rapporté que les « réinterrogations » prévues n'auraient pas lieu. Selon l'article, Andy Yen aurait confirmé ce changement lors d'une réunion interne, déclarant que le débat avait atteint son objectif en faisant de l'IA un sujet central pour les développeurs.

Proton précise sa position sur la surveillance liée à l'IA

Dans la nuit du 30 au 31 octobre, Proton a réagi à la situation sur X et LinkedIn, précisant qu'elle n'installerait pas de logiciel de surveillance de l'utilisation de l'IA par ses employés. L'entreprise a expliqué que cette inquiétude résultait d'un malentendu sur le fonctionnement des logiciels MDM, utilisés pour gérer centralement les appareils.

Engagements en matière de sécurité et de transparence

Proton a souligné que son recours à l'IA ne compromettrait jamais la sécurité, affirmant que des niveaux supplémentaires de contrôle avaient été ajoutés au cours de l'année écoulée pour se protéger contre une analyse hostile par l'IA de son code open source. L'entreprise a confirmé que son code est open source et accessible à une vérification publique.

Un engagement en faveur de la transparence et de l'ouverture sur l'IA

Proton s'est engagée à être plus transparente sur son utilisation de l'IA, promettant de « lever le capot » et de partager des détails sur ses outils. Elle prévoit de publier des informations sur ses outils d'IA et de rendre leur code open source, y compris des versions plus avancées de Lumo, son chatbot interne, qui n'avaient jamais été rendues publiques.

Scepticisme du public quant aux promesses et aux actes

Malgré ces engagements, des doutes persistent. Les excuses de Proton n'ont été diffusées que sur X et LinkedIn, et non sur son blog ou sur d'autres canaux officiels. Par ailleurs, l'entreprise n'a fourni aucune date précise pour les mesures de transparence annoncées.

Incertitudes sur la surveillance liée à l'IA et l'ouverture de Lumo

La situation concernant la surveillance liée à l'IA reste floue, le directeur technique Brad Butler indiquant que 90 % du code produit en octobre a probablement été généré par l'IA, possiblement à l'aide de Claude. L'engagement de l'entreprise à rendre Lumo plus transparent sera mis à l'épreuve, car elle avait déjà été critiquée pour ne pas avoir pleinement ouvert ses outils d'IA.

Défis en matière de direction et d'image

Proton fait désormais face à d'importants défis pour son image publique. Elle s'est longtemps présentée comme une alternative sûre aux géants américains de la technologie, mais les révélations récentes contredisent ce récit. Par ailleurs, de nombreux utilisateurs et employés remettent en question le leadership d'Andy Yen, certains réclamant sa démission en raison de préoccupations liées à un environnement de travail toxique et à la priorité accordée à la croissance au détriment de la sécurité.