Un récent recours déposé par l’État de New York contre TikTok allègue que la plateforme de médias sociaux a délibérément fourni un outil de sécurité non fonctionnel à des milliers de jeunes utilisateurs. L’objectif était d’étudier comment l’absence de cet outil influençait leur temps passé sur l’application et les revenus publicitaires générés. Cet outil, appelé Algo Refresh, était conçu pour permettre aux utilisateurs de réinitialiser leurs recommandations de contenu et d’échapper à des contenus indésirables ou nuisibles. Pourtant, selon le recours, ces utilisateurs ont été sélectionnés à leur insu comme groupe témoin pour mesurer l’impact sur les performances de la plateforme. Le recours a été déposé en 2024 par la procureure générale de l’État de New York, Letitia James, qui accuse TikTok d’avoir créé un service rendant les enfants dépendants et d’avoir trompé les utilisateurs sur ses fonctionnalités de sécurité. Il s’agit de l’un des plus de deux douzaines de recours intentés par des États américains contre TikTok. L’outil Algo Refresh, décrit dans le recours comme une expérience « fantôme » ou placebo, devait offrir aux utilisateurs un nouveau départ en réinitialisant leurs recommandations de contenu. Cependant, le recours affirme que des milliers d’utilisateurs, dont des adolescents et des enfants, ayant activé cette fonctionnalité ont reçu une version non opérationnelle. Ces utilisateurs auraient cru avoir réinitialisé leur fil d’actualité, mais leur contenu n’aurait pas changé, contrairement à ceux ayant bénéficié de la version complète. Selon le recours, TikTok a présenté la sécurité comme une priorité et affirmé que son service était adapté aux enfants, tout en privant délibérément les utilisateurs souhaitant éviter les contenus nuisibles de cet outil de sécurité. Des documents internes cités dans le recours indiquent que certains employés ont exprimé des inquiétudes quant au caractère trompeur de ces tests. Dans une communication interne citée par le recours, un chef de produit de la division bien-être numérique de TikTok aurait averti que l’approche du groupe placebo était en contradiction avec les objectifs affichés par l’entreprise en matière de transparence et de contrôle. Malgré cela, la société aurait répété ces tests en 2023 sur des milliers d’utilisateurs, comparant ceux ayant bénéficié de la fonction complète Algo Refresh à ceux qui en étaient privés. Le recours affirme également que TikTok a mal représenté cette fonctionnalité, la décrivant comme une réinitialisation de l’algorithme de recommandation alors qu’il ne s’agissait que d’un changement temporaire. Un porte-parole de TikTok a répondu en déclarant que l’entreprise améliore en permanence sa plateforme et teste régulièrement de nouvelles fonctionnalités pour comprendre leur impact réel, ajoutant que les allégations déforment l’objectif d’Algo Refresh. Le recours fait également référence à une série distincte d’expériences précédemment rapportées par Bloomberg, au cours desquelles TikTok aurait prétendument désactivé aléatoirement les protections de sécurité sur les comptes d’utilisateurs limitant l’exposition à des contenus nuisibles. Bloomberg a rapporté qu’un adolescent new-yorkais participant à ce test s’est suicidé après avoir été exposé à des contenus liés à l’automutilation et au suicide. Selon le recours, des examens internes ont montré que l’adolescent avait été exposé à une grande quantité de ce type de contenu. Toutefois, aucun lien de causalité direct entre ce décès et l’expérience n’a été établi devant les tribunaux. TikTok fait actuellement l’objet de poursuites dans plusieurs États, et en septembre, l’entreprise a conclu un accord avec l’Alabama, convenant de verser jusqu’à 300 millions de dollars et de modifier le fonctionnement de sa plateforme pour les adolescents dans cet État.