Meta étend les alertes d'automutilation à Facebook

Meta a annoncé qu'elle préviendra désormais les parents si leur enfant recherche des contenus liés à l'automutilation sur Facebook ou via son assistant d'intelligence artificielle. Cette fonctionnalité, lancée pour la première fois sur Instagram plus tôt cette année, est désormais étendue à Facebook et à l'assistant Meta AI, selon Engadget.

Notifications fondées sur les recherches répétées

Les notifications sont déclenchées lorsqu'un adolescent recherche de façon répétée des contenus liés à l'automutilation « dans un court laps de temps », selon la définition de l'entreprise. De même, si un adolescent échange avec l'assistant Meta AI d'une manière qui « suggère un risque de suicide ou d'automutilation », ses parents seront informés.

Comptes pour adolescents et supervision parentale

Ces mesures de sécurité font partie des « comptes pour adolescents », des profils spécialement conçus par Meta pour permettre aux parents de superviser l'activité en ligne de leur adolescent. Ces profils visent également à limiter l'affichage de contenus « sensibles » et les interactions avec des comptes d'adultes. Pour recevoir ces notifications, il est nécessaire de disposer d'un profil lié à un tel compte.

Des alertes aux critères flous, mais qui incitent les parents à agir

Meta n'a pas fourni de critères détaillés pour déclencher les alertes, mais a indiqué au moment du lancement de la fonctionnalité sur Instagram que le mécanisme repose sur « un seuil exigeant plusieurs recherches dans un court laps de temps, tout en restant prudent ». Lorsque ce seuil est atteint, le parent reçoit une alerte par SMS, par e-mail ou par message WhatsApp, ainsi qu'une notification dans l'application. Les alertes ne précisent ni les termes ni le contenu des recherches et des échanges, mais recommandent aux parents de parler avec leur adolescent.

Une partie d'efforts plus larges en matière de sécurité et juridiques

Ces mesures de sécurité s'inscrivent dans les efforts continus de Meta pour répondre aux préoccupations soulevées par plusieurs procès, enquêtes et accusations visant l'entreprise et d'autres réseaux sociaux. Dans ces affaires judiciaires, les algorithmes ont été critiqués pour rendre les adolescents dépendants et pour avoir un effet négatif sur leur santé mentale. Les géants des réseaux sociaux sont souvent accusés de ne pas protéger suffisamment les jeunes utilisateurs contre les contenus et interactions dangereux.