Nouvelle fonctionnalité de Teams pour détecter les médias synthétiques

Microsoft introduit dans Microsoft Teams une nouvelle fonctionnalité qui alertera les participants si une personne présente à une réunion utilise une voix clonée ou un visage généré par intelligence artificielle. La détection des médias synthétiques sera assurée par des fournisseurs tiers, que les entreprises devront sélectionner et autoriser à analyser leurs réunions.

Système de surveillance à l'entrée des réunions

Un moniteur sera placé à l'entrée des réunions pour gérer ces contrôles. Les premières entreprises à recevoir la fonctionnalité seront celles inscrites au programme de déploiement ciblé, qui devraient l'obtenir entre la mi-novembre et la fin du mois de novembre, sur Teams pour Windows, Mac et les navigateurs web.

Processus de configuration pour les entreprises

Selon la documentation de Microsoft, la détection des médias synthétiques est effectuée par des fournisseurs tiers, tandis que l'affichage des alertes est réservé à Teams. Les entreprises devront autoriser un robot externe à participer à leurs visioconférences, deux mois après que Microsoft leur aura fourni les moyens de bloquer automatiquement les robots externes.

Détails des alertes et règles de signalement

Chaque signalement est accompagné d'un score de confiance compris entre 0 et 1, ainsi que d'un niveau de gravité sur trois niveaux. Microsoft cite le clonage vocal et les visages substitués comme exemples, et envoie l'alerte à tous les participants, y compris l'organisateur. Les éditeurs ne doivent pas signaler une même personne plus d'une fois par minute.

Complément aux outils de signalement existants

Avec ce signal automatique, Microsoft complète le bouton « Signaler un problème », prévu pour ce mois-ci, qui permet à un participant de signaler un vol d'identité ou une tentative d'hameçonnage. Toutefois, il reste nécessaire qu'un humain détecte la fraude.

Les utilisateurs mobiles ne bénéficient pas de la fonctionnalité

La note de Microsoft ne mentionne pas les applications pour iPhone et Android. Sur votre téléphone, ce bouton sera donc, pour l'instant, votre seul recours. Microsoft n'a pas encore nommé d'éditeurs certifiés, ni précisé les licences nécessaires, indique Windows Latest.

Préoccupations liées à la vie privée et aux robots tiers

Lorsque Teams améliore le son et l'image de vos réunions grâce à l'IA de Microsoft, l'entreprise promet que l'audio et la vidéo « ne quittent jamais Teams et ne sont stockés nulle part par personne ». Microsoft ne prend pas cet engagement pour le robot d'un éditeur externe.

Outils de détection tiers

Sensity commercialise un robot de détection compatible avec Teams et indique dans sa documentation qu'il rejoint l'appel et capture 30 secondes d'audio et de vidéo à chaque analyse. Microsoft ne dit pas s'il certifiera Sensity, ni combien de temps ces éditeurs conserveront vos conversations, ni s'ils pourront s'en servir pour entraîner leurs modèles.

Risques réels des deepfakes

Les entreprises ont de bonnes raisons de tenter l'expérience. En 2024, un employé d'Arup à Hong Kong a transféré 25 millions de dollars à des escrocs après un appel vidéo au cours duquel son directeur financier et ses collègues étaient tous des deepfakes. Cependant, avec un score de 0,8, vous n'aurez qu'une probabilité, et Microsoft n'a publié aucun taux d'erreur de ces détecteurs.

Une vérification humaine reste nécessaire

Abhijith M B, journaliste chez Windows Latest, doute de leur fiabilité avec une webcam médiocre ou une connexion instable. Avant d'approuver un virement demandé lors d'un appel vidéo, appelez donc votre interlocuteur sur un numéro que vous connaissez, avec ou sans alerte.

Détecteur Microsoft futur mentionné

Dans la documentation PowerShell de Teams, Windows Latest a repéré la mention d'un détecteur signé par Microsoft, réservé à une version future. L'éditeur n'a pas confirmé ce projet.