Une femme française a récemment reçu un appel téléphonique provenant de ce qu'elle croyait être son fils, dont la voix tremblait et semblait anxieuse, signalant une urgence et demandant de l'argent. Cependant, la voix n'était pas celle de son fils du tout : il s'agissait d'une copie numérique créée à partir d'un court extrait audio trouvé en ligne. Ce cas fait partie d'une tendance croissante en France, où de plus en plus de familles sont ciblées par des arnaques qui utilisent l'intelligence artificielle pour imiter les voix des proches. Cybermalveillance.gouv.fr, une plateforme de cybersécurité soutenue par le gouvernement français, signale que ces arnaques deviennent de plus en plus fréquentes. Les fraudeurs utilisent l'IA pour imiter les voix de membres de la famille, souvent pour demander de l'argent en prétendant une situation urgente. La plateforme prévient que trois secondes d'audio public, comme un extrait d'une vidéo ou d'un message social, peuvent suffire à l'IA pour créer une reproduction convaincante de la voix d'une personne. Ce processus repose sur des modèles d'IA entraînés sur de grandes collections d'enregistrements vocaux. Ces modèles peuvent identifier des traits uniques de la voix tels que le ton, le rythme et la hauteur. Avec un court échantillon audio, l'IA peut générer n'importe quelle phrase dans cette voix, rendant difficile même pour les proches de distinguer une voix réelle d'une voix synthétique. Cette technologie, autrefois le domaine de la science-fiction, est désormais utilisée pour exploiter la confiance des gens envers leurs proches. Bien que les voix clonées puissent sembler très réalistes, certaines indications subtiles peuvent révéler une arnaque. Il s'agit notamment d'un débit de parole anormalement régulier, de l'absence de sons naturels de respiration, ou d'une absence de variation émotionnelle dans la voix. De plus, une voix synthétique pourrait ignorer des détails personnels, tels que les surnoms familiaux ou les blagues internes, qui sont généralement connus uniquement des proches. Pour éviter de tomber victime de ces arnaques, les experts recommandent de raccrocher et d'appeler directement la personne sur un numéro connu. Les familles peuvent également convenir d'un mot ou d'une question secrète à utiliser pour vérifier un appel d'urgence. Limiter le partage d'enregistrements vocaux personnels en ligne est une autre mesure importante pour réduire le risque de clonage vocal. Alors que la technologie de l'IA évolue, les autorités soulignent l'importance de la sensibilisation et de la prudence, car la voix humaine, autrefois une forme fiable d'identification, est désormais à risque d'être manipulée à des fins frauduleuses.