L'Australie prépare une loi sur la « diligence raisonnable numérique » pour encadrer les interactions avec l'IA et les contenus en ligne, afin de protéger les utilisateurs vulnérables.
Projet de loi numérique ciblant les interactions avec l'IA
L'Australie élabore un projet de loi sur la « diligence raisonnable numérique » afin de réglementer les interactions en ligne, en mettant l'accent sur l'interdiction de l'intimité émotionnelle avec l'intelligence artificielle, pour protéger les utilisateurs vulnérables. Ce texte, présenté par le Parti travailliste du Premier ministre Anthony Albanese, s'appuie sur l'interdiction antérieure des réseaux sociaux pour les utilisateurs de moins de 16 ans.Une loi pour renforcer la sécurité en ligne
La loi proposée vise à établir de nouvelles normes de sécurité en ligne pour les réseaux sociaux, les jeux en ligne, les applications et les agents conversationnels. Elle vise à créer une « obligation mondiale » afin de garantir un environnement en ligne sûr pour tous les Australiens, selon The Guardian.Les utilisateurs pourront refuser les contenus algorithmiques
Une partie du projet de loi permettrait aux utilisateurs de refuser les flux de contenus générés par des algorithmes, et de ne voir que les contenus des créateurs et des personnes qu'ils suivent. Un amendement obligerait les plateformes à rendre cette option clairement visible, sans la dissimuler dans des menus ou des paramètres.Le projet de loi s'attaque aux contenus nuisibles
La loi pourrait également aider à identifier les contenus jugés nuisibles, tels que ceux faisant la promotion de la misogynie, du terrorisme, du suicide, de l'automutilation et des troubles du comportement alimentaire. Ces contenus seraient empêchés d'atteindre les utilisateurs vulnérables, selon le texte proposé.Les critiques dénoncent une censure
Le projet de loi a essuyé les critiques de groupes de droite et conservateurs, qui le qualifient de « système de censure orwellien » et accusent le gouvernement de vouloir contrôler la liberté d'expression en ligne. La ministre des Communications, Anika Wells, a rejeté ces accusations et a exhorté les opposants à soumettre des amendements plutôt que de rejeter la loi en bloc.Des amendements axés sur l'IA et la surveillance
Un amendement approuvé par la chambre basse classerait certains comportements des agents conversationnels comme contenus nuisibles, obligeant les plateformes à interdire les interactions qui simulent une intimité émotionnelle et encouragent la dépendance chez les enfants. Un autre amendement, proposé par la députée indépendante Sophie Scamps, confierait à l'Autorité australienne des communications et des médias le rôle de « chien de garde » des pratiques de l'industrie numérique. Bien que le Parti travailliste n'ait pas adopté cet amendement, il pourrait être examiné par les Verts australiens au Sénat.L'Australie en tête de la réglementation numérique
L'Australie a été le premier pays à interdire les réseaux sociaux aux moins de 16 ans, même si cette politique a connu un succès limité. Le nouveau projet de loi pourrait influencer les futures réglementations numériques dans le monde, car il introduit des contrôles plus stricts sur les plateformes en ligne et les interactions avec l'IA.
