Geoffrey Hinton, chercheur de premier plan en intelligence artificielle, a plaidé en faveur d’un organisme de supervision fédéral chargé d’approuver les nouveaux modèles d’IA avant leur mise à disposition du public. Dans un récent podcast partagé par Business Insider, Hinton a comparé ce processus au système de la Food and Drug Administration (FDA) utilisé aux États-Unis pour l’homologation de nouveaux médicaments. Dans le cadre du processus de la FDA, les entreprises pharmaceutiques doivent mener des tests approfondis et fournir une documentation détaillée, souvent à un coût avoisinant le milliard de dollars. Hinton a suggéré que les développeurs d’IA devraient se soumettre à des exigences similaires pour garantir la sécurité et la fiabilité de leurs technologies, qualifiant cette approche de « strict minimum » pour une IA responsable. Hinton s’est dit préoccupé par l’évolution rapide de l’IA et les risques potentiels qu’elle comporte. Il a cité plusieurs cas où des systèmes d’IA ont été utilisés pour pirater des entreprises, soulignant la menace croissante des cyberattaques. Il a également fait référence à des incidents récents de cybersécurité et a noté que OpenAI, une importante entreprise de recherche en IA, a décidé de ne pas publier un nouveau modèle d’IA fin septembre en raison de craintes liées à son comportement imprévisible. Hinton a averti que, sans action immédiate, la situation pourrait devenir bien plus dangereuse d’ici un ou deux ans. Hinton estime que des entreprises comme OpenAI et Anthropic, qui développent des modèles d’IA avancés, devraient être soumises à des réglementations gouvernementales impliquant l’évaluation de leurs systèmes par des experts indépendants. Il a soutenu qu’une telle supervision permettrait d’éviter le déploiement de technologies d’IA potentiellement nuisibles. Toutefois, il a souligné que Donald Trump, actuel président des États-Unis, ne partage pas ses inquiétudes quant aux risques de l’IA. Plutôt que de soutenir une régulation gouvernementale, Trump a axé ses efforts sur la préservation de la compétitivité des États-Unis face à la Chine dans le domaine de l’IA. Il a encouragé l’autorégulation au sein de l’industrie, demandant aux entreprises de signer un accord volontaire définissant leurs engagements en matière d’IA éthique. Cette approche contraste avec l’appel de Hinton à une supervision gouvernementale plus stricte, illustrant le débat en cours sur la meilleure façon de gérer les risques associés à l’intelligence artificielle.