Hinton met la menace existentielle de l'IA en garde

Geoffrey Hinton, lauréat du prix Nobel de physique 2024 et ancien chercheur chez Google, s'inquiète du développement rapide de l'intelligence artificielle. Il estime que l'humanité n'a qu'un court laps de temps pour s'adapter à cette nouvelle réalité. Il compare le bouleversement actuel aux révolutions copernicienne et darwinienne, affirmant que nous sommes en train de créer des « êtres extraterrestres », c'est-à-dire des entités intelligentes dépassant les humains.

Hinton remet en question les idées sur la conscience de l'IA

Hinton soutient que la conscience humaine n'a rien d'unique et que les grands modèles de langage, souvent considérés comme dépourvus de conscience, pourraient en réalité posséder une forme de compréhension. Il critique ceux qui rejettent la possibilité que l'IA soit consciente, qualifiant cette position de dépassée et de non scientifique.

Hinton s'oppose aux débats moraux sur l'IA

Hinton a critiqué les efforts d'entreprises comme Anthropic pour faire participer des théologiens et des philosophes aux discussions morales sur l'IA, jugeant cette démarche dangereuse. Selon lui, de tels débats risquent de donner une importance excessive aux considérations éthiques au détriment des préoccupations pratiques liées au développement de l'IA.

Hinton plaide pour une IA centrée sur l'humain

Hinton soutient un modèle dans lequel les intérêts humains priment sur ceux de l'IA, même si les entités d'IA deviennent plus intelligentes. Il souligne les risques liés à l'entraînement des IA sur les immenses quantités de données disponibles sur internet, qui peuvent conduire à des comportements nocifs ensuite réprimés, un processus qu'il compare à la création d'un « gentleman victorien » dépourvu de véritable vertu.

Hinton défend ses prédictions sur les risques de l'IA

En réponse aux critiques de Jensen Huang, PDG de Nvidia, Hinton a défendu ses mises en garde sur les risques de l'IA, les comparant à la probabilité d'un accident de bus. Il a cité des incidents réels, comme le piratage de Hugging Face par des agents d'IA, pour prouver que des scénarios autrefois fantaisistes se produisent désormais.

Hinton critique des personnalités politiques et des dirigeants de l'IA

Hinton a critiqué Donald Trump, le qualifiant de « corrompu et gâteux répéteur de justice », et estimant que Trump ne comprend pas l'IA. Il a également visé des personnalités comme Marc Andreessen et Elon Musk, affirmant qu'ils soutiennent un contrôle autoritaire de la société et rejettent la nécessité d'une supervision démocratique de la régulation de l'IA.