Des scientifiques réclament une supervision internationale de l'IA

Plus de 400 scientifiques demandent la création d'un organisme international chargé de superviser la sécurité de l'intelligence artificielle, selon un entretien accordé à Sciences et Avenir par Laurent Daudet, directeur exécutif de l'IA à l'École normale supérieure (ENS). Le groupe compte des personnalités éminentes du domaine, telles que Geoffrey Hinton et Yoshua Bengio, considérés comme des pionniers de l'intelligence artificielle.

Les grandes entreprises d'IA soutiennent la régulation

Cet appel à la supervision rejoint les recommandations de grandes entreprises américaines du secteur de l'IA, dont Anthropic et OpenAI. Ces sociétés, qui ont mis au point respectivement les modèles d'IA Claude et ChatGPT, ont également exprimé la nécessité d'une régulation urgente des technologies d'IA.

Modèles d'IA fermés et tests

Une caractéristique commune des systèmes d'IA comme Claude et ChatGPT est qu'il s'agit de modèles « fermés », c'est-à-dire que leurs paramètres internes ne sont pas accessibles aux utilisateurs. Malgré cela, leur comportement peut tout de même être testé à l'aide de milliers de requêtes afin d'évaluer s'ils pourraient produire des instructions dangereuses ou contourner les restrictions.

Processus de certification proposé

Un organisme de régulation indépendant pourrait évaluer les modèles d'IA en soumettant de nombreuses requêtes pour tester leurs réponses, un peu comme on teste la sécurité d'une voiture sans avoir besoin de connaître en détail sa conception interne. La certification porterait sur les comportements observables plutôt que sur le fonctionnement interne complet de l'IA.

Modèles d'IA ouverts et leurs implications

Certains modèles d'IA, comme DeepSeek, en provenance de Chine, sont décrits comme « ouverts », ce qui laisse supposer que leurs paramètres internes pourraient être accessibles. Toutefois, les implications précises de cette ouverture n'ont pas été entièrement expliquées dans l'entretien.