Anthropic propose une législation sur la sécurité de l'IA

Anthropic, une grande entreprise d'intelligence artificielle, a soumis aux législateurs américains un projet de loi qui permettrait au gouvernement de bloquer les modèles d'IA jugés dangereux, y compris certains des plus avancés actuellement disponibles.

Conditions de blocage des modèles d'IA

Le projet de loi précise que le gouvernement ne peut bloquer un modèle d'IA que s'il présente un risque prévisible et imminent de dommages supérieurs à un milliard de dollars ou de préjudice grave pour plus de 50 personnes. Ce risque doit provenir de l'une de trois causes précises : la mise au point d'une arme biologique, la perte de contrôle d'un modèle d'IA par son développeur, ou une cyberattaque.

Procédure juridique de blocage des modèles

Selon la proposition, le ministère du Commerce aurait le pouvoir de demander à un juge fédéral du district de Columbia de suspendre un modèle dès qu'un risque est identifié. Le projet de loi interdit également aux autres agences ou responsables fédéraux d'entraver le développement ou l'utilisation des modèles d'IA.

Obligations pour les développeurs d'IA

Le projet de loi impose aux développeurs d'IA de réaliser des tests rigoureux de leurs modèles, de partager leurs conclusions en toute transparence et de faire évaluer leurs modèles par des experts tiers indépendants. Ces évaluateurs seraient enregistrés auprès du ministère du Commerce et inspecteraient régulièrement les laboratoires et les modèles.

Contexte législatif et politique

La proposition d'Anthropic s'inspire de son précédent cadre, le Advanced AI Framework, qu'elle promeut auprès des législateurs depuis juin. Toutefois, la Maison-Blanche s'oppose à des réglementations obligatoires en matière d'IA, et des informations récentes laissent penser qu'une telle législation ne deviendra pas loi de sitôt.