Anthropic soutient la régulation de l'IA et propose une loi américaine visant à bloquer les modèles présentant des risques catastrophiques, inspirée du cadre de Californie.
Anthropic soutient un projet de loi sur la régulation de l'IA
Anthropic, une grande entreprise d'intelligence artificielle, soutient un projet de loi visant à encadrer l'IA, calqué sur une loi californienne qui fixe des seuils de risque précis pour une intervention de l'État. Le texte permettrait au gouvernement de bloquer des modèles d'IA dans certaines conditions.Le projet de loi fixe des seuils de risque pour les modèles d'IA
Le texte prévoit que le gouvernement américain pourrait bloquer des modèles d'IA s'ils présentent un risque de tuer ou de blesser gravement plus de 50 personnes, ou de causer plus d'un milliard de dollars de dommages. Toutefois, les amendes imposées seraient plafonnées à 0,2 % du chiffre d'affaires de l'entreprise.Proposition obtenue par POLITICO
POLITICO a eu accès à une proposition de réglementation confidentielle d'Anthropic, discrètement transmise à des membres du Congrès américain. Cette démarche fait suite à un appel de Dario Amodei, le directeur général d'Anthropic, en faveur d'une suspension temporaire du développement de l'IA et d'une régulation mondiale portée devant les Nations unies.Portée de l'ordre de blocage
L'ordre de blocage proposé ne s'appliquerait qu'aux modèles d'IA susceptibles de provoquer des risques catastrophiques, comme aider à la fabrication de produits dangereux ou mener des cyberattaques sans supervision humaine. Il exclut les activités relevant des opérations juridiques de l'administration fédérale.Limites de la régulation gouvernementale
Selon Mother Jones, le texte ne permettrait pas au gouvernement de réguler les modèles d'IA ayant causé un préjudice à moins de 50 personnes ou moins d'un milliard de dollars de dommages. Cela fixe un seuil d'intervention très élevé.Les positions passées d'Anthropic sur l'usage de l'IA
Dario Amodei, directeur général d'Anthropic, s'était auparavant opposé à l'utilisation de l'IA de l'entreprise pour la surveillance de masse ou les armes entièrement autonomes. En février de l'année dernière, l'ancien président Donald Trump avait ordonné aux agences américaines de cesser d'utiliser les produits d'IA d'Anthropic, qu'il qualifiait de menace pour la sécurité nationale.Processus d'évaluation indépendante
La proposition prévoit un système dans lequel des évaluateurs indépendants, enregistrés auprès du département du Commerce, évalueraient régulièrement les modèles d'IA d'Anthropic. Ces évaluateurs pourraient être financés par l'entreprise, mais leur rémunération ne devrait pas dépendre des résultats de leurs évaluations.Délai de signalement des risques
Si un évaluateur identifie un risque imminent et précis, il doit le signaler au département du Commerce dans un délai de 72 heures. Le département pourrait alors demander à un juge de suspendre la mise sur le marché du modèle. Aucun autre organisme ni aucun responsable ne peut arrêter le développement ou l'utilisation du modèle d'IA.
