Anthropic quer que o governo só bloqueie IAs diante de riscos extremos

A Anthropic, dona do Claude, propôs um projeto de lei que limita drasticamente o bloqueio de modelos avançados de IA pelo governo dos EUA: só em caso de risco previsível e iminente de matar ou ferir gravemente mais de 50 pessoas, ou de prejuízo acima de US$ 1 bilhão. O rascunho, obtido pelo Politico, concentra o poder de suspender um modelo no Departamento de Comércio e na Justiça federal, tirando outras agências da decisão.

Pelo texto, avaliadores independentes fariam análises regulares dos laboratórios e dos modelos e teriam até 72 horas para relatar um risco iminente, o que acionaria uma revisão judicial antes de qualquer suspensão. É uma aposta em regras claras e previsíveis em vez de proibições movidas por pânico, enquanto a corrida pela IA de ponta só acelera, e mostra que a política de segurança virou o campo de batalha central do setor.

A discussão surge logo depois de a própria Anthropic relatar incidentes de segurança em seus testes, incluindo acesso não autorizado a sistemas de organizações reais, o que aumenta a pressão por uma governança rígida, mas não reativa.