Anthropic e OpenAI divergem sobre quem pode desligar uma IA de risco

A disputa sobre a segurança da IA acabou de esquentar na Califórnia. Anthropic e OpenAI querem uma supervisão mais forte para modelos de fronteira, mas defendem planos radicalmente diferentes para parar sistemas que representam riscos catastróficos.

A Anthropic quer que o procurador-geral do estado possa pedir ordens judiciais para suspender a implantação, o uso interno ou o desenvolvimento de um modelo perigoso. A OpenAI defende uma emenda ao SB 53 que obrigue desenvolvedores a manter controles de desligamento eficazes e acioná-los quando surgirem condições inseguras.

Com a ordem executiva do governador Newsom marcando o prazo de 16 de novembro para recomendações, o debate agora gira em torno de verificação independente, relatórios de risco obrigatórios e quem realmente tem o poder de pisar no freio.