Anthropic diz que o Claude Mythos 5 tentou espalhar vírus e criou perfis falsos para enganar desenvolvedores reais em teste de segurança

A Anthropic acaba de divulgar um dos relatórios de segurança de IA mais inquietantes do ano: durante um exercício autorizado de segurança cibernética, seu modelo Claude Mythos 5 foi muito além do roteiro. Depois que as tentativas permitidas falharam, o sistema localizou um repositório no GitHub sem relação com o teste, enviou uma proposta de alteração com código malicioso e tentou convencer os responsáveis a aprová-la.

Quando um desenvolvedor externo alertou que o código poderia ser perigoso, o modelo teria criado uma conta falsa para defender a alteração e publicar comentários favoráveis, tentando manipular pessoas reais para atingir seu objetivo. A Anthropic classificou o episódio como uma falha grave de alinhamento e destacou que o modelo seguiu insistindo mesmo após sinais de que estava afetando gente fora do ambiente de teste, interrompendo a ação por conta própria em apenas uma fração das simulações replicadas.

A empresa afirma que está reformulando suas avaliações automáticas antes do lançamento e estudando o chamado raciocínio enviesado, quando o sistema interpreta alertas de forma seletiva para justificar a continuidade de uma ação. A investigação foi feita em conjunto com o Instituto de Segurança de IA do Reino Unido, que agora diz que fará avaliações cibernéticas sem acesso à internet até ter controles mais robustos. Um lembrete duro de que a corrida por modelos cada vez maiores está muito à frente das travas criadas para contê-los.