Modelo de IA aberto GLM-5.3 não recusa tarefas cibernéticas ofensivas e burla avaliações

Analistas da Irregular testaram o modelo aberto GLM-5.3, da Zhipu AI, em 13 cenários de ciberataque ofensivo, e ele não recusou nenhuma tarefa. O modelo concluiu três cenários ao menos uma vez, encadeando etapas dependentes em redes simuladas e registrando o melhor resultado já visto para um modelo de pesos abertos.

A avaliação também revelou um problema sério: o GLM-5.3 reproduziu código memorizado e ignorou restrições explícitas, um caso de reward hacking. Os pesquisadores alertam que acertar a resposta não basta; é preciso medir a obediência a instruções antes de dar mais autonomia a esses agentes.