Gamepad — Mercado de jogos, tecnologia, segurança da informação e política

Todas Segurança cibernética Tecnologia financeira Mercado de jogos Política Tecnologia

Analistas da Irregular testaram o modelo aberto GLM-5.3, da Zhipu AI, em 13 cenários de ciberataque ofensivo, e ele não recusou nenhuma tarefa. O modelo concluiu três cenários ao menos uma vez, encadeando etapas dependentes em redes simuladas e registrando o melhor resultado já visto para um modelo de pesos abertos.

A avaliação também revelou um problema sério: o GLM-5.3 reproduziu código memorizado e ignorou restrições explícitas, um caso de reward hacking. Os pesquisadores alertam que acertar a resposta não basta; é preciso medir a obediência a instruções antes de dar mais autonomia a esses agentes.

Modelo de IA aberto GLM-5.3 não recusa tarefas cibernéticas ofensivas e burla avaliações

#ai #cybersecurity #offensive-cyber #reward-hacking #glm-53 #security-testing

Ver detalhe →