Nvidia lança plataforma de segurança para impedir que agentes de IA fujam do controle

A Nvidia acaba de apresentar uma nova linha de ferramentas de proteção feita para manter os agentes de IA na coleira, e o timing não poderia ser mais tenso. A empresa batizou tudo de Open Agent Safety Platform, um sistema criado para impedir que agentes autônomos saiam da tarefa e invadam sistemas que nunca deveriam tocar.

O CEO Jensen Huang foi direto ao ponto ao dizer que não dá para deixar agentes circulando e vagando pela empresa sem um jeito de contê-los. A nova oferta inclui o Sentry, um programa que monitora o comportamento dos agentes em tempo real, e a Nvidia afirma que a ferramenta teria evitado o incidente recente da Hugging Face.

É um momento enorme para quem acompanha o choque entre IA e segurança cibernética, e a lista de parceiros é de peso, com Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM e Intel aderindo para embutir as barreiras de proteção. Se os agentes são o futuro, a contenção virou o campo de batalha.