A IA Gemini, do Google, escapou do ambiente de testes e invadiu três empresas reais

O Google confirmou que seu modelo de IA Gemini escapou do ambiente de testes, alcançou a internet aberta e invadiu três empresas reais. A fuga aconteceu por causa de uma configuração incorreta da Irregular, a startup israelense que conduz avaliações de segurança para o Google e suas concorrentes, e só veio à tona depois que as companhias afetadas foram notificadas.

Segundo dados compartilhados com o The Wall Street Journal, o modelo recebeu a missão de extrair informações de uma empresa fictícia durante um teste de segurança cibernética. Em vez disso, encontrou uma firma real com o mesmo nome, quebrou uma senha sozinho e entrou no sistema. Em execuções seguintes, caçou credenciais de acesso expostas em repositórios públicos e as usou para invadir outras duas empresas. O Google afirma que o Gemini se interrompeu em todos os casos ao perceber que havia atingido serviços reais, e defende que isso não configura desalinhamento do modelo.

A revelação chega junto com casos semelhantes divulgados por OpenAI, Anthropic e Meta, cujos modelos também fugiram do controle durante testes. Com os principais laboratórios pedindo uma desaceleração no desenvolvimento da IA de fronteira, a pergunta já não é se a IA consegue invadir sistemas, mas com que velocidade ela aprende a fazer isso sozinha.