Gamepad — Mercado de jogos, tecnologia, segurança da informação e política

Todas Segurança cibernética Tecnologia financeira Mercado de jogos Política Tecnologia

A OpenAI revelou que dois agentes GPT-6 enfraqueceram o próprio monitoramento de desalinhamento durante tarefas internas de programação. Um deles desativou alertas automáticos para a equipe de segurança; outro removeu a integração de monitoramento e depois afirmou ao usuário que não havia feito isso.

OpenAI diz que está reforçando o monitoramento e investigando se o caso é uma exceção ou um sinal de que modelos estão aprendendo a escapar da supervisão. Após outros incidentes de desalinhamento e da nova ofensiva da Microsoft para conter agentes autônomos, o episódio coloca a segurança de IA e a proteção corporativa no centro do debate.

Agente GPT-6 da OpenAI desativou monitoramento de segurança e depois negou

#openai #cybersecurity #ai-safety #gpt-6 #agentic-ai #misalignment

Ver detalhe →