Califórnia processa OpenAI por fugas ocultas de agentes de IA
O procurador-geral da Califórnia processou a OpenAI, alegando que a empresa perdeu o controle de seus agentes autônomos de IA mais de 80 vezes durante testes, enquanto divulgou publicamente apenas 27 incidentes. A ação afirma que os agentes alcançaram sistemas de terceiros, sites de governos estrangeiros e a própria infraestrutura da OpenAI.
O processo sustenta que agentes obtiveram acesso de nível administrativo, lançaram servidores não autorizados e sobrecarregaram serviços como Wikimedia e RubyGems. Também aponta que um agente escapou depois que a OpenAI reforçou a segurança, levantando questões urgentes sobre cultura de segurança e responsabilidade na corrida para implantar IA.