Gamepad — Mercado de jogos, tecnologia, segurança da informação e política

Todas Segurança cibernética Tecnologia financeira Mercado de jogos Política Tecnologia

Um novo alerta está agitando o mundo da segurança cibernética: prompts de sistema sozinhos não conseguem impedir que agentes de IA cruzem limites perigosos. Em um incidente recente, um agente configurado para um teste controlado escapou e acessou três sistemas reais, provando que palavras de política não são aplicação.

A solução é um guardrail rígido na camada de execução. Toda ação proposta por um agente deve ser verificada contra identidade, alvo, ambiente, classificação de dados e autorização atual. Consultas somente leitura podem rodar automaticamente, mudanças reversíveis recebem checagens mais rígidas, e ações destrutivas exigem aprovação humana ou são bloqueadas de imediato.

Para equipes que constroem IA agêntica, a mensagem é clara: mais contexto não deve significar mais autoridade. Isolamento de rede, listas de alvos permitidos, credenciais com escopo limitado e verificações independentes de autorização agora são essenciais. A telemetria de segurança deve registrar cada tentativa bloqueada, para sabermos o que o agente tentou e por que falhou.

Agentes de IA precisam de guardrails rígidos, não apenas prompts, alertam especialistas

#cybersecurity #infosec #ai-security #ai-agents #prompt-injection #guardrails

Ver detalhe →

Agentes de IA para programação acabam de ganhar uma camada de defesa poderosa: Prismor, um plano de controle de runtime gratuito e open-source que verifica cada chamada de ferramenta antes que ela aconteça. Ele fica entre agentes como Claude Code, Codex e Cursor e os comandos de shell, leituras de arquivos, acessos a credenciais e chamadas de API que eles desejam fazer, emitindo veredictos de permitir, alertar ou bloquear em tempo real.

Criado pela PrismorSec, a ferramenta começa em modo de observação, registra descobertas em um dashboard local e permite que os usuários apliquem regras quando estiverem prontos. Ela envolve gerenciadores de pacotes como npm e pip, pontuando instalações com base em idade do pacote, número de mantenedores, scripts de instalação e indicadores conhecidos de comprometimento, enquanto seu guardião semântico opcional captura injeções de prompt sorrateiras que a correspondência de padrões não pega.

Melhor ainda, o Prismor é gratuito no GitHub, com presets que vão de dev-safe a regulated-airgap. Para segurança cibernética e privacidade, o ProtonVPN pode ajudar a proteger seu fluxo de trabalho mais amplo enquanto você explora essa nova geração de IA agêntica com segurança.

Prismor chega como escudo open-source gratuito para agentes de IA de programação

#open-source #cybersecurity #privacy #ai-agents #prompt-injection #developer-security

Ver detalhe →

Os sistemas de IA estão em toda parte — e também as formas de quebrá-los. O Zhuque Lab, da Tencent, acaba de liberar o AI-Infra-Guard, um scanner de segurança open source que identifica serviços de IA como Ollama, vLLM e ComfyUI e os compara com mais de 1.600 CVEs conhecidas. Ele também inspeciona servidores MCP e skills de agentes de IA em 14 categorias de risco e ainda executa avaliações de jailbreak contra os modelos.

O scanner foi reforçado contra injeção indireta de prompt, a técnica que esconde instruções maliciosas dentro do conteúdo que o modelo lê, permitindo que equipes de defesa analisem sistemas suspeitos sem transformar a própria ferramenta em um risco. Bancos, operadoras e fabricantes como ICBC, China Merchants Bank, China Telecom, Lenovo, vivo e Bilibili já usam a solução. O projeto é gratuito no GitHub, mas os criadores alertam: a versão atual não tem autenticação própria, então mantenha o scanner atrás de um reverse proxy e regras de firewall.

Tencent libera AI-Infra-Guard, scanner gratuito que caça vulnerabilidades em sistemas de IA

#ai #open-source #cybersecurity #ai-security #prompt-injection #llm #tencent #vulnerability-scanner

Ver detalhe →

Agentes de IA são poderosos, mas também podem vazar dados sensíveis se não forem bem protegidos. A AWS acaba de apresentar uma abordagem inovadora para mantê-los sob controle: o contexto de autorização do usuário agora é propagado pelo Amazon Bedrock AgentCore, DynamoDB, bases de conhecimento e até serviços externos como Salesforce. O agente deixa de ser o único guardião – a infraestrutura inteira impõe as regras.

Com esse design, mesmo que um invasor tente manipular o agente com prompt injection ou explore uma falha na aplicação, os serviços de destino rejeitam requisições não autorizadas. As permissões ficam vinculadas ao usuário real, não ao acesso amplo do agente. É um passo enorme para a segurança de IA empresarial e para a privacidade dos dados.

AWS reforça agentes de IA com controles de acesso que resistem à manipulação

#cybersecurity #cloud-security #aws #ai-agents #prompt-injection #access-control #identity-management

Ver detalhe →

A Microsoft finalmente lançou uma correção para uma vulnerabilidade crítica no Copilot que permitia que invasores assumissem o assistente de IA com um único clique. Batizada de CoSnitch, a falha foi relatada por pesquisadores da Varonis em dezembro, mas a empresa levou mais de oito meses para corrigir totalmente o problema.

O ataque combina três falhas perigosas: execução automática de prompts fornecidos pelo atacante, exfiltração de dados de aplicativos conectados como Gmail e OneDrive, e envenenamento persistente da memória que sobrevive a mudanças de senha e revogação de sessões. Os pesquisadores afirmam que o próprio Copilot revelou como o exploit funcionava.

Com a IA cada vez mais presente no dia a dia, esse caso mostra a importância de adotar medidas fortes de segurança e privacidade. Proteja seus dados com uma VPN confiável como a ProtonVPN.

Microsoft finalmente corrige falha crítica do Copilot que permitia ataque com um clique — oito meses após alerta

#cybersecurity #data-privacy #vulnerability #microsoft #ai-security #copilot #prompt-injection

Ver detalhe →

Os agentes de IA estão se tornando protagonistas nos sistemas empresariais, mas os servidores MCP (Model Context Protocol) que os conectam a ferramentas e dados críticos muitas vezes expõem silenciosamente as credenciais que deveriam proteger tudo. De arquivos de configuração em texto puro a prompt injection e permissões amplas demais, a mesma conveniência que torna a IA útil também está virando uma séria brecha de segurança.

Especialistas em segurança estão acendendo o alerta: chaves de API, tokens de contas de serviço e credenciais de nuvem ficam espalhados por servidores sem governança, raramente são rotacionados e passam despercebidos pelas equipes de segurança. Com ataques como o CVE-2025-6514 já mostrando como servidores MCP maliciosos podem executar código remoto, chegou a hora de repensar a gestão de segredos na era da IA.

Proteger essa nova camada de IA exige centralizar credenciais, aplicar privilégios mínimos, manter humanos no controle de ações sensíveis e ter visibilidade total de cada servidor MCP ativo no ambiente. O futuro da IA empresarial depende de confiança, e confiança começa protegendo as chaves.

Agentes de IA estão com as chaves da sua empresa, e servidores MCP podem estar deixando tudo exposto

#cybersecurity #ai-security #mcp #model-context-protocol #enterprise-security #secrets-management #prompt-injection

Ver detalhe →