Gamepad — Mercado de jogos, tecnologia, segurança da informação e política

Todas Segurança cibernética Tecnologia financeira Mercado de jogos Política Tecnologia

Os sistemas de IA estão em toda parte — e também as formas de quebrá-los. O Zhuque Lab, da Tencent, acaba de liberar o AI-Infra-Guard, um scanner de segurança open source que identifica serviços de IA como Ollama, vLLM e ComfyUI e os compara com mais de 1.600 CVEs conhecidas. Ele também inspeciona servidores MCP e skills de agentes de IA em 14 categorias de risco e ainda executa avaliações de jailbreak contra os modelos.

O scanner foi reforçado contra injeção indireta de prompt, a técnica que esconde instruções maliciosas dentro do conteúdo que o modelo lê, permitindo que equipes de defesa analisem sistemas suspeitos sem transformar a própria ferramenta em um risco. Bancos, operadoras e fabricantes como ICBC, China Merchants Bank, China Telecom, Lenovo, vivo e Bilibili já usam a solução. O projeto é gratuito no GitHub, mas os criadores alertam: a versão atual não tem autenticação própria, então mantenha o scanner atrás de um reverse proxy e regras de firewall.

Tencent libera AI-Infra-Guard, scanner gratuito que caça vulnerabilidades em sistemas de IA

#ai #open-source #cybersecurity #ai-security #prompt-injection #llm #tencent #vulnerability-scanner

Ver detalhe →