OpenAI aperta regras de segurança no ChatGPT para adolescentes com limites sobre armas e alertas aos pais

A OpenAI está elevando o nível da segurança de adolescentes no ChatGPT. A empresa acaba de anunciar um novo pacote de proteções que vai limitar informações práticas sobre armas e sistemas de segurança para usuários adolescentes, mesmo quando não houver sinais claros de intenção violenta. O sistema também poderá encerrar automaticamente conversas ao identificar fixação por violência, e casos repetidos podem levar à suspensão temporária da conta.

Pais que têm contas vinculadas às dos filhos serão notificados caso haja suspensão. A OpenAI afirma que também aprimorou a tecnologia de estimativa de idade para direcionar mais adolescentes à versão do ChatGPT para menores de 18 anos. Para todos os usuários, a empresa vai reduzir o nível de detalhes sobre ataques em massa do passado, incluindo as armas usadas e como foram obtidas.

As mudanças chegam em meio a uma pressão crescente sobre como ferramentas de IA lidam com temas sensíveis para jovens. A OpenAI diz que as novas medidas de segurança serão implementadas nas próximas semanas e continuarão sendo aprimoradas. A medida vem após relatos de que alertas aos pais na versão adolescente do ChatGPT podem chegar tarde demais ou nem serem enviados quando conversas envolvem suicídio, automutilação ou transtornos alimentares.