IA confunde pacote de Doritos com arma, e estudantes processam empresa
Um grupo de estudantes do time de futebol americano de uma escola em Baltimore County está processando uma empresa de vigilância com IA, autoridades escolares e a polícia local depois que um sistema de segurança teria classificado um pacote de Doritos como arma de fogo com 90% de confiança. Segundo a ação, a resposta foi uma abordagem policial assustadora: seis viaturas, armas sacadas, algemas e revistas em adolescentes em choque.
O processo aponta um volume alarmante de falsos positivos, com mais de 99% dos alertas nas escolas públicas do condado não justificando envio de policiais, segundo levantamento do inspetor-geral de educação de Maryland. A ação também acusa a direção da escola de comentários de deboche sobre o episódio. O caso expõe o risco da vigilância automatizada e o custo humano de tratar cada alerta de IA como ameaça real.