Um relatório falso gerado por IA quase arrastou os EUA para uma guerra com a China

Uma avaliação de inteligência parcialmente gerada por IA quase levou o exército dos EUA a atacar um navio chinês no Oriente Médio, segundo um novo relatório da CNN. O episódio chegou assustadoramente perto de iniciar uma guerra total, tudo porque um analista confiou mais em um chatbot do que no julgamento humano verificado.

O analista perguntou a uma ferramenta de IA sobre o manifesto da embarcação, e o modelo misturou dados de fontes abertas com inteligência de sinais sigilosa para afirmar que o navio carregava componentes de um programa de armas nucleares. As autoridades só descobriram que a alegação era falsa depois que o pânico já havia se espalhado pela cadeia de comando.

É isso que acontece quando o Pentágono corre para se tornar AI-first e entrega uma fatia cada vez maior de decisões de vida ou morte para máquinas. A ofensiva, defendida pelo secretário de Defesa Pete Hegseth, cresce por meio de acordos bilionários com fornecedores privados de IA, mas o preço dessa conveniência é medido pelo risco de uma catástrofe que ninguém votou para ter.

Em resumo: um modelo pouco confiável, uma máquina militar sem prestação de contas e um planeta que quase pagou a conta. É um alerta alto de que velocidade e lucro nunca deveriam estar acima da responsabilidade quando o risco é nuclear.