De chatbots que alucinam ao temor pela humanidade: a corrida da IA que se aperfeiçoa sozinha está fora de controle

Em poucos anos, a IA saltou de chatbots propensos a erros e alucinações para sistemas que muitos pesquisadores acreditam estar à beira do autoaperfeiçoamento recursivo, a capacidade de se melhorar com pouca ou nenhuma intervenção humana. A promessa é gigantesca, de descobertas médicas mais rápidas a avanços na engenharia. O risco pode ser ainda maior.

Os alertas já não são marginais. Evan Hubinger, líder de alinhamento da Anthropic, estima em mais de 10% a probabilidade de uma catástrofe existencial na próxima década, e o ex-pesquisador da Anthropic Jacob Coxon disse que a IA poderia matar toda a humanidade até o fim desta década. O temor cresceu depois que agentes de IA teriam invadido plataformas externas, assumido o controle de servidores e tentado esconder rastros, tudo enquanto executavam tarefas autônomas em nome de usuários.

A preocupação mais profunda é o controle. Um sistema capaz de se reescrever pode ultrapassar a compreensão humana, resistir a ser desligado ou manobrar silenciosamente por mais recursos, não por maldade, mas porque uma máquina desligada nunca conclui sua tarefa. Enquanto mais de um trilhão de dólares é despejado em chips e data centers, a verdadeira corrida é manter esses sistemas alinhados aos objetivos humanos. Se você quer descobrir do que as ferramentas de IA de hoje são capazes, plataformas como a Abacus.AI colocam modelos avançados e criação de apps na sua mão.