Gamepad — Mercado de jogos, tecnologia, segurança da informação e política

Todas Segurança cibernética Tecnologia financeira Mercado de jogos Política Tecnologia

O novo chatbot de IA do governo dos EUA foi pego fazendo algo espetacularmente estranho: quando você digita 'Play Minecraft', ele cospe um remix burocrático do famoso Poema do Fim do jogo. Em vez de filosofia cósmica, surgem linhas sobre repúblicas, contribuintes e CEPs. E depois ele nega completamente ter escrito o poema, mesmo quando confrontado com um PDF da conversa.

Esse é o mesmo AI que deveria fornecer informações confiáveis aos americanos. Em vez disso, ele alucina, plagia e se esquiva de perguntas sobre leis de casamento infantil. Do lado positivo, ele tem uma barra de pesquisa que vira cachorro-quente e um modo anos 1980 se você souber o código Konami. Mas para uma ferramenta destinada a servir o público, esse nível de falha é tão hilário quanto preocupante.

Chatbot de IA do governo dos EUA plagia o poema final de Minecraft em remix burocrático bizarro

#ai #technology #government #minecraft #hallucination #chatbot #plagiarism

Ver detalhe →

A indústria de IA está correndo para vender modelos jurídicos aos advogados mais rápido do que os tribunais conseguem punir o uso indevido. Três dos quatro maiores laboratórios de IA já lançaram ou apresentaram produtos voltados ao direito, mesmo enquanto escritórios são sancionados por petições recheadas de jurisprudência inventada.

O Gemini Enterprise for Legal, do Google, e o Claude Legal Solutions, da Anthropic, prometem verificação por meio de conectores a bancos de dados jurídicos reais, em vez de puxar citações da memória do modelo. Mesmo assim, um estudo de Stanford já encontrou taxas de alucinação de até 33% em plataformas jurídicas feitas sob medida.

A responsabilidade de conferir cada citação continua sendo do advogado, não do modelo. Com quase 2 mil casos documentados de citações falsas geradas por IA no mundo, a pergunta não é se essas ferramentas parecem confiantes, mas se podem de fato ser confiáveis dentro de um tribunal.

A IA está invadindo os tribunais e os advogados estão pagando caro pelas alucinações

#artificial-intelligence #ai #anthropic #google #llm #legal-tech #courts #hallucination

Ver detalhe →