A IA está invadindo os tribunais e os advogados estão pagando caro pelas alucinações

A indústria de IA está correndo para vender modelos jurídicos aos advogados mais rápido do que os tribunais conseguem punir o uso indevido. Três dos quatro maiores laboratórios de IA já lançaram ou apresentaram produtos voltados ao direito, mesmo enquanto escritórios são sancionados por petições recheadas de jurisprudência inventada.

O Gemini Enterprise for Legal, do Google, e o Claude Legal Solutions, da Anthropic, prometem verificação por meio de conectores a bancos de dados jurídicos reais, em vez de puxar citações da memória do modelo. Mesmo assim, um estudo de Stanford já encontrou taxas de alucinação de até 33% em plataformas jurídicas feitas sob medida.

A responsabilidade de conferir cada citação continua sendo do advogado, não do modelo. Com quase 2 mil casos documentados de citações falsas geradas por IA no mundo, a pergunta não é se essas ferramentas parecem confiantes, mas se podem de fato ser confiáveis dentro de um tribunal.