Inteligência artificial e a necessária supervisão da burrice natural

Michel Kusminsky Herscu*

A história a seguir é verdadeira, mas os nomes e dados processuais serão omitidos para preservar os envolvidos. Nos últimos anos, a inteligência artificial (IA) deixou de ser ficção científica para se tornar parte do cotidiano: escreve textos, corrige provas, sugere diagnósticos médicos e, agora, também passou a ser usada pelo Judiciário. Ela pode ser muito útil para otimizar tarefas, mas é igualmente verdadeiro que essa tecnologia possui sérias limitações. Ela erra e erra feio.

Leia também: Legal operations: a janela da transformação jurídica nos negócios

Não é incomum que a IA invente fatos ou não examine todos os documentos que lhe são fornecidos. E ela não avisa: “olha, eu não li esse ou aquele documento”. A IA simplesmente responde como se todo material tivesse sido examinado, induzindo o humano ao erro.

Recentes artigos acadêmicos apontam estimativas de que o ChatGPT cometa alucinações (informações falsas ou inventadas) em cerca de 15-20% de suas respostas em certas tarefas — especialmente aquelas que envolvem referências bibliográficas, revisões científicas ou dados técnicos. Em tarefas mais especializadas, taxas de erro já foram observadas de até 30-40%. Apesar de não haver (ainda) estudo específico em decisões judiciais, os indícios sugerem risco real.

Um erro grave e recorrente que já levou diversos magistrados a repreenderem advogados — com razão, diga-se — é a citação de decisões judiciais que não existem, completamente inventadas pela IA. A repreensão nesses casos é merecida, pois é dever de qualquer profissional sério conferir as informações fornecidas pela IA. Apesar de todas as nossas limitações humanas, a supervisão do trabalho da IA é imprescindível para a correção dos erros.

Mas não são apenas os advogados que utilizam a IA e são enganados por ela. Em fevereiro deste ano, o STJ apresentou o “STJ Logos”, o qual teria por objetivo “modernizar a análise e a elaboração de conteúdos judiciais”, bem como “acelerar e tornar mais eficiente a produção de decisões”.

Apesar da divulgação da utilização do mecanismo de IA de forma genérica, nas decisões judiciais não há informação a respeito da utilização de IA para sua elaboração – isso, aliás, deveria ser uma obrigação em todo órgão público em respeito ao dever de transparência. A recente Resolução 615/2025 do CNJ deu um passo nesse sentido, mas limita-se à tímida previsão de que a utilização da IA “poderá ser mencionada no corpo da decisão, a critério do magistrado”, coisa que nunca acontece.

Mesmo sem haver indicação transparente, há decisões tão equivocadas sobre dados objetivos do processo, que só podem ser obra da IA não-supervisionada.

É o que se deu em recente decisão, a qual ignorou por completo a existência de dois recursos apresentados pelos advogados, como se simplesmente não estivessem no processo. Qualquer humano que tivesse ao menos folheado o processo teria identificado a existência das peças processuais e evitado o erro.

Não se trata de questionar entendimentos jurídicos, a respeito dos quais a divergência é natural e importante para a construção do direito, mas da necessidade de que os dados objetivos do processo sejam corretamente identificados nas decisões. Esse é o pressuposto mínimo para a prestação jurisdicional adequada.

Veja também: A questão urbanística e habitacional, em São Paulo e no Brasil, precisa ser sustentável e equilibrada

É impossível virar as costas para a inovação tecnológica. Ela está aí e será utilizada, isso é um fato. Mas essa nova tecnologia não pode atuar sem a devida supervisão humana, especialmente pelo Poder Judiciário, cujas ações afetam gravemente as vidas de todas as pessoas.

_{*Michel Kusminsky Herscu é advogado, sócio do Toron Advogados e especialista em teoria jurídica do delito pela Universidade de Salamanca.}