OAB e Jusbrasil lançam ferramenta contra fraudes com IA em processos judiciais

Da Redação de LexLegal

O Colégio de Presidentes das 27 Seccionais da OAB e o Jusbrasil lançaram uma plataforma gratuita para identificar indícios de prompt injection em documentos jurídicos. A ferramenta foi criada para detectar comandos ocultos inseridos em petições e outros arquivos que possam influenciar o comportamento de sistemas de inteligência artificial utilizados por advogados, escritórios e órgãos do Judiciário.

A iniciativa surge após casos recentes que colocaram em debate a segurança do uso de inteligência artificial na Justiça. A plataforma está disponível gratuitamente para advogados e demais usuários interessados em verificar documentos antes do envio ou compartilhamento.

Leia também: Stocche Forbes e Machado Meyer atuam em debêntures de R$ 500 milhões da Elejor

O chamado prompt injection é uma técnica usada para inserir instruções escondidas em um documento com o objetivo de alterar a resposta de uma inteligência artificial. Em alguns casos, esses comandos ficam invisíveis para quem lê o arquivo, mas podem ser interpretados por sistemas automatizados que analisam o conteúdo.

Segundo o Colégio de Presidentes das Seccionais da OAB, a ferramenta busca evitar que esse tipo de manipulação comprometa análises jurídicas ou decisões baseadas em inteligência artificial.

“Essa ferramenta nasce da constatação de uma necessidade real da advocacia e segue parâmetros de segurança e acessibilidade. É uma solução tecnicamente eficaz e segura, do ponto de vista da proteção de dados. Esse equilíbrio entre inovação e responsabilidade orienta o trabalho”, afirma Rafael Lara, presidente da OAB Goiás e coordenador do Colégio de Presidentes das Seccionais da OAB.

A presidente da OAB Bahia e coordenadora do Colégio de Presidentes das Seccionais da OAB, Daniela Borges, destacou que o avanço da inteligência artificial exige mecanismos de proteção para preservar a confiabilidade do sistema de Justiça.

“Ao participar do desenvolvimento desta iniciativa, a OAB reafirma seu compromisso com a defesa da ética, da segurança jurídica e da integridade dos documentos e procedimentos judiciais. Buscamos estimular o uso responsável da tecnologia, de forma que a inovação contribua para o fortalecimento da Justiça, preservando a transparência, a confiança e os direitos de todos os envolvidos”, afirma Daniela Borges.

A tecnologia foi desenvolvida pelo Jusbrasil, plataforma especializada em soluções para o mercado jurídico. Segundo a empresa, nenhum documento enviado pelos usuários será utilizado para treinamento de modelos de inteligência artificial.

“Nós existimos para que os profissionais do Direito tenham uma ferramenta confiável de trabalho. Quando vimos que os documentos podiam carregar instruções ocultas que colocam em risco o ecossistema jurídico, percebemos que poderíamos contribuir. A plataforma é pública, gratuita para verificação, e nenhum documento submetido é usado para treinar nossos modelos”, afirma Luiz Paulo Pinho, cofundador do Jusbrasil.

A criação da plataforma foi motivada por um episódio ocorrido em maio deste ano, quando duas advogadas foram condenadas ao pagamento de multa de R$ 84,2 mil após inserirem, em uma petição, um comando oculto em texto branco sobre fundo branco para tentar influenciar uma ferramenta de inteligência artificial utilizada pela Justiça do Trabalho. O caso chamou atenção para uma nova forma de ataque digital envolvendo documentos jurídicos.

A ferramenta funciona de forma preventiva. Antes de protocolar um documento, o advogado pode submetê-lo ao sistema para verificar a existência de comandos ocultos ou outros elementos que possam interferir na atuação de sistemas de inteligência artificial. A proposta é criar uma camada adicional de proteção semelhante à verificação de vírus em arquivos eletrônicos.

O Brasil possui mais de 1,3 milhão de advogados inscritos na OAB. Com o crescimento do uso de inteligência artificial em escritórios, tribunais e órgãos públicos, a expectativa é que mecanismos de verificação como esse passem a integrar a rotina dos profissionais do Direito.

Veja também: Demarest e Cescon Barrieu atuam na venda da Salú para a Senior Sistemas

A plataforma foi construída pelo Jusbrasil em parceria com o Colégio de Presidentes das OABs e poderá ser utilizada gratuitamente por qualquer advogado. A iniciativa busca ampliar a segurança na utilização da inteligência artificial no sistema de Justiça e reduzir os riscos de manipulação de documentos eletrônicos.