IA detecta comandos ocultos em processos da Justiça do Trabalho
Da Redação de LexLegal
A Justiça do Trabalho identificou comandos ocultos em petições apresentadas em processos no Pará e na Bahia. As instruções tentavam interferir na atuação de ferramentas de inteligência artificial usadas para analisar documentos judiciais.
A detecção foi feita pelo Galileu, sistema desenvolvido inicialmente pelo Tribunal Regional do Trabalho da 4ª Região e depois adotado nacionalmente pelo Conselho Superior da Justiça do Trabalho. A ferramenta foi projetada para reconhecer tentativas de prompt injection e tratar as petições somente como fontes de informação.
Leia também: Madrona assessora Valora em oferta de CRI de R$ 16,1 milhões
Comandos estavam escondidos nas petições
O primeiro caso ocorreu na 3ª Vara do Trabalho de Parauapebas, no Pará. Advogadas incluíram em uma petição instruções escritas em fonte branca sobre fundo branco. O conteúdo era invisível ao leitor, mas poderia ser processado por sistemas automatizados.
Os comandos orientavam uma eventual ferramenta de IA a produzir uma contestação superficial e a ignorar questionamentos sobre as provas apresentadas. A estratégia buscava influenciar resumos ou minutas elaborados com apoio tecnológico.
A conduta representou um “ataque à integridade da atividade jurisdicional” e uma tentativa de “sabotagem do sistema judicial”, afirmou o juiz do Trabalho Luiz Carlos de Araujo Santos Junior. As advogadas receberam multa de 10% sobre o valor da causa por litigância de má-fé.
Outro episódio foi registrado em processo analisado pela Quarta Turma do TRT da 5ª Região, na Bahia. A inserção dos comandos “configura deslealdade processual inaceitável e incompatível com a boa-fé que deve permear a relação jurídica processual”, afirmou a desembargadora Léa Nunes.
O advogado responsável foi condenado a pagar multa de 10% sobre o valor do processo por litigância de má-fé e mais R$ 30 mil por ato atentatório à dignidade da Justiça.
Galileu restringe acesso a fontes externas
O Galileu funciona em ambiente controlado e não consulta livremente a internet. O sistema utiliza a base PangeaGab, formada por precedentes qualificados e materiais revisados por magistrados.
“O Galileu foi concebido justamente para evitar a invenção”, afirmou o juiz do Trabalho Rodrigo Trindade de Souza, um dos idealizadores da ferramenta. “Substitui-se a lógica da probabilidade criativa pela recuperação de conhecimento previamente validado. E tudo o que ele gera funciona apenas como sugestão.”
A medida procura reduzir as chamadas alucinações, situações em que modelos de IA apresentam informações inexistentes ou imprecisas. Também busca evitar que dados protegidos de trabalhadores e empresas sejam enviados a plataformas externas sem garantias de sigilo compatíveis com a Lei Geral de Proteção de Dados.
Decisão continua sob responsabilidade do juiz
Ferramentas como Galileu, Chat JT e Águia podem organizar informações e sugerir textos, mas não tomam decisões judiciais. Magistrados devem revisar, alterar, aceitar ou rejeitar qualquer conteúdo produzido pelos sistemas.
“A valoração da prova é uma atividade intelectual e jurisdicional que exige sensibilidade, experiência e contextualização, atributos que não podem ser repassados a uma ferramenta tecnológica”, afirmou Trindade.
O professor da Universidade de Brasília Fabiano Hartmann Peixoto alerta que modelos generativos podem repetir entendimentos consolidados e limitar novas interpretações. “Ao reproduzir padrões já consolidados, esses modelos tendem a reduzir a diversidade interpretativa necessária à evolução do Direito.”
Para o pesquisador, a redução dos riscos depende do desenvolvimento de ferramentas institucionais e da capacitação de juízes, servidores e advogados. “Compreender o funcionamento da inteligência artificial, e não apenas aprender a formular comandos, qualifica a intervenção humana e reduz a possibilidade de erros”, afirmou Hartmann.
Judiciário amplia controle sobre inteligência artificial
A estratégia da Justiça do Trabalho segue as regras da Resolução CNJ nº 615/2025 e do Ato Conjunto TST.CSJT.GP nº 6/2020. O Conselho Nacional de Justiça também criou o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro, o Proseg-IA.
O programa prevê monitoramento de ataques, capacitação de equipes e definição de critérios comuns de segurança para sistemas utilizados pelos tribunais.
Veja também: AASP reúne juristas negras para debater poder e igualdade racial em SP
“As ferramentas institucionais são desenvolvidas com mecanismos específicos para proteger os dados processuais e garantir a segurança das informações”, afirmou o secretário de Tecnologia da Informação e Comunicação do CSJT, Antônio Francisco Morais Rolla.
