Comandos ocultos em petições que visam enganar sistemas de IA são detectados em vários tribunais
O método técnico empregado é conhecido como prompt injection: a inclusão maliciosa de comandos que podem alterar o comportamento de modelos de linguagem ou de sistemas de apoio à decisão. Após a descoberta, o juiz Diego Marcussi expediu despacho em 19 de maio solicitando esclarecimentos ao advogado autor da peça, João Vitor Rezende, por entender que o trecho oculto representava uma tentativa de influenciar ferramentas automatizadas sem o conhecimento de magistrados ou servidores.
O TJSP informou que a identificação foi possível graças ao uso “adequado e supervisionado” de suas próprias ferramentas de IA. Atualmente, o Conselho Nacional de Justiça (CNJ) exige revisão humana obrigatória quando IA é usada e veda decisões tomadas exclusivamente por sistemas automatizados.
Em Minas Gerais, uma juíza de Ibirité aplicou multa de R$ 8,1 mil, em 29 de maio, a um advogado cuja peça contra o Banco BMG continha um trecho oculto instruindo a IA a resumir sempre em favor do autor e contra o réu. O comando foi detectado pelo escritório de defesa do banco, Abrahão Advogados, que comunicou a Justiça; o advogado classificou o episódio como um “resíduo técnico” acidental.
Na esfera superior, o Superior Tribunal de Justiça (STJ) abriu, em 20 de maio, uma investigação interna sobre tentativas de fraude envolvendo advogados e escritórios que teriam manipulado sistemas do tribunal.
Especialistas citados no debate judicial alertam que os episódios públicos podem representar apenas uma fração do problema. O advogado e pesquisador Dierle Nunes, que em 2025 já havia advertido sobre esse risco, estima que as ocorrências “são a ponta do iceberg” diante do uso crescente de IA por magistrados e partes. Já o juiz federal Rafael Leite, envolvido na implementação de iniciativas de IA no CNJ, afirma que a expansão do uso amplia a superfície de ataque e que há projetos em curso para identificar e mitigar tais tentativas, incluindo ferramentas de detecção desenvolvidas em tribunais, como o Galileu, no TRT4.
Fonte: G1
