Tribunal Brasileiro Sanciona Advogados por Prompt Injection em Petição Judicial
Um tribunal trabalhista brasileiro multou dois advogados por esconderem um comando de prompt injection em texto branco dentro de uma petição, com o objetivo de fazer o sistema de IA do tribunal tratar o caso de forma superficial. Comentadores veem amplamente a ação como equivalente a hackear ou adulterar a infraestrutura do tribunal e argumentam que ela viola os deveres de franqueza dos advogados, com alguns dizendo que a suspensão da licença seria mais apropriada. Ao mesmo tempo, muitos criticam os tribunais por dependerem de grandes modelos de linguagem em processos jurídicos de alto risco, alertando que esses sistemas são tendenciosos, passíveis de manipulação e transferem responsabilidade dos juízes humanos.
Natureza da conduta de “prompt injection”
- Advogados incorporaram texto oculto em branco sobre branco instruindo a IA do tribunal a responder de forma superficial e a não contestar documentos.
- Muitos comentaristas veem isso como claramente enganoso e comparável a hackear, adulterar a infraestrutura do tribunal ou tentar subornar/manipular um escrivão.
- A ocultação é vista como forte evidência de intenção (“mente culpada”), e não como um argumento inocente ou criativo.
- Alguns acham que as multas são brandas demais e defendem suspensão da licença ou até acusações criminais; outros observam que as ordens profissionais raramente sancionam com severidade na prática.
Legalidade, sanções e precedente
- Vários citam uma regra brasileira (Artigo 77) que proíbe atos que obstruam o andamento do processo ou dificultem a atividade judicial; isso é visto como base legal suficiente.
- Há debate sobre se os tribunais brasileiros “não usam precedente” versus alegações de que, na prática, eles são fortemente orientados por precedentes.
- Alguns destacam que, em muitos sistemas, advogados são “oficiais da corte” com o dever de preservar a integridade da justiça acima do interesse do cliente; padrões semelhantes, mas variáveis, existem em jurisdições de tradição civil.
- Surge a pergunta: um litigante sem advogado seria tratado com mais leniência? A maioria espera menos tolerância a truques de “espertinho”, mesmo que erros processuais recebam alguma margem.
Uso de IA nos tribunais
- Muitos veem o problema mais profundo como os tribunais dependerem de IA para revisar petições, dado o viés dos modelos, sua manipulabilidade e o peso das consequências para a liberdade.
- Outros argumentam que tribunais sobrecarregados tornam inevitável e potencialmente benéfica a triagem assistida por IA, desde que humanos continuem responsáveis.
- Alguns pedem proibições totais de IA em processos judiciais para proteger réus e forçar juízes/advogados a usarem seu próprio julgamento.
- Alguns sugerem que, se juízes terceirizam a análise para IA, os advogados naturalmente tentarão influenciar essa IA; outros dizem que a influência deve permanecer dentro da advocacia adequada, e não em instruções ocultas.
“Hackear o sistema jurídico” é aceitável em algum caso?
- Uma posição minoritária: tentar “hackear” a IA do tribunal não deveria ser sancionável; em vez disso, os tribunais deveriam proteger seus sistemas.
- Resposta da maioria: sancionar tentativas de ataque é parte da proteção dos sistemas; “tentar hackear o sistema jurídico” é inerentemente impróprio.
- Fazem-se comparações com SQL injection ou exploits de buffer overflow em software judicial: vistos como obviamente puníveis.
Mitigações técnicas
- Sugestões: renderizar petições como imagens e executar OCR / modelos de visão para remover metadados ocultos e texto invisível, observando-se que isso não é uma defesa completa.
- Alguns duvidam até que o ataque tenha funcionado, alegando que LLMs modernos são menos suscetíveis a injeções ingênuas, embora isso não tenha sido verificado no fio.