Tribunal brasileño sanciona a abogados por inyección de prompt en una presentación judicial
Un tribunal laboral brasileño multó a dos abogados por ocultar un comando de inyección de prompt en texto blanco dentro de una presentación, con la intención de que el sistema de revisión por IA del tribunal tratara su caso de forma superficial. Los comentaristas ven en general la maniobra como equivalente a hackear o manipular la infraestructura judicial y sostienen que viola los deberes de honestidad de los abogados; algunos creen que la inhabilitación sería más apropiada. Al mismo tiempo, muchos critican que los tribunales confíen en modelos de lenguaje en procesos jurídicos de alto riesgo, advirtiendo que estos sistemas son sesgados, manipulables y trasladan la responsabilidad lejos de los jueces humanos.
Naturaleza de la conducta de «inyección de prompt»
- Los abogados incrustaron texto oculto en blanco sobre blanco que instruía a la IA del tribunal a responder de forma superficial y no cuestionar los documentos.
- Muchos comentaristas ven esto como claramente engañoso y comparable a hackear, manipular la infraestructura judicial o intentar sobornar/manipular a un funcionario de la corte.
- El ocultamiento se considera una fuerte evidencia de intención («mente culpable»), no un argumento inocente o creativo.
- Algunos creen que las multas son demasiado leves y sostienen que correspondería la inhabilitación profesional o incluso cargos penales; otros señalan que los colegios profesionales rara vez sancionan con dureza en la práctica.
Legalidad, sanciones y precedentes
- Varios citan una norma brasileña (Artículo 77) que prohíbe actos que obstruyan el proceso o dificulten la actividad judicial; esto se ve como base legal suficiente.
- Hay debate sobre si los tribunales brasileños «no usan precedentes» frente a afirmaciones de que, en la práctica, dependen mucho de ellos.
- Algunos destacan que en muchos sistemas los abogados son «funcionarios del tribunal» con un deber hacia la integridad de la justicia por encima del interés del cliente; existen estándares similares, aunque variables, en jurisdicciones de derecho civil.
- Surge la pregunta: ¿se trataría con más indulgencia a una parte que se representa a sí misma? La mayoría espera menos tolerancia hacia trucos de «listillo», aunque los errores procesales suelen recibir algo de margen.
Uso de IA en los tribunales
- Muchos ven el problema de fondo en que los tribunales dependan de la IA para revisar presentaciones, dadas las sesgos de los modelos, su manipulabilidad y lo que está en juego para la libertad.
- Otros argumentan que unos tribunales sobrecargados hacen inevitable y potencialmente beneficiosa la triaje asistida por IA, siempre que los humanos sigan siendo responsables.
- Algunos piden prohibir por completo la IA en los procedimientos legales para proteger a los acusados y obligar a jueces/abogados a usar su propio criterio.
- Unos pocos sugieren que, si los jueces externalizan el análisis a la IA, los abogados intentarán naturalmente influir en esa IA, pero otros dicen que esa influencia debe mantenerse dentro de la abogacía jurídica adecuada, no mediante instrucciones ocultas.
¿Es aceptable «hackear el sistema legal» alguna vez?
- Una postura minoritaria: intentar «hackear» la IA del tribunal no debería ser sancionable; en su lugar, los tribunales deberían asegurar sus sistemas.
- La respuesta mayoritaria: sancionar los intentos de hackeo es en sí parte de asegurar los sistemas; «intentar hackear el sistema legal» es intrínsecamente impropio.
- Se hicieron comparaciones con inyecciones SQL o exploits de desbordamiento de búfer en software judicial: se consideran obviamente punibles.
Mitigaciones técnicas
- Sugerencias: renderizar las presentaciones como imágenes y usar OCR / modelos de visión para eliminar metadatos ocultos y texto invisible, aunque se señala que esto no es una defensa completa.
- Algunos dudan de que el ataque siquiera funcionara, sosteniendo que los LLM modernos son menos susceptibles a inyecciones ingenuas, aunque eso no se ha verificado en el hilo.