GLM-Legal
Un nuevo modelo de IA centrado en el ámbito legal y de propiedad cerrada del laboratorio chino Zhipu AI ha reavivado el debate sobre hasta qué punto deben usarse los grandes modelos de lenguaje en el derecho, dada su tendencia a alucinar casos y las altas consecuencias de los resultados penales, civiles y regulatorios. Los comentaristas sopesan los posibles beneficios —investigación más rápida, revisión de contratos más barata y mejor acceso a ayuda legal en sistemas saturados— frente a preocupaciones sobre la responsabilidad de los abogados, la divulgación del uso de IA, la privacidad, la soberanía de los datos y la erosión de las vías de formación para los jóvenes. Muchos ven plausible un uso estrecho y supervisado para tareas rutinarias, pero dudan de que los sistemas actuales puedan manejar con seguridad patrones de hechos novedosos o reemplazar el juicio jurídico humano.
Uso de la IA por parte de los abogados y divulgación
- Debate sobre si debería exigirse a los abogados que divulguen el uso de IA.
- Una postura: la divulgación es necesaria porque la IA aumenta el riesgo de errores y no puede ser sancionada; los clientes merecen saber cuándo interviene la IA.
- La otra postura: los abogados ya son plenamente responsables de los escritos independientemente de las herramientas; los tribunales deberían revisar los argumentos de todos modos, así que la divulgación no debería importar si el sistema funciona correctamente.
- Preocupación por el “vibe-practicing law”, en el que los abogados sellan automáticamente las salidas de la IA sin entenderlas ni verificarlas.
Calidad, alucinaciones y benchmarks
- Preocupación frecuente por que los LLM alucinen casos o interpreten mal la ley; los jueces han sancionado a abogados por ello.
- Algunos ven las alucinaciones como un problema grave y persistente en dominios sin respuestas claramente correctas (por ejemplo, el razonamiento jurídico).
- Otros señalan que las tasas de alucinación en programación han bajado y esperan mitigación en el ámbito jurídico mediante agentes de investigación y bucles de verificación.
- La supuesta tasa de acierto de ~20% en el benchmark de Harvey es vista por algunos abogados como poco impresionante para litigios reales, pero otros señalan que actualmente está cerca del estado del arte; también se critica que la calidad del benchmark es irregular y a veces normativamente incorrecta.
Impacto en la profesión jurídica y el acceso a la justicia
- Muchos esperan que la IA reemplace gran parte del trabajo rutinario que hoy hacen los asociados junior/paralegales (investigación, contratos estándar, testamentos, redlines).
- Algunos informan de resultados prácticos sólidos usando LLM generales para revisar contratos con comprobaciones finales humanas.
- Existe la preocupación de que automatizar el “trabajo pesado” vacíe la tubería de formación para futuros expertos.
- Otros enfatizan el lado positivo: acceso más barato a ayuda legal, especialmente para litigantes pro se y sistemas sobrecargados (por ejemplo, retrasos de los tribunales indios, acuerdos, adjudicación tipo arbitraje mediante IA).
Apertura del modelo, jurisdicción y privacidad de datos
- Fuerte demanda de pesos abiertos y datos de entrenamiento transparentes, especialmente en derecho/salud; los modelos cerrados, alojados solo en la nube, se califican de “DOA” para uso jurídico serio.
- Preocupación adicional de que GLM-Legal esté operado por una empresa vinculada a China: temor a que datos legales sensibles se almacenen en una jurisdicción extranjera sin extradición; la visión contraria es que la custodia extranjera a veces puede actuar como una especie de “superprivilegio”, aunque otros argumentan que los tribunales aún pueden presionar al usuario.
- Informes previos de que las herramientas del proveedor hacían capturas de los espacios de trabajo sin avisar profundizan la desconfianza; algunos dicen que no confiarían en estos proveedores más que en los laboratorios frontera de EE. UU.
Especificidad del dominio y límites
- Preguntas sobre qué sistemas jurídicos cubre (EE. UU./Reino Unido frente a otros) y si un solo modelo puede manejar de forma fiable muchas jurisdicciones.
- Varios abogados subrayan que los litigios reales a menudo implican novedad, juicio humano y dinámicas de poder complejas, que los LLM actuales no pueden capturar por completo.
- Consenso en el hilo: los LLM son asistentes prometedores para tareas estandarizadas, pero confiar en ellos sin criterio para decisiones jurídicas de alto riesgo sigue siendo peligroso.