La memoria de los agentes necesita su momento OpenTelemetry
Las propuestas de un formato estandarizado, similar a OpenTelemetry, para la “memoria” de los agentes de IA están recibiendo escepticismo por parte de desarrolladores que consideran que los sistemas actuales de memoria son confusos, propensos a errores y a menudo perjudiciales para el rendimiento del modelo. Muchos sostienen que la documentación de proyecto simple y legible por humanos, junto con notas ligeras basadas en el sistema de archivos, funciona mejor que capas de memoria complejas y compartidas, y que es demasiado pronto para fijar un estándar mientras las mejores prácticas y las capacidades de los modelos siguen evolucionando. El hilo también refleja una frustración creciente con el contenido técnico generado por LLM y la preocupación de que los intentos de formalizar la memoria de agentes estén impulsados más por la moda que por una necesidad demostrada.
Problemas percibidos con la memoria de agentes
- Muchos comentaristas dicen que la memoria de agentes a menudo causa daño: almacena detalles transitorios o incorrectos y luego se centra demasiado en ellos en tareas futuras.
- Esto lleva a deriva, inexactitud y sesgo de confirmación (por ejemplo, recomendar repetidamente una arquitectura después de una sola conversación previa).
- Algunos observan herramientas que conservan decisiones puntuales, lo que luego desorienta al agente cuando el contexto cambia.
- Varias personas ahora desactivan la memoria integrada y prefieren notas explícitas, curadas por humanos.
Alternativas y prácticas actuales
- Enfoque común: tratar la memoria como artefactos normales del proyecto: archivos markdown,
AGENTS.md/CLAUDE.md, documentos de arquitectura en el repositorio. - Se instruye a los agentes para mantener y consultar un directorio de conocimiento, a veces sincronizado vía S3 o gestionado con simples grep o almacenes clave-valor.
- Algunos indexan y generan embeddings de “todo” para recuperación; otros cuestionan si la vectorización es realmente mejor que una buena búsqueda de texto, dada la complejidad extra.
- Para conocimiento compartido o de larga duración, muchos prefieren documentos del repositorio antes que memorias opacas del agente.
¿Necesidad de un formato estándar?
- Algunos sostienen que un formato unificado de memoria ahorraría tokens y complejidad de herramientas, y permitiría portabilidad entre agentes y modelos.
- Otros responden que los LLM leen bien texto arbitrario, así que los formatos rígidos aportan poco valor.
- Hay un fuerte sentimiento de que la estandarización es prematura; todavía no entendemos las abstracciones correctas, y el comportamiento de los modelos cambia rápidamente.
- Se hacen comparaciones con SOAP/SGML: temor a fijar demasiado pronto una abstracción equivocada.
Cuestiones técnicas abiertas
- Cómo delimitar la memoria (por proyecto frente a global; por usuario frente a compartida).
- Cómo vincular memorias al código (archivos, rangos de líneas) manteniéndolas robustas frente a refactorizaciones.
- Cómo manejar la concurrencia y evitar que las sesiones se sobrescriban silenciosamente las notas unas a otras.
- Si las “memorias” deben ser texto o representaciones en espacio de embeddings; se prefiere texto por su compatibilidad a largo plazo entre modelos.
Metadiscusión: prosa de LLM y calidad
- Muchos se quejan de que el artículo “suena como un LLM”, describiéndolo como verborreico, vago, “slop”.
- Otros objetan, diciendo que la autoría importa menos que la claridad y el contenido, pero admiten que el estilo actual de los LLM resulta molesto.
- Algunos quieren herramientas para detectar o filtrar texto generado por IA —o, por el contrario, para filtrar las quejas constantes al respecto.