Memoria y nuevos controles para ChatGPT
La nueva función de “memoria” de OpenAI para ChatGPT, que permite al modelo recordar preferencias y contexto del usuario entre chats, se percibe a la vez como una mejora de usabilidad largamente esperada y como un posible riesgo de dependencia y privacidad. Los comentarios se dividen entre usuarios “transaccionales”, que quieren sesiones limpias y sin estado por seguridad y fiabilidad, y usuarios “relacionales” o basados en proyectos, para quienes un contexto persistente ahorraría tener que repetir explicaciones constantemente. Muchos también cuestionan cómo se implementa técnicamente la función, cómo interactúa con el comportamiento cada vez más “perezoso” en programación de variantes recientes de GPT-4, y por qué no se priorizan en su lugar necesidades básicas como mejor búsqueda, ventanas de contexto más amplias y una interfaz más robusta.
Patrones de uso y valor de la memoria
- Muchos distinguen entre el uso “transaccional” (cada chat es una consulta nueva, como una búsqueda) y el uso “relacional/temático” (proyectos continuos o una especie de compañero).
- Los usuarios transaccionales suelen preferir una pizarra limpia por seguridad, previsibilidad y capacidad de depuración; temen que la memoria introduzca estado oculto y comportamientos extraños.
- Los usuarios relacionales/temáticos quieren contexto persistente para proyectos, preferencias y temas recurrentes (por ejemplo, estilo de código, dispositivos usados, hábitos de planificación de clases).
Deseo de memoria acotada / estructurada
- Varios quieren memoria acotada por tema, proyecto o “carpetas”, no mezclada en toda la cuenta.
- Piden conversaciones en árbol/hiladas, jerarquías de contexto (trabajo vs personal) y “marcos iniciales” reutilizables de chats anteriores.
- Algunos imaginan sistemas de “macro” o perfiles: distintos prompts base/tonos para blog, investigación técnica, etc.
Detalles de implementación y conjeturas técnicas
- Muchos asumen un enfoque estilo RAG: “memorias” breves almacenadas por separado, consultadas e inyectadas en los prompts cuando son relevantes.
- Una filtración de prompt muestra una herramienta
biousada para persistir información del usuario; las memorias parecen ser pequeños fragmentos de texto añadidos al contexto del sistema. - Debate sobre si esto no es más que una versión refinada de las instrucciones personalizadas o algo más dinámico; consenso: incremental pero útil en la práctica, no revolucionario.
Privacidad, confianza y dependencia
- La memoria persistente aumenta la preocupación por la retención de datos, el uso para entrenamiento y la verificación de las políticas de OpenAI.
- Algunos la ven como un mecanismo de dependencia/“adhesión”, elevando los costes de cambiar a competidores.
- Varios prefieren LLM locales por privacidad, control y para evitar filtros de seguridad.
Comportamiento del modelo y “pereza”
- Fuerte hilo sobre GPT-4 Turbo volviéndose “perezoso” para programar: implementaciones parciales, comentarios en lugar de código completo, ignorar instrucciones explícitas.
- Benchmarks y anécdotas sugieren que esto empeoró con actualizaciones recientes; algunos creen que es por costes o por el prompt, no solo por seguridad.
- Se mencionan soluciones: diffs unificados, prompts del sistema que enfatizan un tono experto a experto, instrucciones cuidadosas o cambiar a otros modelos/locales.
UX, interfaz y carencias básicas
- Quejas de que la interfaz web de ChatGPT es lenta, tiene fallos y carece de funciones críticas como búsqueda global en los chats.
- Algunos cambiarían las nuevas funciones de “memoria” y personalización por mejoras básicas: fiabilidad, mayor contexto efectivo y mejor seguimiento de las instrucciones.