¿Se usan mis datos para el entrenamiento del modelo?
La afirmación de Anthropic de que ciertos planes de Claude están exentos del entrenamiento ha chocado con el funcionamiento real de sus herramientas de feedback, especialmente los botones de pulgar arriba/abajo y las encuestas dentro del producto que pueden almacenar chats completos durante años y usarse para mejorar los modelos. Los comentaristas debaten si esto es una parte inevitable de mejorar los LLM o un patrón oscuro engañoso que socava las exclusiones voluntarias significativas, y algunos piden protecciones al consumidor más fuertes mientras otros responden reteniendo feedback o planeando migrar a modelos locales/de código abierto.
Alcance de los datos usados para entrenamiento
- Los comentarios mediante pulgar arriba/abajo o los reportes explícitos pueden enviar conversaciones completas durante hasta 5 años y pueden usarse para entrenar modelos.
- Muchos consideran que esto, en la práctica, anula una exclusión voluntaria de “sin entrenamiento”, al menos para esas sesiones específicas.
- Los planes empresariales/de equipo generalmente se consideran exentos del entrenamiento, pero los usuarios señalan las zonas grises prácticas y contractuales (p. ej., datos derivados/resumidos).
Expectativas del usuario frente a la realidad de la política
- Algunos dicen que es obvio: si calificas una respuesta, el proveedor debe ver esa conversación para actuar sobre ella.
- Otros se sienten engañados: excluyeron el entrenamiento y no esperaban excepciones ocultas mediante avisos de feedback aparentemente inocuos.
- Varios argumentan que la mayoría de los usuarios no lee documentos de privacidad ni texto sutil de la interfaz, así que se necesita una comunicación más clara en el front-end.
Mecanismos de feedback y patrones oscuros
- Quejas sobre avisos intrusivos de “¿Cómo va Claude esta sesión?” en Claude Code, incluidas preocupaciones de que incluso descartarlos cuente como feedback.
- Un usuario informó haber visto un mensaje de “gracias por ayudar a mejorar los modelos” después de descartarlo, lo que alimentó las sospechas.
- La documentación posterior (enlazada en el hilo) aclara que esta encuesta en particular registra solo una calificación y no transcripciones, lo que alivió algunas preocupaciones, pero llegó después de la confusión inicial.
Argumentos técnicos sobre el uso del feedback
- Algunos afirman que los metadatos puros no sirven de nada; para corregir malas respuestas necesitas el hilo completo de pregunta–respuesta.
- Otros señalan alternativas parciales como pruebas A/B sobre configuraciones o prompts sin almacenar el texto completo, aunque reconocen que son menos potentes.
Privacidad, telemetría y terceros
- Discusión sobre desactivar la telemetría en Claude Code, usar proxies e inspeccionar el tráfico.
- Un estudio citado (resumido en el hilo) sugiere que los productos de chat de IA pueden filtrar metadatos relacionados con el chat a rastreadores de terceros mediante enlaces permanentes e identificadores.
Percepciones de riesgo y actitudes
- Las opiniones van desde “por supuesto que ingieren todo; actúa en consecuencia” hasta sentirse “engañado” y hablar de posibles acciones colectivas.
- A algunos no les importa, ya que ven más beneficio que riesgo; otros se preocupan por la filtración de propiedad intelectual, la competencia o ser “reemplazados” usando sus propios datos.
- Varios están planeando o considerando pasar a modelos locales/de código abierto una vez que el hardware y las herramientas maduren, a pesar de los costes y las desventajas de mantenimiento.