Tell HN: OpenAI sigue volviendo a habilitar la configuración de 'allow training'
Usuarios de OpenAI informan que la configuración “allow training” / “Improve the model for everyone” en ChatGPT a veces parece reactivarse sola, lo que genera preocupación de que la empresa pueda estar anulando o no persistiendo las preferencias de privacidad. Los comentaristas debaten si se trata de mala fe, incompetencia o un error de UI/backend, y señalan la dificultad de demostrar lo que un usuario seleccionó sin herramientas forenses especializadas. El hilo se amplía hacia el escepticismo sobre confiar datos sensibles a cualquier gran proveedor de IA, comparaciones con las prácticas de competidores y recordatorios de usar mecanismos formales de exclusión o modelos autoalojados cuando la privacidad es crítica.
Rehabilitación del entrenamiento / “Mejorar el modelo para todos”
- Varios usuarios informan que el interruptor de ChatGPT “allow training / improve the model for everyone” se vuelve a activar después de haberlo deshabilitado, a veces tras cambios de suscripción o actualizaciones de la app.
- Otros comprobaron explícitamente y encontraron que su configuración seguía desactivada, en algunos casos durante años, lo que sugiere un comportamiento inconsistente más que un problema universal.
- Algunos temen que, una vez que el interruptor se vuelve a activar sin avisar, conversaciones pasadas ya puedan estar siendo usadas para entrenamiento antes de que se note el cambio.
Múltiples exclusiones y “Advanced Account Security”
- Se mencionan al menos dos mecanismos:
- Ajuste en la app: Settings → Data Controls → “Improve the model for everyone.”
- Portal de privacidad: formulario de solicitud “Do not train on my content”.
- Los comentaristas están confundidos sobre si hacen falta ambos; un empleado de OpenAI dice que cualquiera de los dos es suficiente y que el portal también cubre otros productos y usuarios sin sesión iniciada.
- “Advanced Account Security” se cita (con documentos de OpenAI) como algo que excluye automáticamente las conversaciones del entrenamiento, pero algunos señalan que la interfaz principal no conecta claramente esto con el entrenamiento, lo que lleva a pedir mejor documentación.
¿Bug o patrón oscuro deliberado?
- Algunos lo ven como un patrón oscuro intencional, comparándolo con la reproducción automática de YouTube, los valores predeterminados de privacidad de Facebook y las actualizaciones de sistemas operativos que restablecen o ignoran las preferencias del usuario.
- Otros proponen explicaciones mundanas: una UI optimista con errores, actualizaciones de backend fallidas, corrupción de configuración o cambios de producto que restablecen ajustes.
- Hay debate sobre si volver a activar repetidamente la opción es peor (porque es una manipulación demostrable) que simplemente ignorar el ajuste en silencio.
Confianza, legalidad y uso de datos
- Muchos expresan una profunda desconfianza hacia OpenAI, citando:
- Entrenamiento con datos rastreados y con copyright.
- Alegaciones de “scooping” de IP y otro comportamiento éticamente dudoso.
- Incentivos generales de los laboratorios de IA orientados al lucro.
- Algunos argumentan que, si los usuarios no pueden demostrar que se dieron de baja, la carga debería recaer en la empresa; otros señalan que, en la práctica, los registros de la empresa suelen prevalecer en disputas legales.
- Las sugerencias de “prueba” incluyen grabar sesiones TLS con claves o usar herramientas forenses de captura web, aunque se reconoce que esto es complejo.
Alternativas y estrategias de adaptación
- Varios recomiendan:
- Usar modelos de pesos abiertos o locales en lugar de servicios en la nube.
- Cambiar a competidores (Anthropic, Bedrock, Cursor, etc.), aunque algunos informan preocupaciones similares de privacidad o patrones oscuros con ellos también.
- Otros han abandonado por completo los პროდუქტs de OpenAI tras errores previos de exclusión o problemas de facturación.