OpenAI parece estar reactivando silenciosamente el entrenamiento de modelos en los chats de Codex

Crece la preocupación de que Codex de OpenAI haya reactivado silenciosamente el entrenamiento con los chats de usuarios y haya oscurecido los controles de uso y privacidad, lo que despierta temores de que código sensible e IP empresarial puedan ser ingeridos pese a exclusiones previas. Los comentaristas debaten si esto se debe a malicia, incompetencia o incentivos comerciales, y amplían la crítica a otros proveedores de IA como Anthropic y Google, señalando patrones oscuros, garantías contractuales débiles y políticas de retención opacas. Muchos concluyen que las organizaciones que se toman en serio la protección de datos deberían autohospedar modelos abiertos o usar ofertas en la nube estrictamente gobernadas en lugar de confiar en casillas y ajustes de los frontier AI labs.

Se informa de la reactivación de la configuración de entrenamiento de modelos

  • Varios comentaristas dicen que la opción de Codex/OpenAI de “usar conversaciones para mejorar los modelos”, antes desactivada, parece haberse reactivado silenciosamente para ellos o para sus compañeros de trabajo.
  • Otros informan que su configuración sigue desactivada, lo que genera testimonios contradictorios.
  • Algunos sospechan cambios de interfaz con patrones oscuros (mover ajustes, cambiar etiquetas o interruptores fáciles de pulsar por error), mientras que otros sugieren que podría tratarse de un error o de una metedura de pata “vibe-coded” más que de malicia deliberada.
  • Unos pocos señalan incidentes previos con otros proveedores en los que los diales a nivel de organización cambiaron de opt-in a opt-out y viceversa, restableciendo los deslizadores a “activado”.

Contexto de confianza, consentimiento y legal/regulatorio

  • Muchos expresan una profunda desconfianza hacia los “frontier labs”, citando el rastreo masivo previo de libros y contenido web, y sosteniendo que hay poco incentivo para respetar las casillas de exclusión voluntaria cuando la aplicación es débil.
  • Algunos afirman que, incluso con el entrenamiento desactivado, los proveedores pueden conservar datos para detección de abuso, analítica o generación de datos sintéticos, “entrenando sin entrenar” en la práctica.
  • Se discute que reguladores (por ejemplo, la FTC) han advertido contra cambiar silenciosamente los términos o la configuración de consentimiento, pero se muestra escepticismo sobre que las autoridades actúen de manera significativa.
  • Se mencionan demandas y contratos de retención cero de datos (ZDR) como remedios teóricos, aunque los comentaristas dudan de su aplicabilidad práctica o de la obtención de pruebas.

Preocupaciones empresariales sobre IP y seguridad

  • Muchos argumentan que las empresas serias sobre la protección de IP no deberían enviar código propietario a modelos opacos de terceros en absoluto.
  • Mitigaciones sugeridas:
    • Ejecutar tu propia inferencia sobre modelos abiertos (por ejemplo, vía HF, Qwen, DeepSeek, GLM), posiblemente sobre confidential compute en nubes grandes.
    • Usar modelos con acceso controlado a través de Azure/GCP/AWS o Bedrock con garantías estilo ZDR en lugar de productos orientados al consumidor.
    • Activar seguridad avanzada de la cuenta y registros de auditoría; exportar periódicamente los datos y revisar las cachés.
  • Otros señalan barreras de coste y experiencia para organizaciones pequeñas; algunas empresas ya bloquean los LLM externos salvo en contextos estrictamente controlados.

Comparaciones con otros proveedores y productos

  • Se plantean preocupaciones similares sobre Anthropic (canales de feedback, cambios en la política de Daybreak Blue) y los ajustes de “actividad” de Google Gemini, descritos como patrones oscuros que vinculan la retención del historial de chats al entrenamiento.
  • Algunos equipos informan haber creado herramientas para supervisar muchas cuentas de agentes y alertar si el entrenamiento se activa.

Actitudes meta y tolerancia al riesgo

  • Los comentaristas divergen de forma marcada: desde “asume que todo se usa para entrenar” y “no confíes en esta empresa” hasta posturas más indulgentes que sugieren que problemas de calidad de software, y no malicia, pueden explicar el comportamiento.
  • Sigue el debate sobre qué nivel de cautela es “paranoico” frente a lo que simplemente es coherente con las normas de seguridad previas a la IA.