Tell HN: Gemini entrena con el historial de chat, incluso para suscriptores (cuentas personales)
Se informa que la IA Gemini de Google entrena con los historiales de chat de cuentas personales, incluidas las de suscriptores de pago, a menos que desactiven por completo el historial, una opción que además elimina funciones clave. Los comentaristas señalan preocupaciones sobre la revisión humana de transcripciones, el lenguaje vago sobre el uso de datos en los términos de Google y un patrón de “todo o nada” que empuja de hecho a compartir datos. Muchos comparan el enfoque de Gemini con el de otros proveedores de IA y nube que ofrecen exclusiones del entrenamiento más claras, y algunos recomiendan herramientas autohospedadas o empresariales para un uso realmente privado.
Reacción general
- Muchos comentaristas no se sorprenden de que Gemini entrene con el historial de chat, incluidas las cuentas personales de pago; varios dicen que asumían que “todo el mundo hace esto”.
- Otros creen que la combinación específica de valores predeterminados, revisión humana y modelo de exclusión voluntaria sigue mereciendo destacarse por ser hostil para el usuario.
- Algunos usuarios dicen que esta fue una razón para cancelar Gemini Pro; otros dicen que nunca usaron Gemini en serio de todos modos por problemas de calidad o de confianza.
Uso de datos, entrenamiento y revisión humana
- Gemini usa los registros de chat para:
- Entrenamiento del modelo y mejora del servicio.
- Revisión humana para calificar respuestas, sugerir mejores respuestas y hacer cumplir la seguridad y las políticas.
- Los chats revisados pueden conservarse durante años y se guardan incluso si los usuarios eliminan su actividad.
- El “subconjunto de chats” no está definido, y la “desconexión” de la cuenta se considera más débil que una verdadera anonimización.
- Varios comentarios insisten: no introduzcas datos confidenciales o sensibles; asume que cualquier cosa que escribas puede almacenarse y revisarse.
Exclusión voluntaria, historial y contrapartidas de usabilidad
- No puedes conservar el historial de chat y excluirte por completo del entrenamiento/la revisión humana al mismo tiempo; una exclusión efectiva requiere desactivar el historial o usar chats temporales.
- En Pixel/teléfono, al parecer se rompen funciones clave del asistente (recordatorios, acciones del dispositivo) sin el historial de chat activado, algo que los usuarios describen como coercitivo o como un cebo y cambio.
- Algunos consideran que ese patrón de “todo o nada” es coherente con otros productos de Google (Maps, historial de visualización de YouTube).
Comparaciones con otros proveedores de IA
- Se cuestiona la afirmación de que “toda IA entrena con las entradas”:
- Se cita Gemini Enterprise y algunas ofertas en la nube (p. ej., Azure OpenAI) como ejemplos con garantías explícitas de no entrenamiento para datos empresariales, con ventanas limitadas de retención por seguridad.
- Se dice que otras herramientas de consumo (ChatGPT, Claude) ofrecen historial más una exclusión explícita del entrenamiento, algo que el Gemini personal de Google no tiene.
- Algunos señalan que Gemini para espacio de trabajo/empresas tiene mejor privacidad pero va por detrás en acceso a modelos.
Confianza, privacidad y comportamiento corporativo
- Desconfianza generalizada hacia los grandes laboratorios de IA: los temas comunes son cambios en los Términos de Servicio, que los datos sean “un objetivo demasiado jugoso” y la inevitabilidad de una reutilización futura.
- Varios lo ven como una continuación de la estrategia de Google basada en anuncios, maximización de datos y diseño de producto “hostil para el usuario”.
- Otros sostienen que cierta retención y revisión se debe a responsabilidad legal y seguridad, no solo a explotación, pero esto se discute.
Soluciones provisionales y estrategias de usuario
- Mitigaciones sugeridas:
- Usar modelos locales/autohospedados o APIs centradas en la privacidad.
- Evitar introducir secretos; diseñar flujos de trabajo para que los agentes nunca vean credenciales en bruto.
- Usar Gemini solo para tareas de baja sensibilidad (por ejemplo, resumir contenido público).
- Rotar cuentas, usar proxies o incluso “envenenar” los datos de entrenamiento con ruido o contenido de defensa/activismo.