OpenAI suspende la cuenta de ByteDance después de que usara GPT para entrenar su propio modelo de IA
La suspensión por parte de OpenAI del acceso de ByteDance a su API, presuntamente por usar salidas de GPT para entrenar un modelo competidor, está despertando escrutinio sobre cómo las empresas de IA controlan el uso posterior de sus sistemas. Los comentaristas debaten si se trata de una protección legítima de tecnología propietaria o de hipocresía flagrante por parte de una firma que también entrenó con enormes cantidades de contenido de internet sin consentimiento individual. El intercambio toca zonas grises legales (copyright, contratos y antimonopolio), cuestiones técnicas sobre la destilación de modelos y preocupaciones geopolíticas y éticas más amplias sobre quién fija las reglas para la IA avanzada.
Hipocresía percibida y equidad
- Muchos ven la medida de OpenAI como hipócrita: entrenó con enormes cantidades de contenido de internet creado por humanos (a menudo sin consentimiento explícito), pero prohíbe que otros entrenen con sus salidas.
- Otros sostienen que no es lo mismo: OpenAI usó datos públicos de la web; ByteDance supuestamente intentó acortar el costoso entrenamiento destilando el modelo ya entrenado de OpenAI.
- Algunos comparan esto con los motores de búsqueda o el comportamiento de Google: rastrear a todos, pero impedir que otros los rastreen, o penalizar contenido duplicado mientras ellos mismos rehostean material.
Legalidad, contratos y antimonopolio
- Los Términos de Servicio de OpenAI prohíben explícitamente usar las salidas para entrenar modelos competidores y la extracción programática de salidas. Muchos comentaristas señalan que ByteDance parece haber violado una cláusula contractual, no necesariamente la ley de copyright.
- Hay debate sobre si entrenar con material protegido por derechos de autor constituye en sí una infracción de propiedad intelectual; se considera que la ley vigente no está resuelta.
- Algunos plantean preocupaciones antimonopolio: un proveedor dominante de modelos que restringe a competidores el uso de sus salidas podría verse como casos de prohibiciones de ingeniería inversa o de derechos sobre bases de datos, y podría atraer escrutinio a medida que el mercado madura.
Uso técnico de GPT para entrenamiento
- Varios comentarios explican la “destilación”: usar GPT-3.5/4 para generar grandes conjuntos de datos sintéticos (Q&A, seguimiento de instrucciones, trazas de razonamiento), y luego afinar un modelo aparte para imitar el comportamiento de GPT.
- Esto se describe como especialmente valioso para el comportamiento al estilo de instrucciones/RLHF y la estructura de las respuestas, no para el conocimiento bruto, que aún puede provenir de corpus públicos de la web.
- Algunos señalan que esto es relativamente barato comparado con el preentrenamiento completo, y que otros proyectos (p. ej., varios modelos abiertos) al parecer han hecho cosas similares.
Geopolítica y poder de plataforma
- Varios vinculan la suspensión con las tensiones entre EE. UU. y China y con preocupaciones sobre empresas chinas que usan IA de EE. UU. para beneficiar al estado y al ejército de la RPC, citando discusiones recientes de política estadounidense sobre controles de exportación.
- Otros creen que será difícil impedirlo en la práctica; actores motivados pueden canalizar llamadas a la API a través de terceros.
Raspado de datos y asimetría
- Los comentaristas enlazan esto con un patrón más amplio: las grandes plataformas rastrean libremente la web abierta, pero luego cierran sus propios datos/modelos (p. ej., Google, Reddit, Stack Overflow).
- Hay frustración porque los creadores de contenido y los sitios pequeños ayudaron a construir los modelos e índices de hoy, y aun así no pueden acceder ni reutilizar recíprocamente esos activos “derivados”.
La misión y la marca de OpenAI
- Muchos critican el encuadre de “usado para el bien” como postureo moral y señalan la brecha entre la misión original de “investigación abierta para la humanidad” y el comportamiento actual, cerrado y orientado al lucro.
- Algunos defienden el derecho de la empresa a proteger activos propietarios costosos, pero admiten que el nombre “OpenAI” ahora se siente engañoso.