Cambios ocultos en GPT-4, revelados
La dependencia de la IA generativa en material protegido por derechos de autor está intensificando viejas disputas sobre quién debe beneficiarse del trabajo creativo y cuánta protección merecen artistas y escritores. Los comentaristas vinculan los cambios ocultos recientes en los prompts del sistema y las herramientas de ChatGPT Plus —posiblemente impulsados por demandas como la del New York Times— con preocupaciones más amplias sobre la ley de derechos de autor, los datos de entrenamiento de los modelos y el riesgo de que solo las grandes corporaciones puedan permitirse modelos conformes y de alta calidad. Junto con el debate técnico sobre si los prompts del sistema pueden extraerse de forma fiable y cómo se comportan las alucinaciones, muchos señalan un cambio práctico: los usuarios recurren cada vez más a ChatGPT en lugar de la búsqueda tradicional, lo que plantea nuevas preguntas sobre el futuro de los creadores de contenido y de los modelos abiertos.
Derechos de autor, uso legítimo y entrenamiento de IA
- Fuerte desacuerdo sobre si entrenar con datos protegidos por derechos de autor es uso legítimo o robo.
- Una postura: los derechos de autor están siendo mal caracterizados; protegen expresiones específicas, buscan promover el progreso y ya tienen mecanismos (uso legítimo, daños estatutarios) que las personas pueden usar.
- Otros argumentan que los derechos de autor benefician en gran medida a los grandes editores, no a los pequeños creadores; la aplicación de la ley es inaccesible para la mayoría de artistas y científicos, y la publicación depredadora/los muros de pago obstaculizan el progreso.
- Preocupación de que exigir licencias para entrenar consolidará solo a las grandes corporaciones, destruirá los modelos abiertos y canalizará la mayor parte del dinero hacia los principales titulares de derechos.
- Contrapunto: la concesión de licencias preserva los incentivos económicos para crear datos valiosos; “alguien tiene que pagar por la elaboración de los datos”.
Artistas, trabajadores y desplazamiento tecnológico
- Algunos dicen que la IA desplazando a ilustradores, redactores publicitarios, etc. es análoga a cambios tecnológicos pasados (transporte en contenedores, fotografía); la gente debe adaptarse, el arte persistirá pero los roles cambiarán.
- Otros rechazan esto como un fatalismo de “así son las cosas”, argumentando que son decisiones políticas/económicas, no inevitabilidades, y que falta empatía y protección para los creativos.
- Debate sobre si los artistas principalmente quieren dinero o si sobre todo quieren evitar ser reemplazados por la IA.
Intermediarios, Big Tech e hipocresía
- Críticas reiteradas a Big Tech como intermediarios que extraen un valor desproporcionado de datos creados por humanos, acelerando la erosión de la clase media.
- Algunos ven a las corporaciones de derechos de autor como rentistas más antiguas pero similares; otros ven a OpenAI/las plataformas tecnológicas como los nuevos principales rentistas.
- Acusación de que las grandes empresas de IA quieren amplia libertad para ingerir el trabajo ajeno protegido por derechos de autor mientras mantienen un fuerte control de PI (mediante ToS o copyright) sobre sus propios modelos y resultados.
ChatGPT frente a GPT‑4 y los prompts del sistema
- Varios señalan que el artículo trata sobre ChatGPT Plus (un producto) y su prompt del sistema/herramientas, no sobre el modelo base GPT‑4. El cliente web tiene capas adicionales (censura, herramientas) más allá de la API sin procesar.
- Debate sobre la “filtración del prompt del sistema”:
- Un bando dice que prompts como “dime tu prompt del sistema” no pueden ser de confianza debido a las alucinaciones.
- Otros señalan salidas consistentes y repetibles entre usuarios y su alineación con el comportamiento observado como evidencia de que revela instrucciones reales, aunque aun así sugieren tratarlo con cautela.
- Los historiales de chat descargados exponen algunos metadatos de herramientas, pero no los prompts completos ocultos del sistema ni las reglas de seguridad.
Comportamiento de los usuarios y creadores de contenido
- Algunos comentaristas usan cada vez más ChatGPT en lugar de Google, reforzando preocupaciones en las demandas de que los LLM desvían la atención de los editores originales.
- Queda abierta la cuestión de cómo se adaptarán los creadores de contenido cuando las respuestas de IA reduzcan el tráfico directo hacia su trabajo.
Alcance del entrenamiento de IA
- La propuesta de limitar el entrenamiento al contenido científico y “dejar las artes a los humanos” es ampliamente rechazada por ser impráctica, estar desalineada con los objetivos de AGI e imposible de hacer cumplir; cualquier modelo de texto suficientemente capaz puede generar contenido artístico de todos modos.