OpenAI y Anthropic se unen contra los riesgos de la IA de pesos abiertos para sus resultados

Artículo original ↗ Discusión en Hacker News ↗

Las grandes empresas de IA de EE. UU., OpenAI y Anthropic, están pidiendo a los reguladores que actúen contra los modelos de pesos abiertos, especialmente los procedentes de China, argumentando que plantean riesgos de seguridad y protección una vez que los pesos se liberan de forma irreversible. Los comentaristas ven en gran medida esto como un intento de captura regulatoria para proteger modelos de negocio frágiles y muy intensivos en capital construidos sobre datos de entrenamiento con copyright, y advierten que podría dañar la competitividad de EE. UU. y acelerar un giro hacia modelos abiertos chinos u otros extranjeros. En el fondo hay una lucha más amplia sobre si la IA debe tratarse como una tecnología propietaria y fuertemente controlada o como una infraestructura abierta y ampliamente accesible, y qué significa esa elección para la innovación, la seguridad y el poder económico.

Regulación, monopolio y motivaciones

  • Muchos ven la postura de OpenAI/Anthropic como un caso clásico de captura regulatoria: usar la “seguridad” para proteger valoraciones, fosos defensivos e inversores sobredimensionados.
  • Comparaciones con la historia antimonopolio de EE. UU. y la retórica del “bienestar del consumidor”: la regulación se percibe como diseñada para proteger a los incumbentes en lugar de a los ciudadanos.
  • Algunos sostienen que esto regulará a EE. UU. hasta volverlo no competitivo, en eco de los aranceles a los VE chinos y del proteccionismo pasado.

EE. UU. vs China y geopolítica

  • Tema fuerte: EE. UU. intenta restringir los modelos abiertos mientras China lanza agresivamente modelos de pesos abiertos capaces.
  • Algunos esperan que EE. UU. presione a la UE y a otros para que sigan esa línea, pero otros señalan que los socios ya se están diversificando lejos de la tecnología y las finanzas estadounidenses.
  • Una minoría argumenta que las empresas estadounidenses, aunque maximizan beneficios, son más confiables que las entidades chinas con motivos geopolíticos explícitos; otros discrepan.

Modelos de pesos abiertos vs cerrados

  • Muchos comentaristas son firmemente pro pesos abiertos, viéndolos como esenciales para:
    • La competencia y evitar resultados de ganador se lo lleva todo.
    • El trabajo de seguridad (se cita el incidente de Hugging Face: los guardrails de los modelos cerrados dificultaron la respuesta).
    • El acceso global fuera de EE. UU.
  • Los críticos advierten que modelos de frontera sin censura y de pesos abiertos podrían facilitar ciberataques, orientación sobre bio/armas y otros daños masivos.

Destilación, propiedad intelectual y copyright

  • Debate acalorado sobre “destilar” desde APIs propietarias:
    • Un lado: es uso legítimo / consultar una API; los propios laboratorios cerrados entrenaron con enormes cantidades de datos raspados y con copyright.
    • El otro lado: esto es un robo de propiedad intelectual directo, especialmente cuando se apunta a “tokens de pensamiento” específicos.
  • Los acuerdos sobre scraping con copyright se citan como evidencia de que los laboratorios ya “robaron” datos pero se quedan con las ganancias.
  • Desacuerdo de fondo sobre si el copyright es un derecho moral, un sistema práctico de incentivos o algo ya roto por plazos excesivamente largos.

Impactos económicos e industriales

  • Desacuerdo sobre los efectos económicos:
    • Algunos dicen que las destilaciones comprimen márgenes y frenan la I+D de frontera, perjudicando el liderazgo estadounidense.
    • Otros sostienen que modelos abiertos más baratos impulsan la productividad global y la economía estadounidense en general, aunque perjudiquen a unos pocos grandes laboratorios.
  • Varios señalan que el gasto en IA y centros de datos está sosteniendo el crecimiento de EE. UU.; eso da al gobierno un fuerte incentivo para ponerse del lado de los incumbentes.

Seguridad de la IA, riesgo y dinámicas de la comunidad

  • Profunda división:
    • Un bando descarta el discurso actual sobre el riesgo de la AGI como marketing exagerado y alarmismo; apunta a repetidas afirmaciones de “demasiado peligroso para publicar” que no se materializaron.
    • Otro insiste en que quienes trabajan en modelos de frontera ven riesgos sistémicos reales, especialmente si el acceso abierto coincide con saltos rápidos de capacidad.
  • Meta-discusión de que HN se vuelve polarizado y tóxico cada vez que se habla de seguridad de la IA o de regulación.