Muchas organizaciones de seguridad de la IA han intentado criminalizar la IA de código abierto actualmente existente
Los esfuerzos de algunas organizaciones de seguridad de la IA para restringir o incluso criminalizar los modelos de IA de código abierto están siendo ampliamente interpretados como una forma de captura regulatoria que consolidaría el poder de las grandes tecnológicas. Los comentaristas debaten si la concesión de licencias para los datos de entrenamiento y los límites de cómputo acabarán de hecho con el desarrollo de IA impulsado por la comunidad en Occidente, empujando la innovación hacia jurisdicciones menos reguladas o a la clandestinidad. Junto a esto, hay una marcada división entre quienes se centran en riesgos existenciales especulativos de una futura AGI y quienes están más preocupados por daños actuales como las violaciones de copyright, la desinformación y la pérdida de empleos, y por si las prohibiciones amplias de los modelos abiertos son prácticas o deseables.
Captura regulatoria y motivos de las organizaciones de “seguridad de la IA”
- Muchos ven a los grupos de seguridad de la IA como lobistas de facto de los grandes incumbentes (OpenAI, Microsoft, Google, etc.), que usan la “seguridad” para justificar reglas que consolidan los fosos defensivos corporativos.
- Los críticos sostienen que estas organizaciones impulsan prohibiciones o la criminalización de los modelos abiertos mientras guardan más silencio sobre riesgos equivalentes o mayores procedentes de sistemas cerrados y corporativos.
- Algunos comentaristas sospechan coordinación con gobiernos e intereses de inteligencia/militares; otros creen que la mayoría de los investigadores de seguridad de a pie son sinceros, pero no así sus financiadores.
Datos, copyright y el futuro de la IA de código abierto
- Una preocupación importante: si los datos de entrenamiento siempre deben tener licencia, los modelos abiertos podrían volverse económicamente imposibles, mientras que las grandes tecnológicas pueden permitirse acuerdos.
- Otros replican que:
- Las comunidades FOSS seguirán entrenando con datos sin licencia “en la sombra” (torrent/IPFS/jurisdicciones extranjeras).
- Los materiales sintéticos o de “datos FOSS” obtenidos por la multitud y los materiales de dominio público pueden sustituir en parte, aunque probablemente con capacidades degradadas.
- Hay un amplio desacuerdo sobre si entrenar con contenido protegido por copyright es robo, uso legítimo o algo intermedio.
Riesgo existencial frente a daños actuales
- Un bando se centra en el x-risk: una AGI descontrolada podría destruir o desempoderar permanentemente a la humanidad; ven la apertura como algo que hace irreversibles las capacidades.
- Una parte mayor del hilo es escéptica: considera que los modelos actuales están muy lejos de la AGI y que los argumentos de x-risk son especulativos, apilados sobre supuestos o de ciencia ficción.
- Muchos sostienen que los daños a corto plazo son más concretos: desplazamiento laboral, devaluación del trabajo creativo, desinformación, spam, blanqueo de plagio, sistemas de decisión sesgados y concentración de poder.
Prohibiciones, umbrales y aplicabilidad
- Entre las propuestas debatidas figuran umbrales basados en FLOP, prohibiciones de ciertos modelos o incluso ideas extremas como prohibir globalmente los circuitos integrados.
- La oposición es fuerte:
- Se considera poco realista hacer cumplir estas medidas (como la prohibición de drogas o “prohibir software malicioso”).
- La competencia entre Estados y el cómputo barato hacen que las prohibiciones unilaterales sean inestables; actores deshonestos u otros países seguirían de todos modos.
- Varios señalan que unos criterios vagos de “seguridad de la IA” pueden estirarse fácilmente para censurar discursos no deseados o proteger a los incumbentes.
Valor y riesgos de los modelos de código abierto
- Quienes los apoyan ven los modelos abiertos como:
- Esenciales para democratizar la IA, resistir el control corporativo y habilitar investigación independiente sobre modos de fallo.
- Análogos a la criptografía abierta; prohibirlos perjudicaría la competitividad de Occidente y simplemente desplazaría el desarrollo a otro lugar.
- Los críticos temen que los modelos abiertos faciliten un uso indebido sin censura (consejos sobre armas, desinformación, estafas) y que sea más difícil “dar marcha atrás” una vez liberados.
Confusión conceptual en torno a la “seguridad de la IA”
- Los comentaristas señalan que la “seguridad de la IA” a menudo mezcla:
- Moderación de contenidos / “salidas seguras”.
- Daños sociales (empleos, propaganda, copyright).
- Riesgo existencial a largo plazo de AGI.
- Esta sobrecarga conceptual alimenta que la gente hable sin entenderse y permite a ciertos actores ocultar la protección de sus beneficios detrás de preocupaciones de seguridad más legítimas.