GPT-2: Demasiado peligroso para publicarlo (2019)
Las afirmaciones de 2019 de que GPT‑2 de OpenAI era “demasiado peligroso para publicarlo” se están reexaminando a la luz de cómo los grandes modelos de lenguaje han remodelado desde entonces Internet, el trabajo y la política. Los comentaristas debaten si las primeras advertencias de seguridad fueron una cautela genuina o una táctica de marketing, señalando tanto daños claros —spam, desinformación, fraude, trampas, disrupción laboral, propaganda generada por IA— como ganancias sustanciales de productividad, especialmente en programación. Debajo subyace una preocupación más amplia sobre la erosión de la confianza, la estratificación social y cómo regular o compartir estos sistemas sin afianzar el poder o congelar el progreso.
Alcance de “Demasiado peligroso para publicarlo” (GPT‑2 en 2019)
- La preocupación inicial se centraba principalmente en spam, phishing y desinformación, no en programación ni en AGI.
- Algunos sostienen que la cautela era razonable dadas las incógnitas de 2019.
- Otros lo ven como un primer ejemplo de marketing de “la IA es peligrosa” para atraer atención, financiación y una regulación favorable.
¿Se materializaron los daños previstos?
- Muchos dicen que sí:
- Explosión de contenido barato y difícil de detectar: spam, basura SEO, propaganda, estafas, documentos y correos escritos por IA.
- Fraude significativo en educación; deberes y ensayos triviales de falsificar.
- Deepfakes y medios sintéticos erosionando la confianza en imágenes, vídeo y noticias.
- Nuevos vectores de estafa (fraude por voz/vídeo, engaños políticos) y preocupaciones sobre CSAM.
- Otros discrepan, pidiendo cuantificación concreta y señalando:
- La “enshittification” de Internet y las granjas de contenido precedieron a los LLMs.
- Algunos daños (p. ej., memes de políticos como figuras religiosas) dicen más sobre la política que sobre la IA en sí.
Impacto en el trabajo y la ingeniería de software
- Varios desarrolladores dicen que su flujo de trabajo se ha transformado: escriben poco o nada de código directamente; personas no programadoras lanzan apps en un día.
- Otros responden que:
- Los andamiajes simples siempre fueron posibles mediante freelancers baratos/deslocalización.
- Los sistemas grandes/complejos siguen fallando sin experiencia y crean riesgos de seguridad.
- El mantenimiento y la calidad a largo plazo siguen siendo la parte difícil.
- Debate sobre si los nuevos modelos “resolverán” la mala ingeniería o solo permitirán más sistemas de baja calidad.
Efectos sociales, económicos y psicológicos
- Se reportan aspectos negativos: pérdida de confianza, desplazamiento laboral (p. ej., traductores, perfiles junior), mayor uso de recursos (RAM/GPU/energía), degradación de la cultura en línea y, para algunos usuarios, pérdida de esperanza en el futuro.
- Algunos esperan una sociedad posescasez al estilo Star Trek; otros advierten que la IA avanzada bajo el capitalismo actual podría concentrar enormemente riqueza y poder.
- Una minoría señala posibles ventajas:
- Menor dependencia de plataformas tóxicas (la gente deja de hacer scroll y publica menos).
- Beneficios de productividad y salud mental al reemplazar búsquedas web tediosas.
Gobernanza, seguridad y confianza en los laboratorios
- Desacuerdo sobre la comunicación de seguridad:
- Algunos ven los lanzamientos por fases, las model cards y el encuadre explícito del peligro como responsables.
- Otros consideran que la retórica de “demasiado peligroso” es una maniobra para crear fosos regulatorios y poder de monopolio, dada la percibida deshonestidad y el comportamiento pasado de los grandes laboratorios.
- Unos pocos argumentan que es inmoral restringir el acceso cuando los modelos se entrenan con datos humanos públicos; abogan por pesos abiertos o, al menos, una amplia disponibilidad.