GPT-2: Demasiado peligroso para publicarlo (2019)

Alcance de “Demasiado peligroso para publicarlo” (GPT‑2 en 2019)

• La preocupación inicial se centraba principalmente en spam, phishing y desinformación, no en programación ni en AGI.
• Algunos sostienen que la cautela era razonable dadas las incógnitas de 2019.
• Otros lo ven como un primer ejemplo de marketing de “la IA es peligrosa” para atraer atención, financiación y una regulación favorable.

¿Se materializaron los daños previstos?

• Muchos dicen que sí:
  • Explosión de contenido barato y difícil de detectar: spam, basura SEO, propaganda, estafas, documentos y correos escritos por IA.
  • Fraude significativo en educación; deberes y ensayos triviales de falsificar.
  • Deepfakes y medios sintéticos erosionando la confianza en imágenes, vídeo y noticias.
  • Nuevos vectores de estafa (fraude por voz/vídeo, engaños políticos) y preocupaciones sobre CSAM.
• Otros discrepan, pidiendo cuantificación concreta y señalando:
  • La “enshittification” de Internet y las granjas de contenido precedieron a los LLMs.
  • Algunos daños (p. ej., memes de políticos como figuras religiosas) dicen más sobre la política que sobre la IA en sí.

Impacto en el trabajo y la ingeniería de software

• Varios desarrolladores dicen que su flujo de trabajo se ha transformado: escriben poco o nada de código directamente; personas no programadoras lanzan apps en un día.
• Otros responden que:
  • Los andamiajes simples siempre fueron posibles mediante freelancers baratos/deslocalización.
  • Los sistemas grandes/complejos siguen fallando sin experiencia y crean riesgos de seguridad.
  • El mantenimiento y la calidad a largo plazo siguen siendo la parte difícil.
• Debate sobre si los nuevos modelos “resolverán” la mala ingeniería o solo permitirán más sistemas de baja calidad.

Efectos sociales, económicos y psicológicos

• Se reportan aspectos negativos: pérdida de confianza, desplazamiento laboral (p. ej., traductores, perfiles junior), mayor uso de recursos (RAM/GPU/energía), degradación de la cultura en línea y, para algunos usuarios, pérdida de esperanza en el futuro.
• Algunos esperan una sociedad posescasez al estilo Star Trek; otros advierten que la IA avanzada bajo el capitalismo actual podría concentrar enormemente riqueza y poder.
• Una minoría señala posibles ventajas:
  • Menor dependencia de plataformas tóxicas (la gente deja de hacer scroll y publica menos).
  • Beneficios de productividad y salud mental al reemplazar búsquedas web tediosas.

Gobernanza, seguridad y confianza en los laboratorios

• Desacuerdo sobre la comunicación de seguridad:
  • Algunos ven los lanzamientos por fases, las model cards y el encuadre explícito del peligro como responsables.
  • Otros consideran que la retórica de “demasiado peligroso” es una maniobra para crear fosos regulatorios y poder de monopolio, dada la percibida deshonestidad y el comportamiento pasado de los grandes laboratorios.
• Unos pocos argumentan que es inmoral restringir el acceso cuando los modelos se entrenan con datos humanos públicos; abogan por pesos abiertos o, al menos, una amplia disponibilidad.