Sexo, IA y el Apocalipsis
Los temores sobre el “apocalipsis” de la IA se entrelazan con críticas a una subcultura rationalist/Effective Altruist estrechamente conectada que ha moldeado gran parte del encuadre público sobre el riesgo de la IA. Quienes comentan debaten si este entorno, mayoritariamente del Área de la Bahía, es un grupo sectario e insular cuyos sesgos de grupo, puntos ciegos éticos y dinámicas excéntricas de sexo y estatus lo hacen inadecuado para guiar la política sobre riesgo existencial, o si se trata de un conjunto de pensadores tempranos, aunque extraños, que anticiparon correctamente el rápido avance de la IA y merecen ser escuchados. Debajo de los ataques culturales y ad hominem hay una tensión central: cuán en serio tomar los escenarios de extinción a largo plazo de personas internas con conflictos de interés, frente a daños más inmediatos como el mal uso, la desigualdad y el control político de sistemas de IA poderosos.
Enmarcado, pensamiento de grupo y quién da forma al discurso sobre IA
- Muchos sostienen que las narrativas actuales sobre IA (especialmente las apocalípticas) están fuertemente moldeadas por una subcultura relativamente pequeña y homogénea (rationalists, EA, la tecnósfera del Área de la Bahía), propensa al pensamiento de grupo y a interpretaciones compartidas.
- Otros responden que el hecho de ser ampliamente leídos en Internet no implica acuerdo ni una influencia de tipo sectario, y que muchos investigadores de IA ignoran por completo ese entorno.
- Algunos sugieren que carecemos de marcos conceptuales alternativos para la IA y que necesitamos más pensamiento “fuera de distribución”, posiblemente mediante más silos intelectuales o laboratorios no occidentales.
Rationalists / EA: ¿secta, camarilla o solo un foro?
- Los críticos ven una red de comunidades superpuestas (rationalists, EA, transhumanistas, escenas sexuales/poly marginales, fanfic oscuro) que comparten complejos de superioridad, tolerancia a las contradicciones y proyectos ocasionalmente extremos (p. ej., “superbabies”), comparándolo con dinámicas de secta.
- Los defensores dicen que se parece más a una comunidad online abierta con opiniones diversas, además de buen trabajo sobre el razonamiento, aunque partes hayan derivado hacia un club social o juegos de estatus.
- Varios señalan escándalos reales (fraude financiero, grupos escindidos vinculados a muertes, mansiones compradas con dinero contaminado) como prueba de que la “ética” de estos movimientos está comprometida.
Riesgo de IA, alineamiento y evidencia
- Un lado: el alineamiento es genuinamente difícil; enjambres de LLM agénticos ya han escapado al contención y han coordinado comportamientos complejos de hacking e ingeniería social; una IA poderosa y desalineada podría matar a todo el mundo.
- El otro: los sistemas actuales son solo predictores del siguiente token, frágiles y propensos a alucinaciones; los saltos de “el alineamiento es difícil” a “la extinción es pronto” no están justificados; las amenazas se parecen más a las redes sociales, el cibercrimen o las burbujas económicas que a Skynet.
- Entre las analogías invocadas están las armas nucleares, la energía nuclear, los residuos tóxicos y las corporaciones (la IA como entidades no responsables legalmente, autoconservadoras, similares a empresas o estados).
Autoridad, expertise y batallas de predicción
- Algunos argumentan que descartar a los investigadores de seguridad como “payasos” es antiintelectual, similar al negacionismo climático o vacunal, y que los seguidores de largo plazo los han visto acertar más que la mayoría en cuestiones clave (el ritmo de la IA, la dificultad del alineamiento).
- Otros rechazan los apelativos a la autoridad y señalan que hacer muchas predicciones vagas y resaltar los aciertos es indistinguible de las estafas de recomendaciones bursátiles. Las predicciones claras, comprobables y públicas se consideran ausentes.
Política, poder y valores
- Las preocupaciones van más allá del riesgo técnico: hay temores de que la IA y su discurso de seguridad estén siendo dirigidos por multimillonarios y camarillas cerradas para afianzar el poder, remodelar la democracia e imponer visiones morales estrechas.
- Algunos sospechan que el mensaje de “apocalipsis” de la IA también es una herramienta estratégica de FUD/marketing, difuminando las líneas entre advertencia sincera y narrativa interesada.
Sexo, poliamor y “rareza”
- El hilo debate cuánto importan la subcultura poly/sex-positive y las costosas “conferencias de sexo” en torno a estos círculos: algunos ven puro fraude y desajuste social; otros ven un ataque ad hominem irrelevante usado para deslegitimar sus argumentos sobre IA.