Por favor, ignoren el aluvión de completo sinsentido sobre Q*
Los rumores sobre un supuesto avance de OpenAI llamado “Q*” han provocado escepticismo ante afirmaciones sensacionalistas sobre una AGI inminente, y muchos señalan que no se han publicado detalles técnicos creíbles y que las redes sociales están amplificando la exageración de personas no expertas. Los comentaristas contraponen visiones cautas e incrementales de los modelos de lenguaje actuales con tanto los temores extremos de los “doomers” de la IA como el optimismo acrítico, y debaten cuánto riesgo, regulación y apertura son apropiados mientras los laboratorios exploran arquitecturas que van más allá de la simple predicción del siguiente token hacia la planificación. Algunos ven el episodio como puro giro de relaciones públicas alrededor de la reciente crisis de gobierno de OpenAI, y otros como un recordatorio de lo poco que el público puede inferir de forma fiable sobre la investigación de IA de frontera a partir de filtraciones y rumores.
Visión general de los rumores y la especulación sobre Q*
- Muchos comentaristas ven la cobertura de Q* como en gran medida exageración y desinformación, especialmente por parte de no expertos y “cripto-bros convertidos en expertos en AGI”.
- Varios señalan que casi no hay detalles técnicos públicos, así que la mayoría de las afirmaciones sobre sus capacidades se consideran, como mucho, rumores.
- Algunos tratan Q* como el ejemplo más reciente de desinformación viral sobre IA (comparándola con mitos pasados sobre parámetros de GPT‑4 y el bombo de la superconductividad LK‑99).
- Unos pocos preguntan qué es exactamente el “sinsentido” (las afirmaciones/temas específicos no quedan claramente expuestos en el hilo).
Reacciones al mensaje de “ignoren el sinsentido”
- Algunos celebran el llamado a ignorar la exageración y agradecen el enfoque en temas de investigación de larga data (planificación, aprendizaje por refuerzo, modelos del mundo).
- Otros critican al emisor por previsible, autopromocional o por carecer de humildad respecto a errores pasados al juzgar los LLM.
- Hay desacuerdo sobre si estos comentarios aportan información real: algunos los ven como sentido común, otros como vagos o de bajo rigor.
Seguridad en IA, “doomers” y carga de la prueba
- Un hilo principal debate si la postura por defecto debería ser “seguir adelante” o “reducir la velocidad/detenerse” dadas las incertidumbres.
- Un lado: la historia de la tecnología sugiere beneficios netos; los pesimistas cargan con la prueba.
- El otro lado: cuando los daños potenciales son extremos, la carga cambia; las incertidumbres + lo que está en juego justifican cautela o moratorias.
- Hay desacuerdo sobre si los grandes modelos ya plantean un riesgo serio (autonomía, agencia, engaño) o si siguen siendo solo herramientas que amplifican las intenciones humanas.
- Algunos sostienen que la IA abierta es más segura (muchos sistemas “buenos” contrarrestan a los “malos”); otros comparan esta lógica con las preocupaciones sobre proliferación nuclear o de bioweapons.
Abierto vs cerrado, escala y competencia
- Varios defienden modelos y algoritmos abiertos, trazando una analogía con la criptografía abierta; los críticos responden que la IA puede parecerse más a armas de doble uso.
- Debate sobre si solo unas pocas organizaciones (OpenAI, grandes empresas tecnológicas) pueden ejecutar de forma realista los modelos de próxima generación debido a limitaciones de cómputo e infraestructura.
Planificación vs predicción autoregresiva
- Hay interés en la afirmación de que una frontera clave consiste en reemplazar la predicción pura del siguiente token por planificación.
- Los comentaristas comparten listas de artículos sobre “LLM planning” y decodificación basada en aprendizaje por refuerzo, señalando que esta línea de investigación precede a Q*.
- No queda claro en el hilo qué, si es que algo, tiene de novedoso Q* más allá de escalar ideas conocidas.