La publicación «Astra puede leer y escribir pesos para mejorar Qwen» es engañosa

¿Fue engañosa la publicación sobre Astra/Qwen?

• Muchos sostienen que el título/resumen (“puede leer y escribir pesos de forma nativa”, “solo con mirar los pesos en bruto”, “de manera similar” con Qwen) exagera o vincula de forma ambigua experimentos distintos, lo que llevó a muchos lectores a pensar que Astra editó Qwen leyendo directamente todos sus pesos en bruto.
• Otros dicen que el texto está claro si realmente lo lees; el verdadero problema es que la gente hojea títulos y resúmenes, además de que comentarios de bajo esfuerzo amplifican los malentendidos.
• Varios comentaristas presentan esto como el típico sobreprometer/marketing en el ML moderno más que como una mentira directa; otros lo llaman “mala praxis” dada la interpretación errónea previsible.

Edición de pesos “nativa” vs agentes de programación

• Distinción aclarada:
  • Redes pequeñas “de juguete” (decenas a cientos de miles de parámetros) donde los pesos se colocan directamente en el contexto y se razonan casi como imágenes.
  • Experimentos con modelos más grandes (por ejemplo, Qwen) donde Astra escribe herramientas en Python para cargar, analizar y modificar pesos (por ejemplo, vectores de dirección, ablaciones), sin llegar a ver nunca los pesos completos en bruto en contexto.
• Los críticos dicen que mezclar esto como una sola capacidad “nativa” es engañoso; las partes a mayor escala son esencialmente tareas avanzadas de codificación e ingeniería de ML que los humanos ya hacen.
• Los defensores responden que escribir y orquestar estas herramientas sobre los pesos sigue siendo “trabajar con pesos” y que la distinción se exagera.

Novedad frente a trabajos previos y dificultad

• Se señala que la interpretabilidad mecanicista y la dirección/ablación en el espacio de pesos ya existían; varios ven a Astra principalmente como un practicante automatizado y extremadamente capaz de técnicas conocidas.
• Algunos investigadores de ML dicen que la “mejora matemática” de Qwen es sobre todo desbloquear un problema de bucle mediante steering, no crear una nueva capacidad, y que para un humano sería aproximadamente un proyecto de interpretación “de nivel introductorio”.
• Otros, especialmente no especialistas, informan que las ideas sí son genuinamente nuevas para ellos y prácticamente útiles, permitiendo ediciones manuales de pesos o pequeños modelos “programados” por un LLM sin entrenamiento completo.

Auto-mejora recursiva e implicaciones

• Algunos vinculan este trabajo con visiones de IA que se mejora recursivamente a sí misma a través de sus propios pesos; los escépticos responden que, mientras haya agentes de programación al estilo humano en el circuito, esto se parece más a “trabajo superhumano” que a un régimen de inteligencia cualitativamente nuevo.
• Hay interés en usar estas técnicas para podar comportamientos dañinos, como optimizadores dentro de bucles de entrenamiento o para generar automáticamente pequeños modelos específicos para tareas.

HN, hype y discurso sobre IA

• Varios comentarios lamentan la “psicosis” de la IA (tanto el hype como el anti-hype), los artículos sobrevendidos y la dinámica superficial de votos y comentarios.
• Otros subrayan que este escrutinio en sí mismo es saludable: poner a prueba las afirmaciones de forma agresiva, separar el “leer nativamente” de las redes pequeñas de los experimentos basados en código con redes grandes y resistir narrativas sensacionalistas.