El M2 es más avanzado de lo que parecía

Artículo original ↗ Discusión en Hacker News ↗

El chip M2 de Apple se destaca como un paso arquitectónico mayor de lo que parecía al principio, especialmente por añadir funciones ARMv8.6-A como bfloat16 que mejoran la IA en el dispositivo y el futuro entrenamiento de modelos en el cliente, donde el M1 podría quedar cada vez más rezagado. Los comentaristas comparan esto con factores prácticos como la capacidad de respuesta real de macOS, las limitaciones de RAM y almacenamiento, la sobrecarga de las herramientas de seguridad corporativa y los ciclos de actualización largos, al tiempo que comparan Apple Silicon con portátiles de AMD, Qualcomm y x86 en rendimiento, eficiencia energética y duración de batería. Hay un amplio acuerdo en que el hardware avanza rápido, pero que las apps hinchadas, las herramientas de ML débiles en macOS y la economía incierta de la IA en el dispositivo frente a la nube determinarán cuánto de ese potencial ven realmente los usuarios.

M2, ARMv8.6-A y bfloat16

  • Punto técnico clave: el M2 pasa de ARMv8.5-A a ARMv8.6-A, añadiendo compatibilidad con bfloat16 e instrucciones relevantes para IA.
  • Los comentaristas señalan que esto beneficia sobre todo al entrenamiento y a cargas numéricas pesadas; la inferencia suele usar cuantización más agresiva.

Entrenamiento vs inferencia y longevidad del dispositivo

  • Varios mensajes dicen que bfloat16 es más relevante para el entrenamiento que para la inferencia típica en el dispositivo.
  • Algunos esperan más entrenamiento/ajuste fino en el dispositivo sobre datos personales (p. ej., gramática, personalización), lo que haría menos ideales los chips antiguos.
  • Otros sostienen que, cuando eso importe, tanto el M1 como el M2 ya serán “viejos”, y la mayoría de la gente actualizará a generaciones posteriores de todos modos.
  • Los usuarios de ciclos largos (8–10 años) replican que el soporte futuro para ML sí les importa.

Competencia en portátiles PC y trade-offs de CPU

  • Se debate si los portátiles de AMD/Intel/Qualcomm pueden igualar el perf/W de Apple:
    • El AMD Zen 4 móvil se ve aproximadamente competitivo en cómputo, con bloques de IA separados y también bfloat16.
    • Se percibe que Apple prioriza un IPC alto y una integración estrecha; los proveedores x86 priorizan núcleos más baratos, pequeños y flexibilidad.
  • El próximo Snapdragon X Elite / Oryon de Qualcomm se menciona repetidamente como un competidor ARM, pero con dudas abiertas sobre el consumo y la entrega real.

Duración de batería y rendimiento en el mundo real

  • Algunos dicen que los portátiles AMD pueden igualar o superar a Apple en rendimiento bruto e incluso en batería al navegar, según las pruebas y el tamaño de la batería.
  • Otros compran Macs específicamente por 18–20 h de batería realista y sienten que las máquinas no Apple aún van por detrás en ese aspecto.
  • El hilo señala grandes diferencias en la metodología de medición y que la pila de software de Apple está altamente optimizada para el consumo en reposo y baja carga.

Bloat de software, frameworks de UI y capacidad de respuesta

  • Muchas quejas apuntan a Slack y a apps estilo Electron que se sienten lentas incluso en un M2.
  • Debate sobre si JavaScript es inherentemente demasiado lento, o si el problema real es la mala ingeniería y los frameworks inflados.
  • Algunos argumentan que las UIs basadas en navegador y multiplataforma son económicamente irresistibles pero garantizan una UX mediocre; otros señalan JS bien optimizado (p. ej., GNOME) como prueba de que JS en sí no es el problema.
  • Se discuten varios intentos de toolkits nativos, declarativos y multiplataforma (Qt/QML, Flutter, Slint, etc.); no hay un “ganador” claro.

IA en el dispositivo vs nube y uso local de LLMs

  • Una visión: los avances rápidos en hardware y la heterogeneidad empujarán la IA más avanzada a la nube, con solo trabajo mínimo en el dispositivo.
  • Visión contraria: la economía de los costes de GPU en la nube incentiva fuertemente trasladar tanta inferencia como sea posible a dispositivos periféricos, lo que requiere marcos híbridos.
  • Varios usuarios informan buenas experiencias ejecutando LLMs locales y modelos de imagen en M1/M2 (especialmente M2 Pro con alto ancho de banda), usando varias herramientas centradas en Mac.
  • Se plantean preocupaciones sobre la estabilidad y las temperaturas en MacBooks sin ventilador bajo cargas sostenidas de LLM u OBS; otros reportan experiencias estables cuando se permanece dentro de los límites de RAM y se evita fijar modelos grandes en memoria.

Picos de lag en macOS y tooling corporativo

  • Hay varios informes de picos de “lag” en la UI de macOS en M1/M2:
    • A menudo correlacionados con poca RAM (8 GB) y swap agresivo.
    • Se culpa repetidamente a suites de seguridad/gestión corporativa (JAMF, CrowdStrike, etc.) y al escaneo agresivo de archivos por ralentizaciones severas.
  • Otros usuarios con Macs personales o poco cargados dicen ver casi nada de tirones, lo que sugiere que el entorno y las herramientas importan más que el silicio.

Consideraciones de actualización y canje

  • Algunos usuarios debaten si actualizar de M1 a M2/M3 o esperar al M3 Air.
  • La tendencia del consejo es:
    • Priorizar RAM y capacidad de SSD por encima de pequeñas mejoras generacionales de CPU, especialmente para multitarea pesada/contenedores.
    • Vigilar los SSD más lentos y de menor capacidad en los nuevos modelos base.
  • Las experiencias con el canje de Apple varían:
    • Las cotizaciones online pueden ser “decentes”; las evaluaciones en tienda pueden ser más estrictas.
    • Otros informan de canjes por correo fluidos y enfatizan que siempre se puede rechazar una oferta ajustada y conservar el dispositivo.

Notas técnicas

  • Breve digresión técnica sobre si bfloat16 puede emularse mediante float16: el consenso es que los rangos difieren, así que se puede almacenar pero no calcular de forma segura así; se sugiere convertir vía float32.
  • Un comentarista señala datos de benchmarks que implican que las ganancias de single-thread de M2→M3 son mayores que las de M1→M2, contradiciendo ligeramente descripciones del M2 como solo “evolutivo”.