Apple presenta M6 y M5 Ultra

Artículo original ↗ Discusión en Hacker News ↗

Los nuevos chips M6 y M5 Ultra de Apple se ven como un gran paso para la IA en el dispositivo, con una memoria unificada masiva y un ancho de banda que hacen viable una inferencia local seria de LLM en una sola máquina de escritorio. Los comentaristas comparan estas capacidades con el elevado precio de la RAM, el soporte más débil para Linux y la realidad económica de que los modelos de frontera alojados en la nube a menudo siguen siendo más baratos y rápidos para la mayoría de las cargas de trabajo. Los productos se consideran ideales para casos de uso sensibles a la privacidad, creación de contenido y entusiastas o empresas con buen presupuesto, pero excesivos o de mala relación calidad/precio para usuarios ocasionales que pueden depender de suscripciones y APIs en su lugar.

Hardware y rendimiento

  • La memoria unificada de 512 GB del M5 Ultra y su ancho de banda de 1,2 TB/s son vistos ampliamente como impresionantes, especialmente para trabajo local de IA y medios.
  • Algunos comparan el ancho de banda de memoria y la capacidad de cómputo con GPU Nvidia de gama alta (p. ej., 5090, RTX 6000 Ada), señalando que Apple gana en capacidad de RAM, temperaturas y simplicidad, pero pierde en cómputo bruto de GPU y velocidad de prefill.
  • Las máquinas de las generaciones M1–M5 suelen describirse como “todavía lo bastante rápidas”, y varias personas ven poco beneficio real al actualizar para cargas típicas de desarrollo/creación.

IA local vs nube

  • Muchos ven estas máquinas como ideales para LLM en el dispositivo, especialmente modelos de tamaño medio (Qwen 3.8 27B, Qwen 3.5 122B, etc.), con la memoria unificada permitiendo contextos mayores que los de PCs de consumo.
  • Otros argumentan que los modelos en la nube/de frontera (Sol, Opus, etc.) son económicamente superiores: cálculos detallados muestran que es difícil justificar rigs locales de 20k $ frente a suscripciones de 100–200 $/mes o APIs baratas por token, salvo que la utilización sea muy alta o se requiera estrictamente privacidad / retención cero de datos.
  • Hay interés en RDMA multi‑Mac sobre Thunderbolt (hasta 4 máquinas, 2 TB de RAM unificada), pero el rendimiento frente a configuraciones multinúcleo Nvidia sigue en debate.

RAM, memoria unificada y precios

  • La RAM LPDDR5X unificada es elogiada arquitectónicamente (simple, gran espacio de direcciones, usada como “VRAM”), pero los precios de las actualizaciones (~25 $/GB, 96→256 GB = 4k $, 512 GB proyectado +6,4k $) son muy criticados como “de infarto”.
  • Algunos comparan favorablemente el coste total con construir sistemas equivalentes Nvidia HBM/RTX 6000; otros señalan el auge de la DRAM, acusaciones de fijación de precios y esperan caídas eventuales del precio de la RAM.

Linux y apertura

  • Frustración importante: no hay soporte nativo para Linux en los Apple Silicon más nuevos; Asahi actualmente llega como mucho a M2/M3 en progreso, sin aceleración completa de GPU.
  • Los usuarios recurren a VMs de Linux en macOS para orquestación y herramientas, pero la falta de passthrough de GPU limita el rendimiento de IA.
  • Varios afirman que comprarían hardware Mac al instante si Apple soportara oficialmente Linux o publicara documentación/controladores del hardware.

¿Quién compra un Ultra de 512 GB?

  • Compradores sugeridos: startups de IA que buscan inferencia en local, empresas con datos sensibles o regulados, profesionales de medios (vídeo, VFX, audio) y entusiastas con alto poder adquisitivo.
  • Muchos lo ven como un producto de nicho pero válido: más barato y silencioso que racks equivalentes multi‑GPU, aunque claramente no es la mejor opción en rendimiento/precio frente a cajas Nvidia sin ensamblar.

macOS vs Linux/Windows

  • Algunos elogian el pulido de macOS, el ecosistema y la duración de batería; otros ven un declive a largo plazo (inconsistencias de interfaz, rediseño de Ajustes, problemas de estabilidad, eliminación de CLI/herramientas).
  • Un contingente visible se está pasando a Linux (a menudo con gestores de ventanas en mosaico como Hyprland/Omarchy o KDE), citando mayor personalización y mejor encaje para flujos de trabajo de desarrollo y centrados en contenedores.

Tangentes más amplias sobre IA y el test de Turing

  • Debate secundario sobre si los LLM modernos han “superado” el test de Turing; las opiniones van desde “sí, para muchos humanos en contextos reales” hasta “no con jueces exigentes y conversaciones largas”.
  • Algunos temen que la IA principalmente “enshittifique” internet; otros responden con estadísticas de progreso global y casos de uso optimistas (agentes funcionando 24/7 en investigación, análisis de datos personales, asistentes locales privados).