Nuevo Mac Studio con M5 Max y M5 Ultra

Artículo original ↗ Discusión en Hacker News ↗

El nuevo Mac Studio de Apple con chips M5 Max y M5 Ultra está recibiéndose como una potente estación de trabajo local para IA, gracias a hasta 512 GB de memoria unificada y un ancho de banda de memoria muy alto que lo hacen atractivo para ejecutar modelos de lenguaje grandes en el dispositivo. Al mismo tiempo, muchos están alarmados por los precios, especialmente en configuraciones con mucha RAM en medio de un “RAMpocalypse” global, y debaten si comprar este hardware supera alquilar GPUs o usar servicios de IA en la nube. El lanzamiento también está reavivando preguntas sobre si conviene más apostar por escritorios que por portátiles, cuánto futuro real ofrece una memoria unificada pero no actualizable, y dónde se sitúa Apple frente a los sistemas basados en NVIDIA para cargas de trabajo de IA serias.

Precios y diferencias regionales

  • Muchos comentaristas se centran en los precios altos, especialmente en Europa, donde una configuración M5 Ultra bien equipada supera los €6,600.
  • Las comparaciones entre EE. UU. y la UE destacan la inclusión del IVA en los precios de la UE y distintos impuestos sobre ventas en EE. UU.; algunos consideran comprar en regiones con pocos impuestos o libres de aranceles (con recordatorios de que, técnicamente, los impuestos de importación siguen aplicando).
  • Varias personas comparan los precios actuales con los de PCs históricamente caros, señalando que la “computadora que realmente quieres” sigue costando unos pocos miles de dólares, pero que las configuraciones de IA de gama alta ahora lo superan con mucho.

Capacidad de RAM, escasez y opciones

  • El precio de la RAM se califica de “insano”: +$4,000 por 256 GB de memoria unificada, con 512 GB previstos cerca de, o por encima de, $20k.
  • Múltiples publicaciones hacen referencia a un “RAMpocalypse” más amplio: se informa que la capacidad de DRAM está agotada hasta 2027 y que grandes compradores (incluida Apple) podrían haber reservado menos de lo necesario.
  • Muchos usuarios desearían una opción de 1 TB de memoria unificada; algunos dicen que pagarían $20–30k porque eso cambia qué modelos pueden ejecutar localmente (por ejemplo, modelos de ~1T+ parámetros en 4 bits).

Rendimiento, memoria unificada y cargas de trabajo LLM

  • Se elogia la memoria unificada por permitir que CPU y GPU compartan una gran y rápida reserva, ideal para LLM locales y cargas de trabajo de gran contexto.
  • Se destaca repetidamente el ancho de banda de 1.2 TB/s del M5 Ultra; algunos lo comparan favorablemente con GPUs de consumo en ancho de banda, pero otros sostienen que las GPUs de estación de trabajo de Nvidia seguirán dominando en cómputo bruto.
  • Hay debate sobre eficiencia energética y tokens por watt: algunos afirman que los Mac ganan; otros dicen que rigs Nvidia optimizados pueden igualarlos o superarlos.
  • Se discuten las compensaciones entre ancho de banda y latencia; un alto ancho de banda ayuda en el prefill de LLM, pero las cargas de trabajo con muchos punteros dependen más de la latencia y las cachés.

Escritorio vs portátil / configuraciones de cliente ligero

  • Muchos están reconsiderando un Mac Studio (o Mini) junto con un portátil ligero o iPad, accediendo de forma remota mediante Tailscale, SSH o Apple Screen Sharing.
  • Varios describen el uso de Studios/Mac Minis como servidores domésticos siempre encendidos para LLM y desarrollo, con portátiles (o Neo/iPad) como clientes ligeros.
  • El estrangulamiento térmico y el ruido del ventilador en los MacBook Pro bajo cargas sostenidas de LLM empujan a algunos hacia escritorios.

Economía de la IA en la nube vs local

  • Algunos argumentan que alquilar GPUs o usar proveedores de API sigue siendo más barato para la experimentación y las cargas de trabajo intermitentes; el hardware local pasa inactivo la mayor parte del tiempo.
  • Otros, con cargas de trabajo de IA pesadas, continuas o sensibles a la privacidad, informan facturas de IA en la nube de cinco cifras al mes y justifican el hardware local caro como “prepagar” años de cómputo.

Expansibilidad, formato y preparación para el futuro

  • La falta de RAM/SSD reemplazables por el usuario y la ausencia de una torre Mac modular reciben críticas; algunos quieren un chasis reutilizable con placas base intercambiables.
  • Otros responden que el SoC + memoria en el paquete es lo que permite estas cifras de ancho de banda, haciendo que la actualizabilidad tradicional sea técnicamente y económicamente difícil.
  • Se comenta el agrupamiento de varios Studios mediante Thunderbolt 5; Apple afirma aceleraciones para hasta cuatro nodos, pero se señalan limitaciones de ancho de banda y RDMA.

Otras notas técnicas y reacciones

  • La arquitectura SSD PCIe Gen 6 con hasta 2× de velocidad de almacenamiento intriga a algunos; siguen existiendo dudas sobre las temperaturas y el beneficio real.
  • El lanzamiento silencioso del M6 (solo Mini, tope de 32 GB y sin Pro/Max/Ultra) sugiere que el M7 será el paso más grande enfocado en IA.
  • En general, el sentimiento mezcla entusiasmo por capacidades serias de IA local con frustración por los precios, los límites de RAM y el bloqueo a largo plazo del sistema operativo y el hardware.