Apple ML Research: Muse Spark Open com MLX no Mac Studio

Artigo original ↗ Discussão no Hacker News ↗

O mais recente post de pesquisa em ML da Apple mostra como seus desktops Mac Studio com série M podem executar localmente o modelo Muse Spark Open, da Meta, com quase um trilhão de parâmetros, usando o framework MLX e agrupamento baseado em Thunderbolt. Os comentaristas veem isso como uma prova de conceito impressionante, mas questionam sua praticidade, observando que configurações com vários Mac Studios custam dezenas de milhares de dólares em comparação com acesso relativamente barato por API a modelos de fronteira. A discussão destaca tensões mais amplas entre inferência local e na nuvem, o papel emergente da Apple como “vendedora de pás” de alto padrão para cargas de trabalho de IA e se os modelos de pesos abertos estão avançando em direção a uma implantação eficiente em hardware verdadeiramente comum.

Custo e economia da inferência local

  • Rodar o Muse Spark Open em quatro Mac Studios de ponta é visto como impressionante, mas muito caro (dezenas de milhares de dólares).
  • Vários comentaristas comparam isso a pagar por acesso via API/assinatura (por exemplo, via OpenRouter) e argumentam que, para muitos, créditos são mais baratos e mais flexíveis, dado o rápido ciclo de renovação de hardware/modelos.
  • Outros relatam experiências pessoais em que possuir hardware compensou ao longo de muitos anos, em vez de alugar, enfatizando que a escolha depende muito da utilização.

Escolha de modelo, benchmarks e desempenho

  • Alguns acham que a Apple favoreceu alternativas ao mostrar o Muse Spark Open em 4 bits enquanto, por exemplo, o Qwen é mostrado apenas em BF16, o que não é como os usuários normalmente o executariam.
  • Vários comentaristas afirmam que o Muse Spark fica atrás de modelos menores/abertos (por exemplo, classe 300B) em benchmarks de qualidade, embora seja elogiado pela velocidade e pela eficiência em tokens.
  • Outros prefeririam rodar modelos como GLM 5.3 Flash, Qwen ou DeepSeek no mesmo hardware.

Relação Apple–Meta e ângulo de marketing

  • Várias pessoas acham estranho a Apple estar destacando um modelo da Meta, dadas as tensões passadas entre as duas.
  • Alguns enquadram isso como promoção cruzada: a Meta gasta para construir modelos de pesos abertos; a Apple vende hardware caro para executá-los.
  • O título do artigo oficial da Apple foca em MLX/RDMA, mas a discussão observa que a ênfase no Muse parece co-marketing.

Estratégia de hardware e ecossistema de IA

  • Muitos argumentam que a Apple está “vendendo pás”, em vez de precisar vencer a corrida dos modelos.
  • Há debate sobre a Apple estar atrasada em infraestrutura de IA (sem uma stack tipo CUDA/TPU, sem uma oferta real para datacenter) versus estar simplesmente jogando outro jogo, focado em dispositivos de consumo e integração vertical.
  • Alguns veem isso como um passo inicial rumo à inferência “boa o suficiente” amplamente feita no dispositivo, o que poderia prejudicar a Nvidia no longo prazo.

Privacidade, Photos e modelos locais

  • Um grupo vê modelos locais e os modelos de Photos/“Foundation” da Apple como orientados à privacidade e úteis para busca/filtro no dispositivo sem enviar dados para LLMs na nuvem.
  • Outro grupo contesta que o iCloud Photos seja realmente privado, mesmo com opções avançadas, e argumenta que as configurações padrão e os metadados enfraquecem a narrativa de privacidade.

Carga de fundo do macOS e experiência do usuário

  • Um subthread relata uso pesado e constante de CPU por daemons do sistema (análise de mídia, sincronização iCloud/telefone, Spotlight, etc.), supostamente piorado por novos recursos de “IA” e causando calor/throttling em Macs com série M.
  • Outros dizem que a experiência deles é o oposto (as máquinas ficam frias e rápidas), sugerindo possíveis bugs ou casos extremos; a prevalência real não está clara.