O M2 é mais avançado do que parecia

Artigo original ↗ Discussão no Hacker News ↗

O chip M2 da Apple é destacado como um passo arquitetural maior do que parecia à primeira vista, notavelmente por adicionar recursos ARMv8.6-A como bfloat16, que melhoram a IA no dispositivo e o futuro treinamento de modelos no cliente, onde o M1 pode ficar cada vez mais atrás. Comentadores ponderam isso contra fatores práticos como responsividade real do macOS, limitações de RAM e armazenamento, sobrecarga de ferramentas corporativas de segurança e ciclos longos de upgrade, além de comparar o Apple Silicon com laptops AMD, Qualcomm e x86 em desempenho, eficiência energética e duração de bateria. Há amplo consenso de que o hardware está avançando rapidamente, mas que apps inchados, ferramentas de ML fracas no macOS e a economia incerta da IA no dispositivo versus na nuvem determinarão quanto desse potencial os usuários realmente verão.

M2, ARMv8.6-A e bfloat16

  • Ponto técnico principal: o M2 passa de ARMv8.5-A para ARMv8.6-A, adicionando suporte a bfloat16 e instruções relevantes para IA.
  • Comentadores observam que isso beneficia sobretudo treinamento e cargas numéricas pesadas; inferência frequentemente usa quantização mais agressiva.

Treinamento vs inferência e longevidade do dispositivo

  • Várias mensagens dizem que bfloat16 é mais relevante para treinamento do que para a inferência típica no dispositivo.
  • Alguns esperam mais treinamento/fine‑tuning no próprio dispositivo com dados pessoais (por exemplo, gramática, personalização), tornando chips antigos menos ideais.
  • Outros argumentam que, quando isso importar, tanto M1 quanto M2 já serão “velhos”, e a maioria das pessoas fará upgrade para gerações posteriores de qualquer forma.
  • Usuários de ciclos longos (8–10 anos) contestam, dizendo que suporte futuro a ML realmente importa para eles.

Concorrência de laptops PC e trade-offs de CPU

  • Discussão sobre se laptops AMD/Intel/Qualcomm conseguem igualar o perf/W da Apple:
    • O AMD Zen 4 mobile é visto como aproximadamente competitivo em computação, com blocos de IA separados e bfloat16 também.
    • A Apple é vista como priorizando alto IPC e integração estreita; os fornecedores x86 priorizam núcleos menores e mais baratos e flexibilidade.
  • O próximo Snapdragon X Elite / Oryon da Qualcomm é mencionado repetidamente como um concorrente ARM, mas com dúvidas abertas sobre consumo de energia e entrega real.

Duração da bateria e desempenho no mundo real

  • Alguns dizem que laptops AMD podem igualar ou superar a Apple em desempenho bruto e até na bateria para navegação, dependendo dos testes e do tamanho da bateria.
  • Outros compram Macs especificamente por 18–20h de bateria realista e acham que máquinas não-Apple ainda ficam atrás nessa dimensão.
  • O thread observa grandes diferenças na metodologia de medição e que a stack de software da Apple é altamente otimizada para consumo em idle e sob baixa carga.

Bloat de software, frameworks de UI e responsividade

  • Muitas reclamações miram Slack e apps no estilo Electron que parecem lentos mesmo em um M2.
  • Há debate sobre se JavaScript é inerentemente lento demais, ou se o problema real é engenharia ruim e frameworks inchados.
  • Alguns argumentam que UIs multiplataforma baseadas em navegador são economicamente irresistíveis, mas garantem UX mediana; outros apontam para JS bem otimizado (por exemplo, GNOME) como prova de que o problema não é o JavaScript em si.
  • São discutidas várias tentativas de toolkits de UI nativos, declarativos e multiplataforma (Qt/QML, Flutter, Slint etc.); não há consenso claro sobre um “vencedor”.

IA no dispositivo vs nuvem e uso local de LLMs

  • Uma visão: avanços rápidos de hardware e heterogeneidade empurrarão a IA mais avançada para a nuvem, com apenas trabalho mínimo no dispositivo.
  • Visão contrária: a economia dos custos de GPUs na nuvem incentiva fortemente empurrar o máximo de inferência possível para dispositivos de borda, exigindo frameworks híbridos.
  • Vários usuários relatam boas experiências executando LLMs e modelos de imagem locais em M1/M2 (especialmente M2 Pro com alta largura de banda), usando várias toolchains voltadas para Mac.
  • Surgem preocupações sobre estabilidade e térmica em MacBooks sem ventoinha sob cargas sustentadas de LLM ou OBS; outros relatam experiências estáveis quando permanecem dentro dos limites de RAM e evitam travar modelos grandes na memória.

Picos de lag no macOS e ferramentas corporativas

  • Há vários relatos de picos de “lag” da UI no macOS em M1/M2:
    • Frequentemente correlacionados com pouca RAM (8 GB) e swap agressivo.
    • Suites corporativas de segurança/gestão (JAMF, CrowdStrike etc.) e varredura agressiva de arquivos são repetidamente culpadas por lentidão severa.
  • Outros usuários com Macs pouco carregados ou pessoais dizem ver quase nenhum engasgo, sugerindo que ambiente e ferramentas importam mais do que o silício.

Considerações de upgrade e trade-in

  • Alguns usuários discutem fazer upgrade de M1 para M2/M3 versus esperar pelo M3 Air.
  • O conselho tende a:
    • Priorizar RAM e capacidade de SSD em vez de pequenos ganhos geracionais de CPU, especialmente para multitarefa pesada/containers.
    • Ficar atento a SSDs mais lentos e de menor capacidade nos novos modelos base.
  • As experiências com trade-in da Apple variam:
    • Cotações online podem ser “boas”; avaliações em loja podem ser mais rigorosas.
    • Outros relatam trocas por correio sem problemas e enfatizam que você sempre pode rejeitar uma oferta ajustada e ficar com o dispositivo.

Notas técnicas

  • Breve digressão técnica sobre se bfloat16 pode ser emulado via float16: o consenso é que os intervalos diferem, então é possível armazenar, mas não computar com segurança dessa forma; converter via float32 é sugerido.
  • Um comentador observa dados de benchmark indicando que os ganhos single-thread de M2→M3 são maiores do que de M1→M2, contradizendo levemente descrições do M2 como apenas “evolutivo”.