Apple introduz M6 e M5 Ultra

Artigo original ↗ Discussão no Hacker News ↗

Os novos chips M6 e M5 Ultra da Apple são vistos como um grande avanço para IA no dispositivo, com enorme memória unificada e largura de banda tornando viável a inferência local séria de LLM em uma única máquina desktop. Os comentaristas avaliam essas capacidades frente ao preço elevado da RAM, ao suporte mais fraco a Linux e à realidade econômica de que modelos de fronteira hospedados na nuvem muitas vezes continuam mais baratos e rápidos para a maioria das cargas de trabalho. Os produtos são vistos como ideais para casos de uso sensíveis à privacidade, criação de conteúdo e entusiastas ou empresas bem financiados, mas excessivos ou de baixo valor para usuários casuais que podem depender de assinaturas e APIs em vez disso.

Hardware e Desempenho

  • A memória unificada de 512 GB e a largura de banda de 1,2 TB/s do M5 Ultra são amplamente vistas como impressionantes, especialmente para IA local e trabalho com mídia.
  • Alguns comparam a largura de banda de memória e o poder de computação com GPUs Nvidia de ponta (por exemplo, 5090, RTX 6000 Ada), observando que a Apple vence em capacidade de RAM, térmicas e simplicidade, mas perde em computação bruta de GPU e velocidade de prefill.
  • Máquinas das gerações M1–M5 são frequentemente descritas como “ainda rápidas o suficiente”, com várias pessoas vendo pouco benefício real no mundo real ao atualizar para cargas de trabalho típicas de desenvolvimento/criação.

IA Local vs Nuvem

  • Muitos veem essas máquinas como ideais para LLMs no dispositivo, especialmente modelos de tamanho médio (Qwen 3.8 27B, Qwen 3.5 122B, etc.), com memória unificada permitindo contextos maiores do que PCs convencionais.
  • Outros argumentam que modelos de nuvem/fronteira (Sol, Opus, etc.) são economicamente superiores: cálculos detalhados mostram que rigs locais de US$20 mil são difíceis de justificar em comparação com assinaturas de US$100–200/mês ou APIs baratas por token, a menos que a utilização seja muito alta ou seja exigida privacidade rigorosa / retenção zero de dados.
  • Há interesse em RDMA multi-Mac via Thunderbolt (até 4 máquinas, 2 TB de RAM unificada), mas o desempenho em comparação com configurações Nvidia multi-GPU continua em debate.

RAM, Memória Unificada e Preços

  • A RAM LPDDR5X unificada é elogiada arquitetonicamente (simples, grande espaço de endereçamento, usada como “VRAM”), mas os preços dos upgrades (~US$25/GB, 96→256 GB = US$4 mil, 512 GB projetado +US$6,4 mil) são fortemente criticados como “estarrecedores”.
  • Alguns comparam o custo total de forma favorável à montagem de sistemas equivalentes com Nvidia HBM/RTX 6000; outros citam o boom de DRAM, alegações de fixação de preços e esperam eventuais quedas bruscas no preço da RAM.

Linux e Abertura

  • Grande frustração: não há suporte nativo a Linux nos Apple Silicon mais novos; o Asahi atualmente vai no máximo até M2/M3 em progresso, sem aceleração completa de GPU.
  • Usuários recorrem a VMs Linux no macOS para orquestração e ferramentas, mas a falta de passthrough de GPU limita o desempenho em IA.
  • Vários dizem que comprariam hardware Mac imediatamente se a Apple suportasse oficialmente Linux ou publicasse documentação/ drivers de hardware.

Quem compra o Ultra de 512 GB?

  • Compradores sugeridos: startups de IA que querem inferência local, empresas com dados sensíveis/regulados, profissionais de mídia (vídeo, VFX, áudio) e entusiastas abastados.
  • Muitos o veem como um produto de nicho, mas válido: mais barato e silencioso do que racks multi-GPU equivalentes, embora claramente não seja o “melhor custo/desempenho” em comparação com máquinas Nvidia puras.

macOS vs Linux/Windows

  • Alguns elogiam o polimento do macOS, o ecossistema e a duração da bateria; outros veem um declínio de longo prazo (inconsistências de interface, redesign de Ajustes, problemas de estabilidade, remoção de CLI/ferramentas).
  • Uma parcela visível está migrando para Linux (muitas vezes com WMs tiling como Hyprland/Omarchy ou KDE), citando maior personalização e melhor adequação a fluxos de trabalho de desenvolvimento e intensivos em contêineres.

IA Mais Ampla e Tangentes do Teste de Turing

  • Debate paralelo sobre se os LLMs modernos “venceram” o teste de Turing; as opiniões vão de “sim, para muitos humanos em contextos reais” até “não com avaliadores fortes e conversas longas.”
  • Alguns temem que a IA principalmente “estrague” a internet; outros respondem com estatísticas de progresso global e casos de uso otimistas (agentes rodando 24/7 para pesquisa, análise de dados pessoais, assistentes locais privados).