Apple ने M6 और M5 Ultra पेश किए

मूल लेख ↗ Hacker News चर्चा ↗

Apple के नए M6 और 512GB M5 Ultra chips को ऑन-डिवाइस AI के लिए एक बड़ा कदम माना जा रहा है, जहाँ विशाल unified memory और bandwidth एक ही desktop machine पर गंभीर local LLM inference को संभव बनाते हैं। टिप्पणीकार इन क्षमताओं की तुलना कड़े RAM pricing, कमजोर Linux support, और उस आर्थिक वास्तविकता से करते हैं कि cloud-hosted frontier models अधिकांश workloads के लिए अक्सर अब भी सस्ते और तेज़ रहते हैं। इन उत्पादों को privacy-sensitive use cases, content creation, और अच्छी फंडिंग वाले enthusiasts या कंपनियों के लिए आदर्श माना जा रहा है, लेकिन casual users के लिए, जो subscriptions और APIs पर निर्भर रह सकते हैं, ये overkill या कम value वाले हैं।

हार्डवेयर और प्रदर्शन

  • M5 Ultra की 512GB यूनिफाइड मेमोरी और 1.2 TB/s बैंडविड्थ को व्यापक रूप से प्रभावशाली माना जा रहा है, खासकर लोकल AI और मीडिया काम के लिए।
  • कुछ लोग मेमोरी बैंडविड्थ और compute की तुलना हाई-एंड Nvidia GPUs (जैसे 5090, RTX 6000 Ada) से करते हैं, और नोट करते हैं कि Apple RAM क्षमता, थर्मल्स, और सादगी में जीतता है, लेकिन raw GPU compute और prefill speed में हारता है।
  • M1–M5 जेनरेशन की मशीनों को अक्सर “अभी भी काफ़ी तेज़” बताया जाता है, और कई लोग सामान्य dev/creative workloads के लिए अपग्रेड करने से वास्तविक दुनिया में बहुत कम लाभ देखते हैं।

लोकल AI बनाम क्लाउड

  • कई लोगों की नज़र में ये मशीनें ऑन-डिवाइस LLMs के लिए आदर्श हैं, खासकर mid-size models (Qwen 3.8 27B, Qwen 3.5 122B, आदि), क्योंकि unified memory commodity PCs की तुलना में बड़े contexts संभव बनाती है।
  • दूसरे तर्क देते हैं कि cloud/frontier models (Sol, Opus, आदि) आर्थिक रूप से बेहतर हैं: विस्तृत गणित दिखाता है कि $20k local rigs को $100–200/month subscriptions या सस्ते per-token APIs के मुक़ाबले सही ठहराना कठिन है, जब तक utilization बहुत अधिक न हो या strict privacy / zero-data-retention की आवश्यकता न हो।
  • Thunderbolt के ज़रिए multi-Mac RDMA में रुचि है (अधिकतम 4 machines, 2TB unified RAM), लेकिन multi-GPU Nvidia setups के मुक़ाबले performance अभी भी बहस का विषय है।

RAM, यूनिफाइड मेमोरी और मूल्य निर्धारण

  • Unified LPDDR5X RAM को वास्तुशिल्प रूप से सराहा जा रहा है (सरल, बड़ा address space, “VRAM” के रूप में उपयोग), लेकिन upgrade prices (~$25/GB, 96→256GB = $4k, 512GB projected +$6.4k) की भारी आलोचना हो रही है, जिन्हें “eye-watering” कहा जा रहा है।
  • कुछ लोग कुल लागत की तुलना समकक्ष Nvidia HBM/RTX 6000 systems बनाने से करते हुए अनुकूल मानते हैं; दूसरे DRAM boom, price-fixing allegations, और अंततः RAM price crashes की उम्मीद करते हैं।

Linux और openness

  • बड़ी निराशा: नए Apple Silicon पर native Linux support नहीं है; Asahi अभी M2/M3-in-progress तक ही सीमित है, और full GPU acceleration उपलब्ध नहीं है।
  • उपयोगकर्ता orchestration और tooling के लिए macOS पर Linux VMs का सहारा लेते हैं, लेकिन GPU passthrough की कमी AI performance को सीमित करती है।
  • कई लोग कहते हैं कि अगर Apple आधिकारिक रूप से Linux support करे या hardware docs/drivers प्रकाशित करे, तो वे तुरंत Mac hardware खरीद लेंगे।

512GB Ultra कौन खरीदेगा?

  • सुझाए गए खरीदार: AI startups जो on-prem inference चाहते हैं, संवेदनशील/नियामकीय डेटा वाली कंपनियाँ, media pros (video, VFX, audio), और संपन्न enthusiasts।
  • कई लोग इसे एक niche लेकिन वैध product मानते हैं: समकक्ष multi-GPU racks की तुलना में सस्ता और शांत, हालांकि bare Nvidia boxes के मुक़ाबले स्पष्ट रूप से “best perf/$” नहीं।

macOS बनाम Linux/Windows

  • कुछ लोग macOS की polish, ecosystem, और battery life की प्रशंसा करते हैं; अन्य लोग लंबे समय की गिरावट देखते हैं (UI inconsistencies, Settings redesign, stability issues, CLI/tooling removal)।
  • एक स्पष्ट समूह Linux की ओर जा रहा है (अक्सर Hyprland/Omarchy या KDE जैसे tiling WMs के साथ), अधिक customizability और dev तथा container-heavy workflows के लिए बेहतर उपयुक्तता का हवाला देते हुए।

AI और Turing Test से जुड़े व्यापक विषय

  • इस पर भी बहस हुई कि क्या आधुनिक LLMs ने “Turing test” को हरा दिया है; राय “हाँ, कई इंसानों के लिए वास्तविक संदर्भों में” से लेकर “मजबूत judges और लंबी conversations के साथ नहीं” तक फैली हुई है।
  • कुछ लोगों को चिंता है कि AI मुख्यतः इंटरनेट को “enshittify” कर रही है; दूसरे वैश्विक प्रगति के आँकड़ों और आशावादी उपयोग मामलों (agents का 24/7 research करना, personal data analysis, local private assistants) के साथ जवाब देते हैं।