Apple चाहती है कि AI सीधे उसके हार्डवेयर पर चले, क्लाउड में नहीं
Apple का generative AI को सीधे iPhones और अन्य devices पर चलाने का push privacy सुधारने, cloud infrastructure पर निर्भरता कम करने, और बहुत बेहतर Siri या on-device image और text processing जैसी तेज़, अधिक भरोसेमंद features सक्षम करने के तरीके के रूप में देखा जा रहा है। Commenters इस बात पर बंटे हुए हैं कि क्या current hardware—खासकर सीमित RAM—उपयोगी large language models के लिए पर्याप्त है, लेकिन कई लोग नोट करते हैं कि छोटे models हाल के iPhones और iPads पर पहले से ही ठीक-ठाक चलते हैं। तकनीकी बाधाओं से परे, लोग इस strategy को Apple के लिए एक cost-saving कदम और पहले से saturated smartphone market में future hardware upgrade cycles का संभावित driver दोनों मानते हैं.
ऑन-डिवाइस बनाम क्लाउड AI
- कई लोग ऑन-डिवाइस inference को फ़ोनों के लिए “अगला कदम” मानते हैं: कम latency, ऑफ़लाइन उपयोग, और बेहतर privacy.
- दूसरे लोग कहते हैं कि cloud models बड़े model sizes और data access के कारण अधिक सक्षम बने रहेंगे; local अक्सर “good enough” होगा, सबसे अच्छा नहीं.
- Hybrid दृष्टिकोण आम हैं: base model और personal context on-device, और current events या भारी tasks के लिए optional cloud calls.
Siri और Voice Assistants
- काफी बेहतर Siri की भारी मांग है; कुछ लोग कहते हैं कि एक काम करने वाली, LLM-grade Siri अकेले ही phone upgrade को justify कर देगी.
- निराशा व्यापक है: inconsistent behavior, टूटे हुए “incantations,” random regressions, और खराब multi-user handling.
- कुछ लोगों का तर्क है कि एक LLM robustness और understanding को ठीक कर सकता है; दूसरे चाहते हैं कि Apple complexity जोड़ने से पहले basic stability ठीक करे.
Hardware, Models, और Performance
- Apple की historically low RAM पर बहस है: 8 GB को आधुनिक LLMs के लिए तंग माना जाता है, हालांकि current high-end iPads/Macs पहले से ही 7B–13B models locally चला सकते हैं.
- storage नहीं, बल्कि bandwidth/RAM को मुख्य bottleneck माना जाता है; models को memory में फिट होना चाहिए.
- low-memory LLM inference पर Apple के हालिया research को इन constraints के workaround की कोशिश के रूप में उद्धृत किया गया है.
- कुछ लोग dedicated AI co-processors और संभवतः AI-focused device tier की उम्मीद करते हैं.
Privacy, Business Model, और Costs
- On-device AI Apple के privacy messaging के अनुरूप है और उनके cloud compute bills कम करता है.
- कई लोग नोट करते हैं कि Apple महंगे inference को मुफ़्त में चलाने के बजाय high-margin hardware बेचना पसंद करता है.
- optional cloud-based enhancements में रुचि है, लेकिन यह सवाल बना हुआ है कि इसका भुगतान कौन करेगा और कैसे (subscriptions, bundles).
Ecosystem, Openness, और Regulation
- इस बात को लेकर संदेह है कि Apple मनमाने system-level AI models की अनुमति देगा; उम्मीद एक ही “official” assistant की है.
- Counterpoint: current APIs (Core ML, Neural Engine) पहले से ही third-party on-device models को अनुमति देती हैं, हालांकि Siri replacements के रूप में नहीं.
- EU की app store openness संबंधी pressure पर चर्चा है; यह AI models और assistants तक कितनी दूर तक जाएगा, यह स्पष्ट नहीं है.
मौजूदा On-device AI और UX
- Users on-device features के साथ मजबूत अनुभवों की रिपोर्ट करते हैं: photo content search, Live Text, image description, और on-watch Siri processing.
- इन “invisible” AI features को इस बात के प्रमाण के रूप में उद्धृत किया जाता है कि Apple वर्षों से local ML में निवेश कर रहा है, भले ही इसे generative AI के रूप में ब्रांड न किया गया हो.