Nvidia 30 अरब डॉलर के कस्टम चिप अवसर को नई इकाई के साथ आगे बढ़ा रहा है
Nvidia का custom AI और compute chips के लिए 30 अरब डॉलर के बाजार में प्रवेश इस बहस को जन्म देता है कि क्या खरीदारों को वास्तव में bespoke silicon चाहिए या फिर बड़े language models जैसे workloads के लिए बस सस्ते, high‑VRAM GPUs। टिप्पणीकार Nvidia के प्रभावशाली software ecosystem, आक्रामक product segmentation, और pricing power पर ज़ोर देते हैं, जबकि इसे AMD के ROCm प्रयासों और OpenAI की reported multi‑trillion‑dollar chip महत्वाकांक्षाओं जैसी startups और प्रस्तावों की लहर से तुलना करते हैं। कई लोग custom chips को Nvidia की platform strategy का स्वाभाविक विस्तार मानते हैं, लेकिन सवाल उठाते हैं कि general‑purpose GPUs पर वास्तविक लाभ क्या इतने बड़े capital की माँग को उचित ठहराते हैं, खासकर जब नए fabs और architectures के लिए भारी निवेश प्रस्तावित हो।
Consumer GPUs, VRAM, and AI Workloads
- कई टिप्पणीकार ऐसे consumer GPUs चाहते हैं जिनमें बहुत बड़ी VRAM हो (जैसे 128GB), ताकि बड़े open‑source LLMs को स्थानीय रूप से चलाया जा सके।
- अन्य लोग ध्यान दिलाते हैं कि यह ग्राफ़िक्स workloads की ज़रूरतों से बहुत आगे है; ऐसे specs व्यवहार में एक कार्ड को compute accelerator बना देते हैं।
- चर्चा में कहा गया है कि Nvidia consumer VRAM कम रखता है ताकि high‑margin datacenter cards का cannibalization न हो, और 24GB तथा 40GB मॉडलों के बीच कीमत में बड़े उछाल को artificial segmentation और licensing से जोड़ा गया है।
- भौतिक सीमाएँ भी बताई गई हैं: मौजूदा GDDR capacities और bus widths के साथ, HBM के बिना एक conventional consumer GPU पर लगभग 48GB ही अधिकतम है, और HBM महँगा होने के साथ-साथ packaging‑limited भी है।
Alternate Memory and Compute Approaches
- कुछ लोग AI energy और climate impact कम करने के लिए in‑memory compute / ReRAM में निवेश की वकालत करते हैं।
- अन्य इसे बार-बार आज़माया गया और असफल बताया गया, और “बस और VRAM जोड़ दो” के बराबर नहीं मानते।
- एक बीच का मत बताता है कि GPUs और package‑on‑package strategies पहले से ही higher bandwidth “near‑memory” compute की ओर बढ़ रहे हैं।
Software Efficiency vs Hardware Abundance
- इस पर बहस है कि क्या बड़े संसाधन (VRAM, RAM) बेकार coding को बढ़ावा देते हैं या उत्पादकता और नए तरह के software को सक्षम करते हैं।
- उदाहरणों में बहुत optimized legacy code से लेकर आधुनिक Electron apps और धीमे रोज़मर्रा के tools तक शामिल हैं।
- कुछ का तर्क है कि “bookkeeping” आसान होना अच्छा है; दूसरों का कहना है कि hardware जितना बढ़ा है, performance उससे भी तेज़ी से गिरा है।
Nvidia, CUDA, and Competitors
- Nvidia को एक मज़बूत, सुसंगत hardware–software stack (CUDA, PTX, drivers) और working software को प्राथमिकता देने वाली संस्कृति वाला माना जाता है।
- AMD का ROCm pure compute के लिए तकनीकी रूप से आगे बढ़ता हुआ देखा जाता है, लेकिन support खराब है, official GPU coverage सीमित है, और graphics तथा compute को साथ मिलाने पर instability रहती है।
- यही परिपक्वता Nvidia को newer startups की तुलना में custom AI chips के लिए एक स्वाभाविक खिलाड़ी बनाती है।
Custom / Bespoke AI Chips and $7T Debate
- Custom chips को इस तरह पेश किया गया है कि GPU के अनावश्यक features हटाए जाएँ या domain‑specific blocks जोड़े जाएँ (जैसे telecom instructions)।
- कुछ का कहना है कि कई ग्राहक वास्तव में सिर्फ़ सस्ते, cut‑down GPUs चाहते हैं, न कि वास्तविक customization।
- किसी दूसरी फर्म से जुड़ा reported $7T AI‑chip funding figure व्यापक रूप से अवास्तविक या केवल headline‑driven माना गया है; टिप्पणीकारों ने नोट किया कि यह WWII जैसे ऐतिहासिक प्रोजेक्ट्स (inflation‑adjusted terms में) और TSMC की पूरी lifetime revenue से भी अधिक है।
Cloud and Pricing Dynamics
- बड़े clouds की GPU pricing (AWS/Azure) की आलोचना की गई है कि वे बहुत अधिक हैं; अन्य providers और specialized hardware (TPUs, Gaudi) का उल्लेख भी है, लेकिन अक्सर उनकी कीमतें भी ऊँची हैं।
- Nvidia का GeForce Now gaming के लिए आश्चर्यजनक रूप से अच्छा value बताया गया है, जिससे उसकी long‑term economics पर सवाल उठते हैं।
- कुछ लोगों को 2024–2025 में और अधिक “Hetzner‑like” सस्ते GPU training providers की उम्मीद है, लेकिन यह भी कहा गया कि hyperscalers अपनी training costs को खुद सब्सिडाइज़ कर सकते हैं।
Nvidia Strategy, Fabs, and Partnerships
- Nvidia fabless है और उसे node‑portable माना जाता है, जो लागत और उत्पाद के आधार पर TSMC, Samsung, और संभवतः Intel का उपयोग कर सकता है।
- नई custom‑chip unit एक व्यापक pivot के अनुरूप है जो IP licensing और platform dominance की ओर बढ़ रहा है (जैसे console makers और SoC vendors के साथ पहले के सौदे)।
- Nvidia को partner के रूप में लेकर मिश्रित राय है: consoles और datacenters में तकनीकी रूप से सफल, लेकिन साथ काम करने में कठिन और driver तथा software IP की बहुत रक्षा करने वाला माना जाता है।