Jim Keller ने Nvidia के CUDA, x86 की आलोचना की
एक प्रमुख chip designer का यह दावा कि Nvidia का CUDA software stack और x86 architecture “moats नहीं, बल्कि swamps” हैं, इस बहस को जन्म देता है कि क्या messy, backward-compatible platforms एक ताकत हैं या कमजोरी। टिप्पणीकार CUDA के dominant ecosystem और मजबूत libraries की तुलना AMD के कमजोर ROCm support और driver issues से करते हैं, साथ ही vendor lock-in, hardware availability, और AI workloads के GPU adoption पर प्रभाव की चर्चा भी करते हैं। यह thread x86 बनाम ARM और RISC बनाम CISC design trade-offs तक फैल जाता है, जहाँ कई लोग तर्क देते हैं कि practical compatibility और दशकों का tooling, ISA purity से अधिक महत्वपूर्ण हैं.
Triton और संदर्भ के बारे में स्पष्टीकरण
- कई टिप्पणियाँ बताती हैं कि लेख ने OpenAI की Triton भाषा को Nvidia के Triton Inference Server के साथ गड़बड़ा दिया; पहली एक Python-जैसी GPU प्रोग्रामिंग भाषा है, जबकि दूसरी एक model-serving प्रणाली है और CUDA का प्रतिस्थापन नहीं है।
- इस बात पर ज़ोर दिया गया है कि आलोचक एक सीधे Nvidia प्रतिस्पर्धी कंपनी में काम करते हैं, जिसे पाठकों के अनुसार संभावित पक्षपात के रूप में स्पष्ट रूप से सामने रखा जाना चाहिए था, हालांकि कुछ का कहना है कि शायद उनकी राय ही उन्हें प्रतिस्पर्धा में ले आई।
CUDA: moat, “swamp,” और developer experience
- कई लोगों का तर्क है कि जब लोग कहते हैं “CUDA is a moat” तो वे वास्तव में पूरे CUDA ecosystem (जैसे cuDNN, cuBLAS, TensorRT) की बात कर रहे होते हैं, न कि केवल low-level भाषा की।
- व्यापक सहमति है कि ज़्यादातर उपयोगकर्ता CUDA तक higher-level frameworks (PyTorch, TensorFlow) के ज़रिए पहुँचते हैं, और बहुत कम लोग custom kernels लिखते हैं; कुछ लोगों ने hand-optimized CUDA/PTX करने की बात कही और इसे शक्तिशाली लेकिन कठिन और समय लेने वाला बताया।
- कुछ लोग इस ecosystem की जटिलता और backward compatibility को एक “swamp” मानते हैं, जो फिर भी एक बहुत प्रभावी moat की तरह काम करता है।
AMD, ROCm, और non-Nvidia GPUs
- कई अनुभव बताते हैं कि AMD का software stack अस्थिर या कमज़ोर प्रदर्शन वाला है, और समस्या hardware capability से ज़्यादा drivers में देखी जाती है।
- ROCm को लगभग CUDA+libraries के समान बताया गया है, जिसमें HIP एक abstraction layer के रूप में उपयोग होता है, लेकिन support बिखरा हुआ है और ऐतिहासिक रूप से केवल कुछ “pro” या नए cards तक सीमित रहा है।
- कई लोग नोट करते हैं कि Nvidia GPUs की supply constraints के बावजूद, परिपक्व और सहज software support की कमी बड़े users को Nvidia पर ही बनाए रखती है।
x86, ARM, और ISA debates
- चर्चा x86 को एक “swamp” के रूप में दोबारा देखती है, जो विकसित होकर internal micro-ops के लिए एक तरह की compressed encoding बन गया; समय के साथ पुराने CISC features को support करने की लागत कुल transistor budgets के मुकाबले घटती गई।
- टिप्पणीकार “x86 has a RISC core inside” जैसी सरल narratives का विरोध करते हैं, यह समझाते हुए कि लगभग सभी modern CPUs (RISC-V सहित) instructions को µops में translate करते हैं; “RISC vs CISC” को बड़े पैमाने पर अप्रचलित बताया गया है।
- ARM के उभार पर बहस होती है: कुछ लोग Apple के M-series और AWS Graviton को रेखांकित करते हैं; अन्य लोग weaker SIMD (SVE के बाहर), वास्तविक दुनिया के mixed performance, और x86 ecosystem की मज़बूत inertia की ओर ध्यान दिलाते हैं।
Platform “swamps” और backward compatibility
- कई लोगों का तर्क है कि “swampiness” (जटिल, उलझे हुए, backward-compatible ecosystems) सफल platforms की एक सामान्य विशेषता है: x86, Windows, PDF, web, Linux, यहाँ तक कि capitalism और democracy भी।
- Backward compatibility को एक ओर user-friendly और दूसरी ओर प्रतिस्पर्धियों के लिए बाधा माना जाता है, जो underlying design के imperfect होने पर भी moats को और मज़बूत बनाता है।