Nvidia CEO Jensen Huang नए AI चिप्स की घोषणा करते हैं: ‘हमें बड़े GPUs चाहिए’

मूल लेख ↗ Hacker News चर्चा ↗

बाज़ार की प्रतिक्रिया और मूल्यांकन

  • कीनोट के दौरान स्टॉक लगभग स्थिर से थोड़ा नीचे रहा; कुछ लोगों को बड़ी खबर से “बड़ा उछाल” आने की उम्मीद थी।
  • कई लोगों का तर्क है कि अल्पकालिक कीमत की चालें उत्पाद की मजबूती के बारे में बहुत कम बताती हैं, लेकिन कई Nvidia को “हँसी आने लायक overvalued” या “पूर्णता की कीमत पर” मानते हैं।
  • दूसरे लोग जवाब देते हैं कि forward P/E हाल के वर्षों के बराबर है और Nvidia फिलहाल असाधारण राजस्व और मार्जिन के साथ एक महत्वपूर्ण संसाधन को नियंत्रित करता है।
  • ऐतिहासिक टेक बबल्स (Cisco, dot-com, crypto, Tesla) को तुलना के रूप में उद्धृत किया जाता है: AI सच और बहुत बड़ा हो सकता है, फिर भी Nvidia bubble pricing की वजह से गिर सकता है।

Moat, प्रतिस्पर्धा, और CUDA

  • कई लोग सवाल करते हैं कि क्या Nvidia की AI बढ़त टिकाऊ है, क्योंकि NN hardware graphics की तुलना में सरल है; अन्य लोग तर्क देते हैं कि असली moat है:
    • CUDA और उसका ecosystem (cuDNN, TensorRT, libraries).
    • परिपक्व drivers और software, जहाँ प्रतिस्पर्धियों ने बार-बार असफलता पाई।
    • विशाल R&D और TSMC capacity, तथा networking (Mellanox/Infiniband) का स्वामित्व।
  • AMD, Google TPUs, और विभिन्न startups को अपरिहार्य चुनौती देने वाले माना जाता है, लेकिन AMD के software में कम निवेश और buggy ROCm stack की बार-बार आलोचना की जाती है।
  • कुछ लोग भविष्य में antitrust दबाव से CUDA को “open” करने की भविष्यवाणी करते हैं, हालांकि अन्य लोग मानते हैं कि इससे भी AMD का software gap नहीं भर जाएगा।

Blackwell architecture, FP4, और performance दावे

  • Hopper की तुलना में ~2.5× FP8 का raw uplift कुछ लोगों को कम प्रभावशाली लगता है, खासकर क्योंकि dual-die package में यह प्रभावी रूप से प्रति die 1.25× है।
  • Nvidia का headline “30× inference” सुधार व्यापक रूप से संकीर्ण/मार्केटिंग जैसा माना जाता है:
    • यह FP4, sparsity, packaging, networking, और एक विशिष्ट विशाल MoE model पर निर्भर करता है।
    • सामान्य workloads का प्रतिनिधि नहीं है; फिर भी hyperscale inference के लिए प्रभावशाली है।
  • FP4 पर बहस:
    • इसे नए “precision-aware” engine के साथ 4-bit float के रूप में पुष्टि की गई है।
    • inference के लिए आशाजनक माना जाता है; 4-bit में training अभी भी niche/experimental है।
    • कुछ लोग वास्तविक दुनिया में अपनाने पर सवाल उठाते हैं; अन्य शोध में मजबूत momentum का उल्लेख करते हैं।

Platform strategy और NIM

  • कई लोग Nvidia को chips से एक full platform की ओर “moving up the stack” के रूप में देखते हैं:
    • Hardware: GPUs, NVLink, CPUs, NICs, switches, complete racks.
    • Software: CUDA, Triton, TensorRT-LLM, और नए NIM inference microservices.
  • NIM को “LLMs के लिए Docker” के रूप में वर्णित किया गया है, जिसमें OpenAI-compatible APIs हैं, जिससे hosted APIs से on-prem Nvidia stacks पर minimal code change के साथ स्विच करना आसान हो जाता है।
  • यह केवल model लपेटने वाले thin AI startups के लिए खतरा है, और छोटे ग्राहकों के लिए lock-in बढ़ाता है, जबकि hyperscalers अपने accelerator खुद बनाना जारी रख सकते हैं।

Keynote शैली और “platform company” framing

  • कई दर्शकों को कीनोट awkward और under-rehearsed लगी; jokes अक्सर चूक गए और pacing ऑफ़ महसूस हुई।
  • अन्य लोग इसे over-polished, pre-recorded tech keynotes से बेहतर मानते हैं और तर्क देते हैं कि Nvidia “रेगिस्तान में पानी बेच रही है”, इसलिए presentation polish का बहुत महत्व नहीं है।
  • “platform company” वाक्यांश के आसपास भ्रम:
    • कई लोग स्पष्ट करते हैं कि Nvidia एक general cloud provider नहीं बन रही, बल्कि एक integrated hardware+software stack दे रही है।
    • एक छोटा cloud evaluation environment और NIM services उन्हें platform भूमिका के और करीब लाते हैं, लेकिन पूर्ण AWS-style प्रतिस्पर्धी नहीं बनाते।

AI scaling, use cases, और सामाजिक पक्ष

  • कुछ लोगों को चिंता है कि लगातार बड़े GPUs LLMs की अस्थिर scaling को बढ़ावा देते हैं, जिससे भारी resource use और memorization/privacy issues पैदा होते हैं।
  • अन्य लोग जोर देते हैं कि मौजूदा incentive structures optimization की तुलना में scaling को पुरस्कृत करते हैं, और software पहले से ही मौजूदा hardware के लिए भारी रूप से tuned है।
  • आशावादी दृष्टिकोणों (AGI, robotics, fusion design) और निराशावादी दृष्टिकोणों (ad targeting, hype-driven spending, bubble dynamics) के बीच तनाव है।

Ecosystem, acquisitions, और hardware packaging

  • Nvidia द्वारा stack के और हिस्से खरीदने की अटकलें (जैसे Canonical, Run:AI, Anthropic/Mistral जैसी AI labs), हालांकि cultural mismatches और मौजूदा cloud relationships का उल्लेख किया गया है।
  • कुछ लोग तर्क देते हैं कि Nvidia को GPUs तक ही सीमित रहना चाहिए; अन्य लोग DGX systems और Apple की vertical integration के analogies की ओर इशारा करते हैं।
  • “GPU stations” या tower-like appliances के सुझाव आते हैं, लेकिन कई लोग नोट करते हैं कि integration lower-margin है और enterprises अपनी OS/software stacks पसंद करते हैं।