क्यों वर्तमान LLM लागतें टिकाऊ नहीं हैं
लागत संरचना और टिकाऊपन
- कई लोग तर्क देते हैं कि मौजूदा frontier LLM अर्थशास्त्र डगमगा रहा है: लैब्स दसियों अरब डॉलर का घाटा उठा रही हैं, जबकि प्रति-टोकन दरें ऐसी होनी चाहिए कि वे प्रशिक्षण, इंफ्रा, स्टाफ और मार्केटिंग भी कवर कर सकें।
- Inference स्वयं पहले से ही लाभदायक हो सकता है, लेकिन समग्र व्यवसाय नहीं; इस पर मतभेद है कि क्या इसका मतलब है कि subscriptions “बहुत अधिक सब्सिडी वाली” हैं, या enterprise API tokens बस बड़े margins रखते हैं।
- कुछ लोगों का मानना है कि valuations 2030 तक अत्यधिक सहज प्रगति और मांग मानकर चलती हैं; दूसरों का कहना है कि कम से कम एक बड़े lab के लिए inference revenue पहले ही inference cost से अधिक हो चुका है।
Subscriptions, tokens और उपयोग के पैटर्न
- कई किस्से हैं जिनमें व्यक्तिगत monthly API-equivalent उपयोग हज़ारों डॉलर तक पहुंच जाता है, क्योंकि agents बड़े codebases स्कैन करते हैं, लंबे loops चलते हैं, और विशाल contexts में cache utilization खराब रहती है।
- दूसरे लोग कहते हैं कि वे दैनिक professional उपयोग के बावजूद subscription limits तक नहीं पहुंच पाते, जिससे संकेत मिलता है कि overuse अक्सर आवश्यकता से अधिक orchestration/“skill issue” होता है।
- इस बात पर मजबूत सहमति है कि लोग subscriptions असली लागत छिपा देने के कारण तुच्छ कामों के लिए top-tier models का अत्यधिक उपयोग करते हैं।
Cloud बनाम local और hosting का भविष्य
- राय बंटी हुई है: कुछ बड़े enterprises security के लिए models को अपने datacenters में ही चलाना चाहते हैं; दूसरे उन्हें hyperscalers को outsource करने में सहज हैं और उन्हें facto winners मानते हैं।
- कई लोगों को web hosting जैसा ecosystem बनने की उम्मीद है: bare-metal GPU providers और उच्च-स्तरीय “LLM platforms,” जहाँ frontier labs raw hosting के बजाय quality और integrations पर प्रतिस्पर्धा करेंगे।
- दूसरों का अनुमान है कि ~2030 तक अधिकांश AI local/on-device हो जाएगा, जिससे बड़े hosted frontier models का business घट जाएगा, सिवाय niche high-end उपयोग के।
Open models और geopolitics
- Open-weight Chinese models (DeepSeek, GLM, Qwen) को व्यापक रूप से बहुत सस्ता और कई workloads के लिए “काफी अच्छा” माना जाता है; कुछ का सुझाव है कि switching से global spend 10× तक घट सकता है।
- विरोधी तर्क: “hostile superpower” पर निर्भरता को लेकर चिंता, और संभावित US sanctions जो US और allied providers को ऐसे models हटाने के लिए मजबूर कर सकती हैं, जिससे users वापस domestic labs पर आ सकते हैं।
Hardware, optimization और भविष्य की दिशा
- 8×B200 plus dedicated solar पर बड़े models को self-host करने की back-of-envelope लागतें scale पर भी गैर-तुच्छ per-token costs दिखाती हैं।
- कई लोगों का मानना है कि बड़ी बचत smaller models की बेहतर routing, improved agents/harnesses, और hardware specialization (जैसे “LLM-on-a-chip”) में है, न कि सिर्फ cheaper frontier models में।
- इस पर बहस जारी है कि capabilities plateau कर रही हैं या नहीं; कुछ लोगों को diminishing returns दिखती हैं, जबकि दूसरे कहते हैं कि हालिया releases और agentic workflows अभी भी तेज़ प्रगति दिखाते हैं।