जेफ़ डीन: मशीन लर्निंग में रुझान [वीडियो]
जेफ़ डीन की मशीन लर्निंग पर “exciting trends” टॉक से निकले दावों ने इस पर बहस छेड़ दी कि आधुनिक AI कितना नया सिद्धांत है और कितना केवल rebranded convolution, जबकि कई लोगों का कहना है कि transformer-आधारित LLMs और scaling laws व्यवहार में हावी हैं लेकिन मूलभूत समझ पीछे है। टिप्पणीकार बड़े multimodal models जैसे Google के Gemini के प्रति उत्साह और इस संदेह के बीच बँटे हैं कि मौजूदा, compute-hungry architectures ठहराव पर हैं या अत्यधिक कॉर्पोरेट प्रोत्साहनों और advertising use cases से आकार ले रही हैं। एक प्रमुख व्यावहारिक विषय लंबे videos और texts को सारांशित करने वाले AI tools का उभरना है, जिसे कुछ लोग वास्तविक productivity boost मानते हैं और अन्य इसे सतही, error-prone shortcuts समझते हैं, जो लोगों के सीखने के तरीके में गहराई और बारीकी को समतल करने का जोखिम रखते हैं।
बहस: “सभी मशीन लर्निंग कन्वोल्यूशन है”
- कुछ लोगों का तर्क है कि कोई भी मैट्रिक्स गुणा (Transformers और MLPs सहित) कन्वोल्यूशन या इंटीग्रल ट्रांसफॉर्म के रूप में देखा जा सकता है, इसलिए “सब कुछ कन्वोल्यूशन है।”
- दूसरे लोग इसका विरोध करते हैं: केवल स्पष्ट कन्वोल्यूशन लेयर ही गिनी जानी चाहिए; उच्च-आयामी स्थानों में डॉट प्रोडक्ट को सामान्यतः कन्वोल्यूशन नहीं कहा जाता, और नॉनलिनियरिटीज़ कठोर समतुल्यता को तोड़ देती हैं।
- लिंक किया गया काम दावा करता है कि कन्वोल्यूशनल आर्किटेक्चर सार्वभौमिक हैं, लेकिन टिप्पणीकार नोट करते हैं कि “अभिव्यक्त कर सकता है” ≠ “है।”
DermAssist और चिकित्सा AI टूल्स
- चर्चा में Google के DermAssist को एक लाइव उत्पाद के रूप में उल्लेख किया गया, लेकिन उपयोगकर्ताओं को वेटलिस्ट और 404s मिलते हैं; अमेरिका में उपलब्धता स्पष्ट रूप से सीमित है।
- टिप्पणीकार वास्तविक क्लिनिकल सेटिंग्स में डर्मेटोलॉजी AIs से बार-बार अधिक वादा और कम डिलीवरी देखते हैं और संदेह करने का आग्रह करते हैं।
- अन्य चिकित्सा AI उदाहरणों को अधिक सफल के रूप में साझा किया गया है, साथ ही एक ओपन-सोर्स डर्म टूल भी।
AI-आधारित वीडियो सारांश वर्कफ़्लो
- कई लोग लंबे टॉक्स देखने से पहले उन्हें LLMs से सारांशित करते हैं, समय बचत और छँटाई के मूल्य का हवाला देते हुए।
- अन्य लोग वीडियो विवरण, स्किमिंग, या सीधे किताबें पढ़ना पसंद करते हैं, यह तर्क देते हुए कि AI सारांश सतही और एकरूप महसूस होते हैं।
- कई टूल और व्यक्तिगत प्रोजेक्ट साझा किए गए हैं (YouTube-केंद्रित summarizers, timestamped topic maps, flashcard generators)।
- कुछ लोग रिपोर्ट करते हैं कि LLM सारांश पूर्ण ट्रांसक्रिप्ट होने पर भी अक्सर प्रमुख अंतर्दृष्टियाँ चूक जाते हैं।
LLM की सटीकता और अत्यधिक निर्भरता पर चिंताएँ
- गलत तथ्यात्मक उत्तरों (जैसे, व्यवसायिक घंटे) के अनुभव भरोसा कम कर देते हैं।
- स्थिर दस्तावेज़ों का सारांश बनाने और अस्थायी तथ्यात्मक प्रश्नों का उत्तर देने के बीच अंतर बताया गया, लेकिन उपयोगकर्ता नोट करते हैं कि UI इसे स्पष्ट रूप से संकेत नहीं देता।
- दार्शनिक चिंताएँ: “मेरे समय के लायक क्या है” और ज्ञान अर्जन को अपारदर्शी प्रणालियों को सौंपना; जोखिम कि सब कुछ बेल कर्व के बीच में समतल हो जाए।
टॉक पर प्रतिक्रियाएँ
- कई लोगों ने इसे एक परिष्कृत उच्च-स्तरीय अवलोकन के रूप में देखा, जो संभवतः अंडरग्रैजुएट्स के लिए है, और इसमें Google के अपने काम और उत्पादों पर मजबूत जोर है।
- दूसरों ने इसकी आलोचना इसे मार्केटिंग-भरा और सिद्धांत, आर्किटेक्चरल विवरण, या “यह क्यों काम करता है” की वास्तविक व्याख्या में कमजोर बताकर की।
- कुछ ने ChatGPT-शैली की सफलताओं पर तुलनात्मक कम जोर को नोट किया और लैब्स के बीच अंतर को अनुसंधान दिशा नहीं, बल्कि निष्पादन के रूप में प्रस्तुत किया।
ML शोध की स्थिति और दिशा
- एक दृष्टिकोण: वर्तमान neural-net + massive compute प्रतिमान ठहराव पर है; नए, कम data/compute-भूखे approaches की आवश्यकता होगी।
- दूसरा दृष्टिकोण: Transformers ML के एक आधारभूत “MOS transistor” बन रहे हैं, जो संभवतः modalities के पार प्रभुत्व करेंगे, और भविष्य का काम दक्षता पर केंद्रित होगा (जैसे, reduced quadratic costs, database-like attention, quantization) न कि नए architectures पर।
- संशयवादी टिप्पणीकार तर्क देते हैं कि ML research बड़े पैमाने पर कॉर्पोरेट प्रोत्साहनों से संचालित है, और computer vision तथा information-retrieval use cases (ads, short-form video, knowledge panels) का प्रभुत्व है।
व्यवसाय और प्रतिस्पर्धा
- कुछ लोग AI/AGI startups के लिए इसे “wait and see” चरण मानते हैं: incumbents एक oligopoly बनाते हैं, और आशाजनक startups संभवतः acquisition targets हैं।
- अन्य लोग सोचते हैं कि Google प्रतिबद्ध बना रहेगा और पारंपरिक keyword web search समय के साथ कम होता जाएगा।