Terence Tao: Math 2.0 [pdf]

कैंसर-उपचार विचार प्रयोग और चिकित्सा सादृश्य

• AI-डिज़ाइन किए गए कैंसर “इलाज” पर एक स्लाइड ने सबसे बड़ा विवाद छेड़ा।
• कई टिप्पणीकारों का तर्क है कि यह उदाहरण गलत दिशा में है: चिकित्सा में नियमित रूप से ऐसे दवाओं का उपयोग होता है जिनके तंत्र अच्छी तरह समझे नहीं गए होते, लेकिन वे अनुभवजन्य रूप से सुरक्षित और प्रभावी होती हैं (जैसे, एनेस्थीसिया, एसिटामिनोफेन)।
• कई लोग कहते हैं कि यदि वे अंतिम अवस्था में होते, तो वे उचित चरण 3 परीक्षण पास कर चुकी AI-डिज़ाइन की गई दवा खुशी-खुशी लेते, चाहे उसका तंत्र समझा गया हो या नहीं।
• अन्य लोग इस विचार प्रयोग का बचाव alignment के संदर्भ में करते हैं: एक AI परीक्षण डिज़ाइन या मॉडलिंग की खामियों का “फ़ायदा उठा” सकती है, इसलिए गहरे समझ के बिना केवल परीक्षण परिणामों पर निर्भर रहना जोखिम भरा है।
• स्लाइड के शब्दों में किए गए बदलावों का भी उल्लेख है (अधिक सावधान, कम निरपेक्ष); फिर भी कुछ लोग इसे भ्रमित करने वाला या भ्रामक मानते हैं।

समझ बनाम प्रभावशीलता और alignment

• एक पक्ष अनुभवजन्य सफलता को प्राथमिकता देता है: यदि कोई उपचार, एल्गोरिद्म, या प्रमाण काम करता है और कठोर परीक्षणों में पास हो जाता है, तो तंत्र गौण है।
• दूसरा पक्ष तर्क देता है कि सुरक्षा, सामान्यीकरण, और विधियों में सुधार के लिए तंत्र की समझ महत्वपूर्ण है, और लंबे समय में “लगता है कि काम करता है” पर्याप्त नहीं है।
• सादृश्य: सत्यापित न किए जा सकने वाले ब्लैक-बॉक्स बाइनरी चलाना बनाम सोर्स कोड और आर्किटेक्चर होना।

गणित में AI: प्रक्रिया, प्रमाण, और “Math 2.0”

• वार्ता का केंद्रीय दावा (जैसा समझा गया): शुद्ध गणित अनोखे रूप से समझ पर केंद्रित है; प्रमाण एक सुसंगत “थ्योरी कोडबेस” के हिस्से के रूप में मूल्यवान हैं, केवल हाँ/नहीं उत्तर नहीं।
• “ओपन समस्याएँ प्रकाशस्तंभ की तरह”: यदि opaque AI प्रमाणों के माध्यम से इन्हें बहुत जल्दी हल कर दिया जाए, तो यह मानवीय अन्वेषण प्रक्रिया और तकनीक विकास को काटकर आसपास के क्षेत्रों को बाँझ बना सकता है।
• चिंता: AI प्रमाणों के बड़े आउटपुट ऐसे सुलभ समस्याओं को “strip-mine” कर सकते हैं, बिना नए मानवीय रूप से समझने योग्य तरीक़े दिए; इससे “जूनियर गणितज्ञ” पाइपलाइन और प्रोत्साहन संरचनाएँ और खराब हो सकती हैं।
• प्रतिवाद: OpenAI-शैली के परिणाम पहले से ही लंबे समय से चली आ रही धारणाओं को चुनौती देते दिखते हैं (जैसे, sub‑O(n log n) FFT-शैली के परिणाम) और वे नए मानवीय काम और सुधारों को सक्रिय रूप से जन्म दे रहे हैं।

करियर, प्रोत्साहन, और पहचान पर प्रभाव

• कई लोगों को लगता है कि गणितज्ञ भी वही स्पष्ट शोक-प्रक्रिया से गुजर रहे हैं जैसी सॉफ़्टवेयर इंजीनियरों, पत्रकारों आदि ने AI के सामने देखी।
• इस पर बहस है कि क्या यह मुख्यतः भावनात्मक/नौकरी-सुरक्षा से जुड़ा है, या यह एक वैध चिंता है कि जब AI benchmark समस्याएँ हल कर सकता है तो योगदानों को कैसे मापा जाए और धन कैसे आवंटित किया जाए।
• सुझावों में शामिल हैं: मूल्यांकन को exposition, distillation, नए concepts, dependency maps, और बड़े proof ecosystems के संगठन की ओर स्थानांतरित करना।

सॉफ़्टवेयर इंजीनियरिंग और अन्य क्षेत्रों से तुलना

• मजबूत समानताएँ खींची जाती हैं:
  • AI code बनाम AI proofs; “यह चलता है” बनाम “यह maintainable और समझने योग्य है।”
  • चिकित्सा की अनुभवजन्य pipelines बनाम गणित की proof संस्कृति।
  • AI के problem-solving को केंद्रीकृत करने से संभावित monoculture और विविध दृष्टिकोणों की हानि।
• कई लोग तर्क देते हैं कि, खामियों के बावजूद, गणित और code के लिए AI tools का आक्रामक रूप से उपयोग किया जाएगा; असली काम इस वास्तविकता के आसपास संस्थानों, मानदंडों, और भूमिकाओं को अनुकूलित करना है।