चॉम्स्की और सांख्यिकीय अधिगम की दो संस्कृतियाँ (2011)

सांख्यिकीय मशीन लर्निंग और नियम-आधारित भाषाविज्ञान इस लंबे समय से चले आ रहे विवाद में टकराते हैं कि भाषा को सबसे अच्छी तरह कैसे मॉडल और समझा जाए। टिप्पणीकार आधुनिक बड़े भाषा मॉडलों जैसे प्रायिकीय, डेटा-आधारित तंत्रों की तुलना उन सिद्धांतों से करते हैं जो समृद्ध अंतर्जात व्याकरणिक संरचना मानते हैं, और इस पर बहस करते हैं कि वैज्ञानिक व्याख्या क्या है बनाम केवल अभियांत्रिकी। यह चर्चा इस बात के खुले प्रश्नों को उजागर करती है कि मनुष्य वास्तव में भाषा कैसे सीखते हैं, क्या वर्तमान AI संज्ञान का अर्थपूर्ण मॉडल प्रदान करता है, और भाषा-प्रयोग के “रचनात्मक” पहलुओं को पकड़ने में प्रायिकीय विधियाँ कितनी दूर तक जा सकती हैं।

प्रायिकीय मॉडल और “सरलता”

  • कई टिप्पणीकार इस दावे को चुनौती देते हैं कि अनिश्चितता से निपटने का “सबसे सरल” तरीका प्रायिकीय मॉडल हैं।
  • आपत्तियाँ: इनके लिए बड़े पैमाने की गणनाएँ और विशाल डेटा चाहिए; ये अक्सर ब्लैक बॉक्स की तरह काम करते हैं जो तंत्रों को “मॉडल” नहीं करते, केवल सहसंबंधों को।
  • अन्य लोगों का तर्क है कि “सरल” का अर्थ अवधारणात्मक रूप से उन घटनाओं के लिए स्वाभाविक है जो स्वभावतः यादृच्छिक हैं (जैसे शोरयुक्त धारणा), भले ही गणनात्मक रूप से भारी हो।

अनिश्चितता को निरूपित करने के अन्य तरीके

  • बताए गए विकल्पों में शामिल हैं: अज्ञात चरों वाले नियतात्मक मॉडल, त्रिस्तरीय तर्क (सत्य/असत्य/अज्ञात), फ़ज़ी लॉजिक, हेयुरिस्टिक्स के साथ बैकट्रैकिंग/बीम सर्च।
  • कुछ लोग इन्हें या तो अधिक मोटा-रुखा मानते हैं या “प्रायिकताओं का छद्म रूप” (जैसे “अज्ञात” ≈ 0 और 1 के बीच का कोई अंतराल)।
  • मौसम जैसे अनुप्रयुक्त क्षेत्रों में, एन्सेम्बल प्रायिकीय पूर्वानुमान को अब तक ज्ञात एकमात्र व्यावहारिक तरीका बताया गया है।

अभियांत्रिकी बनाम विज्ञान और मॉडल क्या समझाते हैं

  • एक पक्ष: प्रायिकीय/सांख्यिकीय तरीकों से सफल अभियांत्रिकी इस बात का प्रमाण है कि अंतर्निहित प्रणालियाँ कम से कम आंशिक रूप से सांख्यिकीय हैं।
  • विरोधी दृष्टि: काम करने वाली तकनीक प्राकृतिक घटनाओं की स्वतः व्याख्या नहीं करती (विमान बनाम पक्षी, LLMs बनाम मनुष्य); यह केवल व्यवहार का सन्निकटन कर सकती है।
  • इस पर बहस है कि क्या वर्तमान भाषा मॉडल मानव संज्ञान के अच्छे वैज्ञानिक मॉडल हैं या केवल शक्तिशाली उपकरण।

LLMs, भाषा-अधिगम, और अंतर्जातता

  • कुछ का तर्क है कि LLMs दिखाते हैं कि भाषा को पूर्णतः नए सिरे से, केवल संपर्क के माध्यम से, सीखा जा सकता है और बुद्धिमत्ता उतनी रहस्यमय नहीं जितनी मानी जाती है।
  • आलोचक जवाब देते हैं: इन मॉडलों को बच्चों की तुलना में पाठ और गणना की कई क्रम-परिमाण अधिक मात्रा चाहिए; मानव शिक्षार्थियों को समृद्ध बहु-मोडल इनपुट और विकास द्वारा गढ़े गए मज़बूत अंतर्जात पूर्वाग्रह मिलते हैं।
  • इस पर जारी विवाद है कि क्या व्याकरण श्रेणीगत, अंतर्निहित नियमों के साथ कुछ सांख्यिकी पर आधारित है, या मूलतः सांख्यिकीय है और उसमें अंतर्जात पूर्वाग्रह शामिल हैं।

औपचारिक भाषाविज्ञान और नियम-आधारित सिद्धांतों की स्थिति

  • कई टिप्पणियाँ कहती हैं कि शास्त्रीय जनरेटिव ढाँचे वैज्ञानिक रूप से प्रभावशाली थे, लेकिन अभियांत्रिकी कार्यों के लिए खराब थे और अब मुख्यधारा भाषाविज्ञान में उनका प्रभाव घट रहा है।
  • अन्य लोग उनका बचाव करते हैं, यह कहते हुए कि उनसे वाक्यविन्यास के बारे में पर्याप्त अनुभवजन्य ज्ञान मिला, भले ही उनके उच्चतम-स्तरीय सिद्धांत अब व्यापक रूप से स्वीकार नहीं किए जाते।
  • कुछ पारंपरिक सिद्धांतकारों द्वारा प्रायिकीय या सांख्यिकीय विधियों को खारिज करने की आलोचना करते हैं, इसे हठधर्मी और बाधक मानते हैं।