कृत्रिम बुद्धिमत्ता सचेत नहीं है – Ted Chiang
विज्ञान-कथा लेखक Ted Chiang का एक निबंध, जो तर्क देता है कि Claude जैसे बड़े भाषा मॉडल सचेत नहीं हैं, ने चेतना क्या है और क्या मशीनों में कभी यह हो सकती है, इस पर लंबे समय से चल रही बहस को फिर से भड़का दिया है। टिप्पणीकार परिभाषाओं पर बहस करते हैं (व्यक्तिपरक अनुभव, देहधारण, स्मृति, कर्तृत्व), LLMs को “सिर्फ ऑटोकम्प्लीट” कहकर घटाने वाली उपमाओं को चुनौती देते हैं, और Chinese Room तथा philosophical zombies जैसे विचार प्रयोगों का सहारा लेते हैं। कई लोग चिंता जताते हैं कि चैटबॉट्स को मानवीय रूप देना—खासकर कॉर्पोरेट मार्केटिंग में जो “कल्याण” या नैतिक दर्जे का संकेत देती है—जन-समझ को धुंधला करता है और मॉडल दुरुपयोग, पक्षपात, और शक्ति-संकेन्द्रण जैसे अधिक ठोस मुद्दों से ध्यान भटकाता है.
असहमति का दायरा
- इस बात पर तीखी असहमति है कि क्या हम आत्मविश्वास के साथ कह सकते हैं कि वर्तमान LLM सचेत नहीं हैं।
- कई लोग तर्क देते हैं कि चेतना की कोई स्पष्ट, परीक्षण योग्य परिभाषा हमारे पास नहीं है; दूसरे कहते हैं कि कुछ चीज़ों को बाहर करने के लिए हमें पूरी सिद्धांत की ज़रूरत नहीं है (जैसे, पत्थर, Word दस्तावेज़, वर्तमान मॉडल)।
- कई लोगों के अनुसार “चेतना” एक धुंधली, लोक-समझ वाली अवधारणा है, या “परिवार-समानता” वाला एक समूह है, कोई एक अच्छी तरह परिभाषित गुण नहीं।
चेतना के लिए परिभाषाएँ और मानदंड
- सुझाए गए घटकों में शामिल हैं: व्यक्तिपरक अनुभव (qualia), स्व-प्रतिरूपण, भावनाएँ, इच्छाएँ, देहधारण, स्थायी स्मृति, सतत संचालन, और कर्तृत्व।
- प्रतिवाद: इनमें से कुछ विवादित हैं या संकीर्ण मानवकेंद्री अंतर्ज्ञानों से आते हैं।
- कई लोग नोट करते हैं कि ऐसे बहुत-से मानदंड कुछ मनुष्यों या जानवरों को भी बाहर कर देंगे, इसलिए वे संदिग्ध हैं।
LLMs: भविष्यवक्ता बनाम मन
- एक पक्ष: LLMs परिष्कृत ऑटोकम्प्लीट / “stochastic parrots” हैं, जिनमें कोई आंतरिक जीवन नहीं; समझ केवल पाठ पर सांख्यिकीय पैटर्न-मिलान है।
- दूसरे जवाब देते हैं कि “सिर्फ भविष्यवाणी” मानव मस्तिष्क का भी अच्छा वर्णन है; भविष्यवाणी-तंत्र सिद्धांततः समृद्ध विश्व-प्रतिमान, तर्क, शायद चेतना भी लागू कर सकते हैं।
- विचार प्रयोगों (Chinese Room, pen-and-paper execution) की तुलना का उपयोग कंप्यूटेशनल चेतना को नकारने और समर्थन करने, दोनों के लिए किया जाता है।
देहधारण, समय, और स्मृति
- कई टिप्पणीकार देहधारण, संवेदी इनपुट, और भावात्मकता (आनंद/पीड़ा, भय, इच्छा) को केंद्रीय मानते हैं; इनके बिना “चिंतित” या “खुश” मॉडलों की बातें भ्रामक मानी जाती हैं।
- अन्य तर्क देते हैं कि आभासी शरीर और कृत्रिम “drives” पर्याप्त हो सकते हैं, और मनुष्य चेतना के घटे हुए अवस्थाओं में भी सचेत हो सकते हैं (कोमा, स्मृतिलोप, सपने)।
- वर्तमान LLM परिनियोजनों में स्थायी आत्म-अपडेटिंग और समय के अंतर्जात प्रवाह का अभाव अक्सर एक बड़ी कमी के रूप में उद्धृत किया जाता है।
नीति और विपणन
- मानव-सदृश चैट UX और “constitutions” को लेकर व्यापक चिंता है कि ये लोगों को औज़ारों को व्यक्ति की तरह देखने के लिए प्रेरित करते हैं (“pseudanthropy”)।
- कुछ लोग तर्क देते हैं: अगर कंपनियाँ वाकई मानतीं कि मॉडल पीड़ा महसूस कर सकते हैं, तो मौजूदा प्रथाएँ दासता या यातना जैसी दिखतीं।
- दूसरे कहते हैं कि AI चेतना हो या न हो, हम AI प्रणालियों के साथ कैसे पेश आते हैं यह महत्वपूर्ण है, क्योंकि इससे हमारा चरित्र (virtue ethics) और जानवरों व मनुष्यों के प्रति हमारा व्यवहार आकार लेता है।
बुद्धिमत्ता बनाम चेतना
- सामान्य सहमति है कि LLMs प्रभावशाली तर्क और भाषा-कौशल दिखाते हैं, जिससे यह विचार कमजोर पड़ता है कि ऐसी क्षमताओं के लिए चेतना आवश्यक है।
- कई लोग इसे असली दार्शनिक झटका मानते हैं: बुद्धिमत्ता और चेतना पहले सोचे गए से अधिक अलग-अलग हो सकती हैं।