कृत्रिम बुद्धिमत्ता सचेत नहीं है – Ted Chiang
असहमति का दायरा
- इस बात पर तीखी असहमति है कि क्या हम आत्मविश्वास के साथ कह सकते हैं कि वर्तमान LLM सचेत नहीं हैं।
- कई लोग तर्क देते हैं कि चेतना की कोई स्पष्ट, परीक्षण योग्य परिभाषा हमारे पास नहीं है; दूसरे कहते हैं कि कुछ चीज़ों को बाहर करने के लिए हमें पूरी सिद्धांत की ज़रूरत नहीं है (जैसे, पत्थर, Word दस्तावेज़, वर्तमान मॉडल)।
- कई लोगों के अनुसार “चेतना” एक धुंधली, लोक-समझ वाली अवधारणा है, या “परिवार-समानता” वाला एक समूह है, कोई एक अच्छी तरह परिभाषित गुण नहीं।
चेतना के लिए परिभाषाएँ और मानदंड
- सुझाए गए घटकों में शामिल हैं: व्यक्तिपरक अनुभव (qualia), स्व-प्रतिरूपण, भावनाएँ, इच्छाएँ, देहधारण, स्थायी स्मृति, सतत संचालन, और कर्तृत्व।
- प्रतिवाद: इनमें से कुछ विवादित हैं या संकीर्ण मानवकेंद्री अंतर्ज्ञानों से आते हैं।
- कई लोग नोट करते हैं कि ऐसे बहुत-से मानदंड कुछ मनुष्यों या जानवरों को भी बाहर कर देंगे, इसलिए वे संदिग्ध हैं।
LLMs: भविष्यवक्ता बनाम मन
- एक पक्ष: LLMs परिष्कृत ऑटोकम्प्लीट / “stochastic parrots” हैं, जिनमें कोई आंतरिक जीवन नहीं; समझ केवल पाठ पर सांख्यिकीय पैटर्न-मिलान है।
- दूसरे जवाब देते हैं कि “सिर्फ भविष्यवाणी” मानव मस्तिष्क का भी अच्छा वर्णन है; भविष्यवाणी-तंत्र सिद्धांततः समृद्ध विश्व-प्रतिमान, तर्क, शायद चेतना भी लागू कर सकते हैं।
- विचार प्रयोगों (Chinese Room, pen-and-paper execution) की तुलना का उपयोग कंप्यूटेशनल चेतना को नकारने और समर्थन करने, दोनों के लिए किया जाता है।
देहधारण, समय, और स्मृति
- कई टिप्पणीकार देहधारण, संवेदी इनपुट, और भावात्मकता (आनंद/पीड़ा, भय, इच्छा) को केंद्रीय मानते हैं; इनके बिना “चिंतित” या “खुश” मॉडलों की बातें भ्रामक मानी जाती हैं।
- अन्य तर्क देते हैं कि आभासी शरीर और कृत्रिम “drives” पर्याप्त हो सकते हैं, और मनुष्य चेतना के घटे हुए अवस्थाओं में भी सचेत हो सकते हैं (कोमा, स्मृतिलोप, सपने)।
- वर्तमान LLM परिनियोजनों में स्थायी आत्म-अपडेटिंग और समय के अंतर्जात प्रवाह का अभाव अक्सर एक बड़ी कमी के रूप में उद्धृत किया जाता है।
नीति और विपणन
- मानव-सदृश चैट UX और “constitutions” को लेकर व्यापक चिंता है कि ये लोगों को औज़ारों को व्यक्ति की तरह देखने के लिए प्रेरित करते हैं (“pseudanthropy”)।
- कुछ लोग तर्क देते हैं: अगर कंपनियाँ वाकई मानतीं कि मॉडल पीड़ा महसूस कर सकते हैं, तो मौजूदा प्रथाएँ दासता या यातना जैसी दिखतीं।
- दूसरे कहते हैं कि AI चेतना हो या न हो, हम AI प्रणालियों के साथ कैसे पेश आते हैं यह महत्वपूर्ण है, क्योंकि इससे हमारा चरित्र (virtue ethics) और जानवरों व मनुष्यों के प्रति हमारा व्यवहार आकार लेता है।
बुद्धिमत्ता बनाम चेतना
- सामान्य सहमति है कि LLMs प्रभावशाली तर्क और भाषा-कौशल दिखाते हैं, जिससे यह विचार कमजोर पड़ता है कि ऐसी क्षमताओं के लिए चेतना आवश्यक है।
- कई लोग इसे असली दार्शनिक झटका मानते हैं: बुद्धिमत्ता और चेतना पहले सोचे गए से अधिक अलग-अलग हो सकती हैं।