OpenAI शोधकर्ताओं ने CEO को हटाए जाने से पहले बोर्ड को AI ब्रेकथ्रू के बारे में चेतावनी दी
रिपोर्टों के अनुसार OpenAI के शोधकर्ताओं ने अपने बोर्ड को “Q*” नामक एक breakthrough AI system के बारे में चेतावनी दी थी, जो कथित तौर पर प्राथमिक-विद्यालय स्तर का गणित हल कर सकता है और कृत्रिम सामान्य बुद्धिमत्ता (AGI) की ओर बढ़ रहा है। इस दावे और OpenAI की governance दोनों पर तीखी जांच शुरू हो गई है। टिप्पणीकार बहस करते हैं कि क्या ऐसी क्षमताएँ मौजूदा large language models से वास्तव में आगे हैं या उन्हें hype के रूप में बढ़ा-चढ़ाकर पेश किया जा रहा है; वे गणित, तर्क और reasoning की तकनीकी सीमाओं का विश्लेषण करते हैं, और अनुमान लगाते हैं कि Q* में reinforcement learning या search-based methods शामिल हो सकते हैं। इन प्रतिक्रियाओं के पीछे AI safety चिंताओं, AGI-प्रेरित तबाही के डर, और इस संदेह के बीच व्यापक तनाव है कि आज की प्रणालियाँ उस सीमा के आसपास भी हैं या नहीं—या बस शक्तिशाली लेकिन संकीर्ण “autocomplete” engines हैं।
Q* क्या हो सकता है
- लेख का दावा है कि OpenAI के पास एक आंतरिक प्रोजेक्ट “Q*” है जो बड़े कंप्यूट के साथ प्राथमिक-विद्यालय स्तर का गणित हल कर सकता है, और कुछ शोधकर्ताओं ने बोर्ड को चेतावनी दी कि यह खतरनाक हो सकता है।
- कई टिप्पणियों में “प्राथमिक-विद्यालय का गणित” अपने आप में खास प्रभावशाली नहीं लगता, लेकिन यह भी कहा गया कि इसे कैसे किया जाता है, यह बहुत महत्वपूर्ण हो सकता है (सच्ची तर्क-शक्ति बनाम रटना)।
- कई लोग अनुमान लगाते हैं कि Q* से RL “Q-learning” का संकेत है, संभवतः search (A*/MCTS) और transformers के साथ; अन्य लोग सोचते हैं कि यह LLMs के ऊपर एक सामान्य planning या reasoning layer हो सकता है।
क्या सचमुच इसी ने बोर्ड कूप को ट्रिगर किया?
- एक कहानी यह है: शोधकर्ताओं ने Sam Altman को बायपास किया, बोर्ड को एक चेतावनी पत्र भेजा कि Q* AGI के करीब है, बोर्ड घबरा गया और “lack of candor” के कारण उसे निकाल दिया।
- दूसरी: यह बात बढ़ा-चढ़ाकर कही गई है या मार्केटिंग है; बोर्ड को मुख्यतः Altman अविश्वसनीय लगा, या असली मुद्दा governance था।
- थ्रेड में उद्धृत बाद की रिपोर्टिंग कहती है कि एक स्रोत ने इनकार किया कि किसी ऐसे पत्र ने बर्खास्तगी को प्रेरित किया, जबकि Reuters के स्रोत कहते हैं कि ऐसा एक पत्र था। टिप्पणीकार इसे अभी भी अनसुलझा मानते हैं।
गणित, तर्क, और LLM की सीमाएँ
- लंबे उप-थ्रेड्स दिखाते हैं कि GPT-4 और अन्य कुछ logic और math puzzles में सफल होते हैं, लेकिन अक्सर सूक्ष्म बदलावों, trick questions, या नई formulations के साथ असफल हो जाते हैं।
- प्रतिभागी इन बातों में अंतर करते हैं:
- बुनियादी arithmetic बनाम गहरा mathematical reasoning।
- परिचित समस्याओं पर pattern-matching बनाम वास्तविक generalization।
- single-shot उत्तर बनाम multi-step reasoning with backtracking and checking।
- कई लोग नोट करते हैं कि chain-of-thought, tools (Python, theorem provers), या multiple rollouts की अनुमति मिलने पर LLMs में उल्लेखनीय सुधार होता है।
“AGI” का मतलब क्या है और हम कितने करीब हैं
- परिभाषाएँ अलग-अलग हैं: OpenAI की अपनी परिभाषा है “ऐसे systems जो अधिकांश economically valuable work में मनुष्यों से बेहतर प्रदर्शन करें”; अन्य लोग recursive self-improvement या नई physics/math की खोज पर ज़ोर देते हैं।
- कुछ का तर्क है कि GPT-4 व्यावहारिक रूप से पहले ही एक “general intelligence” है; अन्य कहते हैं कि यह अभी भी उन tasks में विफल होता है जो कई बच्चों को आसान लगते हैं और छिपे-चरण वाले reasoning को भरोसेमंद तरीके से संभाल नहीं सकता।
- एक बार-बार लौटने वाला विषय यह है कि capabilities बढ़ने पर लोग AGI के goalposts बदल देते हैं।
जोखिम, हाइप, और governance
- कुछ लोग किसी भी मजबूत नए reasoning algorithm को self-improving AI को तेज करने वाला और इसलिए एक गंभीर safety issue मानते हैं; अन्य लोग मौजूदा AGI-doom narratives को “religious” या marketing मानते हैं।
- anonymous-source AGI दावों और OpenAI की apocalyptic framing पर गहरा संदेह है, लेकिन साथ ही यह भी माना जाता है कि बेहतर long-term planning और “superhuman persuasion” सामाजिक रूप से अस्थिर कर सकती है।
- कई लोग OpenAI की governance संरचना की आलोचना करते हैं: एक छोटा nonprofit board, जिसे अस्पष्ट safety चिंताओं के आधार पर $80B की कंपनी को “blow up” करने की शक्ति है, इसे अस्थिर माना गया।