OpenAI द्वारा तेज़ Fourier transforms की गणना के दावे वाले गणित पर एक नज़र
OpenAI के discrete Fourier transforms के लिए तेज़-से-FFT algorithm के हालिया दावे ने theoretical computer science और practical computing के बीच पुरानी तनातनी फिर से उभार दी है। टिप्पणीकार exact complex arithmetic और unit-cost operations जैसे idealized models पर सवाल उठाते हैं, उनका कहना है कि ये ऐसे “galactic” asymptotic improvements की अनुमति देते हैं जिन्हें physical hardware पर लागू नहीं किया जा सकता। अन्य लोग pure theory और big-O analysis का बचाव करते हैं, उन्हें ऐतिहासिक रूप से महत्वपूर्ण और भविष्य में उपयोगी बताते हैं, जबकि चेतावनी देते हैं कि AI-generated proofs complexity results के निर्दिष्टीकरण और व्याख्या में मौजूद कमजोरियों को और बढ़ा सकते हैं।
दावा किए गए तेज़ FFT / गुणन परिणामों की प्रकृति
- बहुत से लोग OpenAI के FFT और पूर्णांक-गुणन परिणामों को एक बहुत ही मज़बूत, और संभवतः अवास्तविक, मॉडल का उपयोग करते हुए देखते हैं: सटीक complex arithmetic या ऐसे संख्याओं पर unit-cost arithmetic जिनका परिमाण input size के साथ superpolynomial रूप से बढ़ता है।
- आलोचकों का तर्क है कि asymptotic speedup “काम को छिपाने” से आता है, क्योंकि O(1) माने गए operations के भीतर (जैसे बहुत बड़ी संख्याओं का multiplication) वह काम समा दिया जाता है; इसलिए यह सुधार computation से अधिक मॉडल के बारे में हो सकता है।
- अन्य लोग नोट करते हैं कि finite fields में variants (जो cryptography में उपयोग होते हैं) अधिक वास्तविक cost models में बेहतर फिट हो सकते हैं और इसलिए अधिक अर्थपूर्ण हो सकते हैं।
Big-O, constants, और “galactic” algorithms
- बार-बार उठने वाला विषय: big-O constants को अनदेखा करता है, इसलिए “galactic” algorithms asymptotically n log n को भी पछाड़ सकते हैं, लेकिन केवल बेतुके रूप से बड़े n पर।
- कुछ लोगों का कहना है कि इससे ऐसे परिणाम व्यावहारिक रूप से बेकार हो जाते हैं या formalism का “exploitation” लगते हैं; अन्य जवाब देते हैं कि big-O और complexity classes फिर भी बहुत उपयोगी सैद्धांतिक औज़ार हैं।
- Blum के speedup theorem का हवाला दिया जाता है: समय सीमाओं को space की कीमत पर हमेशा सुधारा जा सकता है, इसलिए n log n की बाधा “तोड़ना” जरूरी नहीं कि कोई गहरी भौतिक सीमा हो।
Computation के मॉडल
- मॉडलों पर बहस: Turing machines बनाम register/RAM models बनाम Real RAM बनाम exact complex/rational arithmetic।
- पक्षधरों का तर्क: कोई भी model एक abstraction है; हम integer operations को भी पहले से constant time मानते हैं।
- आलोचकों का कहना है: कुछ models (जैसे unbounded magnitude वाली exact complex arithmetic) अन्य की तुलना में “अधिक गलत” हैं, यदि लक्ष्य वास्तविक computers या physics का बेहतर approximation करना हो।
Theoretical CS का मूल्य और उद्देश्य
- एक पक्ष: यदि theorists को practical performance की परवाह नहीं है, तो उनका काम एक puzzle game है जिसका बाहरी दुनिया से कम संबंध है; galactic results और अवास्तविक models इस धारणा को मजबूत करते हैं।
- दूसरा पक्ष: theory अक्सर applications से पहले आती है; बहुत-से ऐतिहासिक रूप से “बेकार” विचार (modular arithmetic, number theory, relativity) बाद में अत्यंत महत्वपूर्ण हो गए। आप भरोसेमंद ढंग से यह अनुमान नहीं लगा सकते कि कौन-सा math कब काम आएगा।
- कुछ लोग इस पर ज़ोर देते हैं कि TCS मूलतः mathematics है, engineering नहीं; इसे impractical कहकर शिकायत करना उसके उद्देश्यों को गलत समझना है।
AI-जनित math और समुदाय की गतिशीलता
- कई टिप्पणीकारों को लगता है कि आलोचना वास्तव में theoretical CS पर सामान्य रूप से है, और OpenAI केवल एक हुक के रूप में इस्तेमाल हुआ है।
- चिंता यह है कि LLMs formally correct लेकिन model-exploiting या galactic results बड़ी मात्रा में पैदा कर सकते हैं, जिससे human reviewers पर बोझ बढ़ेगा और incentives का तालमेल बिगड़ेगा।
- अन्य लोग स्वयं mathematics का स्वागत करते हैं और तर्क देते हैं कि जब तक concrete errors या misstatements नहीं दिखाए जाते, काम को “slop” या “slopository” कहना technical critique से अधिक सांस्कृतिक rant है।