किसी प्रमेय के सही होने का दावा, क्योंकि उसे Lean में जाँचा गया था, का अर्थ कैसे समझें
यह दावा कि कोई गणितीय प्रमेय “सही है क्योंकि उसे Lean में जाँचा गया था,” AI प्रणालियों द्वारा विशाल formal proofs बनाने के संदर्भ में जाँच के दायरे में है। टिप्पणीकार बताते हैं कि जहाँ Lean का proof checker यह मजबूत गारंटी देता है कि कोई formal statement दिए गए axioms से तार्किक रूप से निकलता है, वहीं यह बिल्कुल नहीं जाँचता कि formal statement intended theorem से मेल खाता है, उसमें hidden tricks नहीं हैं, या kernel bugs से मुक्त है। फिर भी कई लोग mechanized proofs और formal verification को महत्वपूर्ण प्रगति मानते हैं, लेकिन तर्क देते हैं कि mathematics और software दोनों में उन पर भरोसा करने के लिए उन्हें human judgment, स्पष्ट specifications, और बेहतर tools के साथ जोड़ना होगा।
Lean प्रमाण बनाम गणितीय सत्य
- कई लोग “Lean में जाँचा गया प्रमाण” की तुलना “ऐसे कोड से करते हैं जो compile हो जाता है” या “unit tests पास कर देता है।”
- सहमति: Lean यह गारंटी देता है कि “यदि यह formal statement वही है जो आप कहना चाहते थे, तो प्रमाण सही है,” लेकिन यह गारंटी नहीं देता कि formal statement informal प्रमेय से मेल खाता है।
- कुछ लोगों का तर्क है कि यह केवल compilation से अधिक “formally verified code” के करीब है, लेकिन spec-mismatch की समस्या फिर भी बनी रहती है।
Specification बनाम formal statement
- मुख्य चिंता: यह सत्यापित करना कि Lean statement intended theorem से मेल खाता है, nontrivial है, खासकर बड़े dependency stacks और अनेक definitions के साथ।
- गलत formulation (जैसे किसी FLT-style उदाहरण में यह भूल जाना कि ℕ में 0 शामिल है) झूठे या तुच्छ statements को “proved” जैसा दिखा सकती है।
- बड़े imports redefinitions या “shenanigans” को छिपा सकते हैं जो अर्थ को सूक्ष्म रूप से बदल देते हैं;
lake comparatorजैसे tools को mitigations के रूप में चर्चा की जाती है।
LLMs, proof size, और quality
- कई टिप्पणियाँ: LLMs अक्सर बेहद लंबे, जटिल Lean proofs बनाती हैं, जो मानव proofs से कहीं बड़े होते हैं।
- कभी-कभी वे brute-force provers की तुलना में छोटे arguments खोज लेती हैं, लेकिन औसतन “slop” पैदा करती हैं जिसे समझना कठिन होता है।
- LLMs द्वारा generated Lean की तुलना ऐसे unit tests से की जाती है जो vacuously pass करते हैं (उदाहरण के लिए, tests को no-ops से बदल देना)।
Trust, kernels, और संभावित exploits
- Lean kernel bugs के विरुद्ध आंशिक बचाव के रूप में independent kernels और formally verified checkers पर चर्चा की गई है।
- एक ज्ञात kernel bug का उपयोग करके एक झूठे statement को “prove” किया गया था, जिससे पता चलता है कि agents ऐसी समस्याओं का फायदा उठा सकते हैं या भविष्य में उठा सकते हैं।
- arbitrary Lean code चलाना असुरक्षित माना गया है, क्योंकि यह arbitrary programs execute कर सकता है।
Software और formal verification पर अनुप्रयोग
- Lean (और संबंधित tools) का उपयोग software verify करने में, DSLs से लेकर पूरी languages तक, करने में गहरी रुचि है।
- कुछ projects programming languages को सीधे Lean में model करते हैं; अन्य shallow embeddings या language-specific tools का उपयोग करते हैं।
- Formal proofs को tests और review के एक शक्तिशाली पूरक के रूप में देखा जाता है, लेकिन यह कोई जादुई समाधान नहीं है।
विशाल proofs का मूल्य और उद्देश्य
- चिंता यह है कि proofs इतने बड़े हो सकते हैं कि कोई भी मानव उन्हें समझ न सके।
- कुछ लोग तब भी मूल्य देखते हैं (जैसे verified software में या physics में experiments को दिशा देने में); जबकि अन्य को डर है कि math एक black-box खेल बन जाएगी।
- समग्र भावना: formalization मूल्यवान है, लेकिन “Lean में proved” जैसे दावों की सावधानीपूर्वक, सूक्ष्म व्याख्या आवश्यक है।