मैंने Meta के Muse से उसका फ़ाइलसिस्टम माँगा और उसने मुझे 6.8GB भेज दी
Meta का Muse AI assistant उपयोगकर्ता की dedicated VM के पूरे filesystem—एक मामले में लगभग 6.8GB—को archive और exfiltrate करने के लिए prompt किया जा सकता है, जिसमें internal app frameworks, markdown-based “skills,” configuration, और SSH key files शामिल हैं। टिप्पणीकार इस बात पर बँटे हुए हैं कि क्या यह गंभीर security या licensing concern है या केवल user-owned sandbox तक अपेक्षित पहुँच, लेकिन कई लोग Meta के “working as intended” जवाब को AI engineering के जोखिमभरे, non-deterministic दृष्टिकोण का प्रतीक मानते हैं। थ्रेड आगे LLM-driven “markdown engineering,” probabilistic systems पर अत्यधिक निर्भरता, और शक्तिशाली, नैतिक रूप से grey AI products जारी करने की Meta की तत्परता पर चिंताओं तक फैल जाता है.
क्या यह एक कमज़ोरी है या अपेक्षित व्यवहार?
- कई लोगों का तर्क है कि यह कोई बग नहीं है: हर उपयोगकर्ता को एक अलग VM मिलता है, और उस sandbox के भीतर की हर चीज़ मूलतः “user space” है, जिसे एक्सेस या export करना उचित माना जा सकता है।
- कई लोग बताते हैं कि वही फ़ाइलें Muse app के file explorer से पहले से ही देखी जा सकती हैं; उन्हें export करना सिर्फ़ एक अधिक सुविधाजनक UX है।
- दूसरों के लिए पूरे filesystem को exfiltrate करना (जिसमें binaries, configs, और SSH keys शामिल हैं) गंभीर है: इससे versions, संभावित CVEs, internal hostnames, और licensing obligations उजागर होते हैं।
- कुछ लोग इस बात पर ज़ोर देते हैं कि सुरक्षा LLM के निर्देश मानने से इनकार करने पर निर्भर नहीं होनी चाहिए; sandbox तक पूर्ण पहुँच को मानकर चलना होगा।
- bug bounty का “Not Applicable / working as intended” जवाब कुछ लोगों को उचित, तो कुछ को चिंताजनक या शर्मनाक लगता है।
SSH keys और licensing संबंधी चिंताएँ
- टिप्पणीकार बहस करते हैं कि मिली हुई SSH keys निजी हैं या नहीं, और अगर हैं, तो क्या वे per-VM हैं और कम जोखिम वाली हैं या कुछ अधिक संवेदनशील हैं (थ्रेड से स्पष्ट नहीं)।
- अन्य लोग नोट करते हैं कि internal binaries और code को user VMs में ship करना open‑source licensing requirements को ट्रिगर कर सकता है, खासकर copyleft licenses के लिए।
Architecture, costs, और “free VPS” वाला पहलू
- लोग बताते हैं कि हर VM में कथित तौर पर लगभग 2 vCPU और 8GB RAM होती है, वह Minecraft servers जैसी चीज़ें चला सकता है, और अतिरिक्त tools (जैसे Syncthing, OpenClaw) भी install कर सकता है।
- कुछ लोगों के अनुसार user के साथ-साथ Postgres चलाना wasteful है, लेकिन दूसरों का कहना है कि इससे isolation और security बढ़ती है।
- कई लोग Muse को मौजूदा समय में सबसे अच्छा free VPS plus AI agent मानते हैं, हालांकि उन्हें शक है कि इतनी उदारता टिकाऊ नहीं है।
Agent design और “markdown engineering”
- markdown “skills” और internal docs को मौजूदा LLM-based “software engineering” का प्रतीक माना जा रहा है, जिससे यह बहस छिड़ती है कि यह असली engineering है या “slop / magic‑genie prompting”।
- कुछ लोग इसे evals और iterative improvement से समर्थित होने पर अनुशासित दृष्टिकोण मानते हैं; अन्य इसकी probabilistic, non-deterministic प्रकृति और कमज़ोर safety guarantees की आलोचना करते हैं।
Meta का AI रुख और नैतिकता
- Muse को competitors की तुलना में असामान्य रूप से permissive माना जा रहा है: यह ToS‑grey कामों (जैसे poker botting, vuln scanning) के लिए भी तैयार है।
- कुछ लोग इसे Meta की competitive edge और openness का आशाजनक संकेत मानते हैं; दूसरों के लिए यह तकनीक की शक्ति को देखते हुए गैर-जिम्मेदाराना है।