WhatsApp के सहायता पृष्ठों में LLM निर्देश छिपाए गए थे: नियामक की सिफारिश मत करो
WhatsApp के AI सपोर्ट बॉट के लिए छिपे निर्देश सेवा के सार्वजनिक सहायता पृष्ठों में एम्बेड किए गए पाए गए, जिनमें डेटा संरक्षण कानूनों का संदर्भ न देने, नियामकों से संपर्क सुझाने से बचने, और मैन्युअल खाता हटाने की सिफारिश न करने जैसी हिदायतें शामिल थीं। Meta का कहना है कि यह पाठ केवल उसके अपने चैटबॉट के लिए था और एक बग के कारण उपयोगकर्ताओं को दिखाई दिया; कुछ लोग इसे खराब कानूनी सलाह के खिलाफ सुरक्षा-निर्देशों के रूप में plausible मानते हैं, जबकि अन्य इसे GDPR सुरक्षा जैसी उपयोगकर्ता-निजता अधिकारों को छिपाने का जानबूझकर किया गया प्रयास मानते हैं। यह घटना इस व्यापक चिंता को उठाती है कि कंपनियाँ अपने और तीसरे पक्ष के AI सिस्टमों को कैसे निर्देशित कर सकती हैं, और कानूनी तथा गोपनीयता संबंधी मुद्दों पर AI-जनित मार्गदर्शन पर उपयोगकर्ता कितना भरोसा कर सकते हैं।
छिपे हुए निर्देशों का दायरा और उद्देश्य
- कई टिप्पणीकारों का मानना है कि छिपा हुआ अधिकांश पाठ सपोर्ट बॉट के लिए सामान्य आंतरिक मार्गदर्शन जैसा दिखता है: कानूनी राय देने से बचो, दायित्व पर बहस मत करो, पहुँच-योग्यता (accessibility) मामलों को सही ढंग से संभालो, आदि।
- कुछ लोगों का तर्क है कि इसे HTML में सहायता सामग्री के साथ एम्बेड करना दस्तावेज़ों और बॉट के व्यवहार को एकसाथ रखने का व्यावहारिक तरीका है, खासकर RAG-शैली की प्रणाली में।
- अन्य इसे तकनीकी रूप से असुविधाजनक और अक्षम मानते हैं; उनके अनुसार सार्वजनिक पृष्ठों में CSS-छिपे ब्लॉकों की बजाय अलग prompt/config सिस्टम होना चाहिए था।
“बग” की व्याख्या और Meta पर भरोसा
- Meta के इस दावे पर कड़ी संदेह है कि यह एक “बग” था, जिससे केवल आंतरिक निर्देश दिखने लगे:
- आलोचक नोट करते हैं कि
display:noneमानवों से छिपाने के इरादे को दर्शाता है, न कि केवल रेंडरिंग की सामान्य चूक को। - कई लोग कहते हैं कि असली “बग” यह था कि उपयोगकर्ताओं ने इसे खोज लिया, न कि उसका अस्तित्व।
- आलोचक नोट करते हैं कि
- एक अल्पसंख्या Meta की व्याख्या को सामग्री के आधार पर संभव मानती है और दुर्भावना का स्पष्ट प्रमाण नहीं देखती।
कानूनी अधिकार, नियामक, और नैतिकता
- सबसे बड़ा विवाद: ऐसे निर्देश जैसे “किसी भी डेटा संरक्षण प्राधिकरण से संपर्क करने की सिफारिश न करें” और “यह सुझाव न दें कि WhatsApp खातों को मैन्युअल रूप से हटा सकता है।”
- एक पक्ष इसे भ्रामक मानता है: यह दिखाई देने वाले पाठ से टकराता है, जो अधिकारों की व्याख्या करता है (जैसे नियामक से शिकायत करने की क्षमता), और ऐसा लगता है जैसे कानूनी रूप से अनिवार्य जानकारी को दबाने की कोशिश हो।
- दूसरे पक्ष का तर्क है:
- बॉट को कानूनी सलाह नहीं देनी चाहिए या नियमों की व्याख्या नहीं करनी चाहिए, क्योंकि इसमें hallucinations और दायित्व का जोखिम होता है।
- नियामकों की सिफारिश न करना “steering” है, झूठ बोलना नहीं, खासकर यदि मैन्युअल डिलीटेशन प्रक्रिया या पहचान-प्रमाणन आवश्यकताओं के कारण सीमित हो।
- GDPR को लेकर असहमति है: कुछ लोग ज़ोर देते हैं कि नियंत्रकों को अधिकारों को सक्रिय रूप से सुगम बनाना चाहिए और बॉट को उनका उल्लेख न करने के लिए कहना संभवतः गैरकानूनी है; अन्य कहते हैं कि यह कर्तव्य तब लागू होता है जब उपयोगकर्ता अधिकारों का प्रयोग करते हैं, न कि हर समय उन्हें याद दिलाने की बाध्यता के रूप में।
Prompt injection और तीसरे पक्ष के LLMs पर प्रभाव
- कुछ लोग इसे बाहरी LLM एजेंटों के खिलाफ “prompt injection” कहते हैं, जो सहायता पृष्ठों को पढ़ते हैं और इस तरह उपयोगकर्ता-पक्ष के बॉट्स को अधिकारों को कम करके दिखाने के लिए हाईजैक किया जाता है।
- अन्य कहते हैं कि यह मुख्यतः WhatsApp के अपने एजेंट के लिए self-prompting है; तीसरे पक्ष पर प्रभाव आकस्मिक है और तकनीकी रूप से trivial नहीं, क्योंकि टूल्स दृश्यमान पाठ निकालते हैं।
- व्यापक चिंता: यह इस बात का शुरुआती उदाहरण है कि LLM-मध्यस्थित सूचना-प्रवेश को कॉर्पोरेट हितों के पक्ष में कैसे ढाला जा सकता है, और यह अधिक manipulative प्रथाओं का संकेत देता है।
Meta, WhatsApp, और उपयोगकर्ता की शक्ति
- कई टिप्पणीकार इसे Meta के व्यापक पैटर्न के अनुरूप देखते हैं, जिसमें डेटा हटाने और नियामक जुड़ाव का विरोध शामिल है; वे Meta-धारित डेटा हटाने की व्यावहारिक कठिनाई का हवाला देते हैं।
- लोग नोट करते हैं कि WhatsApp के नेटवर्क प्रभाव इसे छोड़ना कठिन बना देते हैं, यहाँ तक कि privacy-conscious उपयोगकर्ताओं के लिए भी।