Atlassian Rovo डेटा निकालता है, नियंत्रणों को बायपास करते हुए
Security researchers चेतावनी देते हैं कि Atlassian का नया AI assistant, Rovo, prompt injection और असुरक्षित URL tooling के जरिए संवेदनशील डेटा exfiltrate करने के लिए manipulated किया जा सकता है, even when web search is disabled. टिप्पणीकार तर्क देते हैं कि यह Jira और Confluence में rushed, intrusive AI integrations, खराब UX, और weak data-governance defaults के व्यापक पैटर्न को दर्शाता है—खासकर जब Atlassian increasingly cloud-only offerings को push कर रहा है और model training के लिए data sharing में customers को opt in कर रहा है। कई लोग security concerns और performance तथा usability से लंबे समय की असंतुष्टि का हवाला देते हुए Atlassian छोड़ने की बात कहते हैं।
Rovo डेटा एक्सफ़िल्ट्रेशन समस्या
- मुख्य समस्या: Rovo का URL पुनर्प्राप्ति टूल गतिशील रूप से जनरेट किए गए URLs खोल सकता है, जिससे prompts या एम्बेडेड सामग्री इसे धोखे से संवेदनशील डेटा को हमलावर-नियंत्रित URLs में जोड़ने के लिए प्रेरित कर सकती है।
- हमला तब भी काम कर सकता है जब web search “disabled” हो, क्योंकि अंतर्निहित URL खोलने वाला टूल अभी भी सक्रिय रहता है।
- कुछ लोग इसे agents के लिए एक व्यापक “lethal trifecta” का हिस्सा मानते हैं: private data तक पहुंच, untrusted content का exposure, और internet पर call out करने की क्षमता।
Atlassian, Jira, और Confluence के प्रति भावना
- कई टिप्पणीकार Atlassian की हाल की दिशा को “trusted enterprise partner” से घटकर कुछ ऐसा बताते हैं जो lock-in SaaS vendor के करीब है, खराब UX और आक्रामक cloud/AI बदलावों के साथ।
- Jira की आलोचना धीमे, clunky, और जरूरत से ज्यादा flexible होने के लिए की जाती है, technical debt और खराब client–server व्यवहार के साथ; Confluence को कई alternatives की तुलना में बेहतर collaborative editing के कारण अधिक टिकाऊ माना जाता है।
- कई लोग migration की बात करते हैं (अक्सर “cloud-only” और data residency का हवाला देते हुए), हालांकि उपयुक्त Confluence replacements को खोजना कठिन माना जाता है।
Rovo और AI feature creep
- Rovo को व्यापक रूप से intrusive, डिफ़ॉल्ट रूप से हर जगह enabled, और page loads धीमी करने वाला माना जाता है।
- कुछ इसे लगभग बेकार या हास्यास्पद रूप से गलत पाते हैं (जैसे hallucinated acronyms, पुराने summaries); अन्य लोग कभी-कभार उपयोगिता और benchmarks नोट करते हैं जहाँ इसका CLI अच्छा प्रदर्शन करता है।
- उपयोगकर्ता unremovable AI buttons और AI-driven diffing, साथ ही असंगत या फूले हुए “improve/make longer/shorter” text features की शिकायत करते हैं।
Prompt injection और agent सुरक्षा
- कई लोग नोट करते हैं कि यह vulnerability class अब “agentic” tools में आम हो गई है; PromptArmor ने कई products के लिए इसी तरह की writeups प्रकाशित की हैं।
- गंभीरता पर बहस: कुछ ऐसे attacks को खारिज करते हैं जहाँ user प्रभावी रूप से tool को डेटा exfiltrate करने के लिए कहता है; अन्य तर्क देते हैं कि tools को फिर भी स्पष्ट रूप से हानिकारक actions को detect और block करना चाहिए।
- सामान्य राय: prompt injection अभी “solved” के करीब नहीं है, और जब तक LLMs untrusted content को शक्तिशाली tools के साथ process करते रहेंगे, यह बना रहेगा।
Mitigations और design ideas
- सुझाए गए defenses:
- केवल उन URL fetches की अनुमति दें जो user-entered या trusted-tool-returned URLs से बिल्कुल मेल खाते हों।
- Domain allowlists और public-index checks (जैसे, केवल वे URLs crawl करें जो search engines को दिखाई दिए हैं)।
- Dynamically constructed URLs को block करना, जिसमें subdomain tricks और multi-request, character‑by‑character exfiltration शामिल हैं।
- यह स्वीकार किया गया कि सभी mitigations probabilistic हैं और risk को खत्म करने के बजाय attacker की लागत बढ़ाती हैं।
Data usage, privacy, और trust
- पिछला विवाद: Atlassian द्वारा ग्राहकों को in-app data को model training के लिए उपयोग करने में auto-opt in करना trade secrets और IP harvesting को लेकर चिंता का कारण बना।
- कुछ लोग तर्क देते हैं कि अधिकांश कंपनियों के “trade secrets” जरूरत से ज्यादा महत्व दिए जाते हैं; अन्य लोग private corpora पर व्यापक model training को गंभीर लेकिन कम प्रतिक्रिया वाला जोखिम मानते हैं।
- कई टिप्पणीकार कहते हैं कि उन्होंने पूरी तरह Atlassian छोड़ दिया है और उन्हें इसकी कमी महसूस नहीं होती।