Anthropic ने डायरी प्रविष्टि पुलिस को रिपोर्ट की, महिला पर फेलोनी आरोप
फ़्लोरिडा की एक महिला पर राज्य के लिखित धमकियों वाले क़ानून के तहत आरोप लगाया गया, जब Anthropic के Claude chatbot ने diary-जैसे संदेशों को flag करके आगे भेज दिया, जिनमें उसने कहा था कि वह स्थानीय sheriff’s office पर “shoot up” करेगी। टिप्पणीकार इस पर बहस करते हैं कि क्या ऐसी निजी-सी AI chats क़ानूनी मानक “communication … in a manner in which it may be viewed by another person” को पूरा करती हैं, और इससे thought crime, intent, तथा speech की संवैधानिक सीमाओं को लेकर चिंताएँ उठती हैं। यह घटना AI सेवाओं को mass-surveillance tools के रूप में देखने, privacy को लेकर उपयोगकर्ताओं की अस्पष्ट अपेक्षाओं, और टेक कंपनियों पर पड़ने वाले दबाव का व्यापक प्रतीक बन जाती है—जहाँ उन्हें रिपोर्ट करने और हिंसक कल्पनाओं की रिपोर्ट न करने, दोनों के लिए दोषी ठहराया जा सकता है।
धमकी की कानूनी व्याख्या
- मुख्य क़ानून: फ़्लोरिडा क़ानून के अनुसार किसी भी माध्यम में लिखित धमकी भेजना या प्रसारित करना, “ऐसे तरीके से जिसमें उसे कोई और व्यक्ति देख सकता हो,” एक फेलोनी है।
- मुख्य विवाद: क्या Claude में “निजी डायरी” के रूप में टेक्स्ट दर्ज करना ऐसी transmission मानी जाएगी।
- एक पक्ष का तर्क:
- वह संदेश वास्तव में Anthropic के कर्मचारियों ने देखा, इसलिए वैधानिक शर्त पूरी होती है।
- धमकियों और conspiracy से जुड़े क़ानून अक्सर केवल इरादे पर नहीं, बल्कि actions plus words पर निर्भर करते हैं।
- दूसरे पक्ष का तर्क:
- क़ानून का निशाना उन धमकियों पर है जो लोगों तक communicated की जाती हैं, न कि निजी नोट्स या journaling पर।
- यदि उपयोगकर्ता को यथोचित रूप से लगा कि कोई इंसान उसे नहीं पढ़ेगा, तो शायद कोई “mens rea” नहीं है।
- तुलना दी गई हैं: हाथ से लिखी डायरी, email drafts, Google Docs, cloud backups, आदि।
LLMs के साथ गोपनीयता की अपेक्षा
- कई टिप्पणीकार कहते हैं कि गैर-तकनीकी उपयोगकर्ता स्वाभाविक रूप से मानते हैं कि AI के साथ chats निजी होती हैं, जैसे डायरी या व्यक्तिगत नोट्स।
- अन्य लोग ज़ोर देते हैं:
- “Not your computer, not your data” – किसी cloud service को भेजी गई हर चीज़ को पढ़े और संचित किए जाने योग्य मानना चाहिए।
- Anthropic की नीतियाँ स्पष्ट रूप से flagged content की human review की अनुमति देती हैं, हालांकि बहुत कम उपयोगकर्ता इन शर्तों को पढ़ते हैं।
- कुछ लोग इसे “spying with extra steps” कहते हैं; अन्य इसे बस एक commercial service का disclosed EULA के तहत उपयोग मानते हैं।
Anthropic का रिपोर्ट करने का निर्णय
- एक पक्ष इसे ज़िम्मेदार और कानूनी रूप से आवश्यक मानता है, खासकर उन पिछली आलोचनाओं के बाद जिनमें AI labs पर हिंसक योजनाओं को flag न करने का आरोप था।
- दूसरा पक्ष तर्क देता है कि Anthropic ने सारी chats को auto-screen करके surveillance की समस्या खुद पैदा की; उसके बिना रिपोर्ट करने के लिए कुछ भी नहीं होता।
- कई लोग इसे “damned if you do, damned if you don’t” PR के रूप में देखते हैं:
- या तो “AI ने shooter warnings को अनदेखा किया” या “AI निजी विचारों की चुगली करता है।”
Thought crime, सुरक्षा, और व्यापक प्रभाव
- “Minority Report” जैसी pre-crime व्यवस्था और बिना छान-पड़ताल वाले निजी विचारों के लिए जगह के क्षरण को लेकर गहरी चिंता।
- प्रतिवाद: कुछ लोग ऐसे सिस्टम चाहते हैं जो अस्थिर या हिंसक इरादे को जल्दी पहचानकर shootings या suicides रोक सकें, और AI की तुलना mandatory-reporting duties वाले therapists से करते हैं।
- बार-बार ये माँगें उठती हैं:
- AI UIs में monitoring और संभावित reporting के बारे में और स्पष्ट disclosures।
- “Private mode” या end-to-end–encrypted AI उपयोग के लिए कानूनी सुरक्षा।
- वास्तव में निजी journaling और experimentation के लिए local/open models का अधिक उपयोग।