ब्राज़ीलियाई अदालत ने अदालती दायरियों में प्रॉम्प्ट इंजेक्शन के लिए वकीलों पर प्रतिबंध लगाया

“प्रॉम्प्ट इंजेक्शन” कदाचार की प्रकृति

• वकीलों ने छिपा हुआ सफ़ेद-पर-सफ़ेद पाठ डाला, जिसमें अदालत की AI को सतही तौर पर जवाब देने और दस्तावेज़ों को चुनौती न देने का निर्देश था।
• कई टिप्पणीकार इसे स्पष्ट रूप से धोखाधड़ीपूर्ण और हैकिंग, अदालत की अवसंरचना से छेड़छाड़, या किसी क्लर्क को रिश्वत देने/हेरफेर करने की कोशिश के समान मानते हैं।
• यह छिपाव मंशा (“गिल्टी माइंड”) का मज़बूत प्रमाण माना जा रहा है, न कि कोई निर्दोष या रचनात्मक तर्क।
• कुछ लोग मानते हैं कि जुर्माना बहुत हल्का है और निष्कासन या यहाँ तक कि आपराधिक आरोपों की दलील देते हैं; अन्य लोग नोट करते हैं कि बार व्यवहार में शायद ही कभी कठोर प्रतिबंध लगाते हैं।

वैधता, दंड, और पूर्वनज़ीर

• कई लोग एक ब्राज़ीलियाई नियम (अनुच्छेद 77) का हवाला देते हैं जो ऐसी कार्रवाइयों को रोकता है जो कार्यवाही में बाधा डालती हैं या न्यायिक गतिविधि को कठिन बनाती हैं; इसे पर्याप्त कानूनी आधार माना जा रहा है।
• इस पर बहस कि क्या ब्राज़ीलियाई अदालतें “पूर्वनज़ीर का उपयोग नहीं करतीं” या यह दावा कि व्यवहार में वे वास्तव में पूर्वनज़ीर-भारी हैं।
• कुछ लोग यह रेखांकित करते हैं कि कई प्रणालियों में वकील “अदालत के अधिकारी” होते हैं, जिन पर मुवक्किल के हित से ऊपर न्याय की अखंडता बनाए रखने का दायित्व होता है; सिविल-लॉ क्षेत्रों में इसी तरह के, लेकिन अलग-अलग मानक मौजूद हैं।
• प्रश्न उठाया गया: क्या स्वयं-प्रतिनिधित्व करने वाले वादकारी के साथ अधिक नरमी बरती जाएगी? अधिकांश लोग “चालाक” तरकीबों के लिए कम सहनशीलता की अपेक्षा करते हैं, भले ही प्रक्रियागत गलतियों में कुछ छूट दी जाए।

अदालतों में AI का उपयोग

• कई लोग गहरी समस्या के रूप में अदालतों का दायरियों की समीक्षा के लिए AI पर निर्भर होना देखते हैं, क्योंकि मॉडल में पक्षपात, हेरफेर-योग्यता, और स्वतंत्रता से जुड़े दांव बहुत बड़े हैं।
• अन्य लोग तर्क देते हैं कि अत्यधिक बोझिल अदालतों के कारण AI-सहायित छँटाई अनिवार्य और संभावित रूप से लाभकारी है, बशर्ते मनुष्य जिम्मेदार रहें।
• कुछ लोग कानूनी कार्यवाहियों में AI पर पूर्ण प्रतिबंध की माँग करते हैं ताकि प्रतिवादियों की रक्षा हो और न्यायाधीश/वकील अपनी खुद की समझ का उपयोग करें।
• कुछ का सुझाव है कि यदि न्यायाधीश विश्लेषण को AI को सौंपते हैं, तो वकील स्वाभाविक रूप से उस AI को प्रभावित करने की कोशिश करेंगे; लेकिन अन्य कहते हैं कि प्रभाव उचित कानूनी पैरवी के दायरे में रहना चाहिए, छिपे निर्देशों में नहीं।

क्या “कानूनी प्रणाली को हैक करना” कभी स्वीकार्य है?

• एक अल्पसंख्यक मत: अदालत की AI को “हैक” करने की कोशिश पर दंड नहीं होना चाहिए; इसके बजाय, अदालतों को अपनी प्रणालियों को सुरक्षित करना चाहिए।
• बहुमत की प्रतिक्रिया: कोशिश किए गए हैक्स को दंडित करना स्वयं प्रणालियों को सुरक्षित करने का हिस्सा है; “कानूनी प्रणाली को हैक करने की कोशिश” स्वभावतः अनुचित है।
• अदालत सॉफ़्टवेयर में SQL injection या buffer overflow exploits से तुलना की गई: इन्हें स्पष्ट रूप से दंडनीय माना गया।

तकनीकी निवारण

• सुझाव: दायरियों को छवियों के रूप में प्रस्तुत करें और OCR / vision models चलाकर छिपे हुए मेटाडेटा और अदृश्य पाठ को हटाएँ, साथ ही यह नोट करते हुए कि यह पूर्ण रक्षा नहीं है।
• कुछ लोगों को संदेह है कि यह हमला सचमुच काम भी किया था या नहीं, उनका कहना है कि आधुनिक LLMs साधारण injections के प्रति कम संवेदनशील होते हैं, हालांकि थ्रेड में इसकी पुष्टि नहीं हुई है।