AI द्वारा 'hallucinated' नकली कानूनी मामले पहली बार कनाडाई B.C. अदालत में दायर
AI-जनित “hallucinated” कानूनी citations का कनाडाई अदालत के filings में सामने आना इस बहस को जन्म देता है कि वकीलों को large language models का उपयोग कैसे करना चाहिए और कैसे नहीं। टिप्पणीकार AI की कम लागत और उत्पादकता लाभों की तुलना उसकी विश्वसनीय दिखने वाली लेकिन झूठी जानकारी गढ़ने की प्रवृत्ति से करते हैं, और तर्क देते हैं कि मानव समीक्षा, बेहतर tooling (जैसे retrieval-augmented systems), और स्पष्ट पेशेवर जवाबदेही आवश्यक हैं। व्यापक रूप से, यह बातचीत AI पर जनता के अत्यधिक भरोसे, लोकतंत्र और पेशेवर मानकों पर उसके प्रभाव, और मानवीय लापरवाही के लिए उसे scapegoat बनाने की प्रवृत्ति से जुड़ी बड़ी चिंताओं को दर्शाती है।
घटना का दायरा
- मुख्य मुद्दा: वकीलों ने अदालत में ऐसे दस्तावेज़ दाखिल किए जिनमें AI द्वारा गढ़े गए कानूनी मामले थे, जो सामान्य-उद्देश्य LLMs के दुरुपयोग को दर्शाता है, न कि मॉडल के किसी चौंकाने वाले व्यवहार को।
- कुछ लोग इसे “पानी गीला है” के बराबर मानते हैं (LLMs डिज़ाइन के अनुसार hallucinate करते हैं); जबकि अन्य ज़ोर देते हैं कि यह खबर योग्य है क्योंकि कानूनी प्रणाली और जनता अभी भी कंप्यूटर आउटपुट को स्वाभाविक रूप से सटीक मानती है।
जिम्मेदारी और दंड
- सख्त मत: नकली संदर्भ प्रस्तुत करना गंभीर कदाचार है; कई टिप्पणीकारों का तर्क है कि ऐसे वकीलों को disbarred किया जाना चाहिए, खासकर जब वे ऐसे मामलों का हवाला दें जिन्हें उन्होंने कभी पढ़ा ही नहीं।
- अधिक नरम मत: शुरुआती उपयोगकर्ता शायद सचमुच यह नहीं समझ पाए थे कि AI मनगढ़ंत बातें बना सकता है; शुरुआती मामलों में जुर्माना उचित था, करियर खत्म करने वाले दंड नहीं, लेकिन अब जब जोखिम व्यापक रूप से ज्ञात है, दंड बढ़ने चाहिए।
- व्यापक चिंता: AI को जिम्मेदारी टालने के नए तरीके के रूप में इस्तेमाल किया जाएगा (“AI ने किया”), “कंप्यूटर ने किया” को दोष देने की लंबे समय से चली आ रही प्रवृत्ति को आगे बढ़ाते हुए।
LLMs का उपयोग कैसे होना चाहिए और कैसे नहीं
- सुझाया गया उपयोग: boilerplate का मसौदा बनाना, paraphrasing, summarizing, सत्यापित स्रोतों से synthesizing; प्राथमिक कानूनी शोध के लिए नहीं।
- कुछ लोग पर्याप्त लागत बचत की रिपोर्ट करते हैं (मानवीय लागत का 10–50%) जैसे customer support क्षेत्रों में, लेकिन लगातार hallucinations और सूक्ष्म त्रुटियों को स्वीकार करते हैं।
- कोडिंग क्षमता पर कड़ा मतभेद: कुछ कहते हैं LLMs भरोसेमंद रूप से पूरे apps नहीं बना सकते; अन्य मानव निगरानी के साथ सरल, काम करने वाले apps की रिपोर्ट करते हैं, लेकिन मानते हैं कि यह जटिल प्रणालियों के लिए उपयुक्त नहीं है और technical debt पैदा करता है।
Hallucination, सत्य, और जाँच
- शब्दावली पर बहस: कई लोग “hallucination” की जगह “confabulation” को पसंद करते हैं।
- प्रस्तावित सुधार: retrieval-augmented generation (RAG), domain-specific fine-tuning, या secondary “checker” agents; अन्य लोग नोट करते हैं कि रचनात्मकता वांछित होने पर hallucination वस्तुतः एक “feature” है।
- आम सहमति: कानून जैसे महत्वपूर्ण क्षेत्रों में, मानव विशेषज्ञों को citations और मूल मामलों की पुष्टि करनी चाहिए।
व्यापक सामाजिक और राजनीतिक चिंताएँ
- LLMs की प्रवाहपूर्ण, गैर-आलोचनात्मक शैली के कारण लोगों द्वारा उन पर अत्यधिक भरोसा करने की व्यापक चिंता, विशेषकर misinformation-प्रवण वातावरण में।
- कुछ लोगों को लगता है कि AI code quality में “race to the bottom” को तेज करेगा और liberal democracy को कमजोर करेगा; अन्य इसे बढ़ा-चढ़ाकर बताया गया प्रलय मानते हैं, और तर्क देते हैं कि समाज इंटरनेट की तरह अनुकूलित हो जाएगा।
- अटकलें AI-चलित सरकारों को utopia से लेकर dystopian परिणामों तक जाती हैं, लेकिन आम सहमति है कि वर्तमान मॉडल उस चरण से बहुत दूर हैं।