Anthropic का प्रस्तावित AI सुरक्षा विधेयक केवल तभी लागू होगा जब 50 मौतें हों या $1B की क्षति हो

मूल लेख ↗ Hacker News चर्चा ↗

Anthropic के प्रस्तावित अमेरिकी AI सुरक्षा विधेयक में कड़ी निगरानी तभी शुरू होगी जब किसी मॉडल को कम-से-कम 50 मौतों या $1 बिलियन के नुकसान का कारण बनने में सक्षम माना जाए। इससे आलोचना हुई है कि यह प्रभावी रूप से मानव जीवन की कीमत लगभग $20 मिलियन आँकता है और छोटे पैमाने के नुकसान को अनदेखा करता है। टिप्पणीकारों का कहना है कि AI-सहायता प्राप्त साइबर हमलों के लिए ये सीमाएँ आसानी से पार हो सकती हैं, लेकिन व्यक्तियों, उपभोक्ताओं और छोटे व्यवसायों की रक्षा के लिए फिर भी बहुत ऊँची हैं; और यह ढाँचा बड़े “frontier” लैब्स को संरक्षण देता हुआ तथा open-source मॉडल्स को सीमित करता हुआ दिखता है। अन्य लोग कहते हैं कि रिलीज़ से पहले जोखिम ऑडिट का कोई न कोई रूप आवश्यक है, लेकिन चिंता यह है कि यह दृष्टिकोण नियामकीय कब्ज़े को बढ़ावा देगा और AI तैनाती पर नियंत्रण कुछ ही पूँजी-समृद्ध कंपनियों और सरकारी एजेंसियों में केंद्रित कर देगा.

सीमाएँ: 50 मौतें / $1B क्षति

  • कई लोगों को ये सीमाएँ मनमानी और नैतिक रूप से परेशान करने वाली लगती हैं, क्योंकि इससे यह संकेत मिलता है कि 49 तक मौतें या $1B से कम नुकसान “स्वीकार्य” है।
  • कुछ का तर्क है कि $1B वास्तव में कम सीमा है, खासकर AI-सहायता प्राप्त साइबर हमलों या बड़ी कंपनियों के लिए; जबकि अन्य कहते हैं कि यह इतनी ऊँची है कि छोटे संस्थानों को हुए नुकसान इसमें शामिल ही नहीं होंगे।
  • यह सवाल भी उठता है कि क्या यह प्रति घटना लागू होगा या संचयी रूप से, और किस समयावधि में; प्रस्ताव की कार्यप्रणाली को अस्पष्ट या “अर्थहीन” बताया गया है।

मानव जीवन का निहित मूल्य

  • पोस्ट करने वाले नोट करते हैं कि विधेयक परोक्ष रूप से एक जीवन की कीमत लगभग ~$20M मानता है।
  • कुछ लोग इसकी तुलना वास्तविक दुनिया के कानूनी मुआवज़े से करते हैं और कहते हैं कि यह असामान्य रूप से ऊँचा नहीं है; जबकि अन्य “50 जीवन” की “न्यूनतम मात्रा” के विचार का मज़ाक उड़ाते हैं।

नियामकीय कब्ज़ा और ओपन मॉडल्स पर प्रभाव

  • इस बात को लेकर गहरी चिंता है कि यह विधेयक मुख्यतः बड़े लैब्स और गेटेड APIs को मज़बूत करेगा, क्योंकि:
    • समीक्षा और बीमा अनिवार्य करेगा, जिसे सिर्फ बड़े खिलाड़ी ही वहन कर सकते हैं।
    • “Certified Safe AI” को छोटे/ओपन प्रोजेक्ट्स के लिए व्यावहारिक रूप से अप्राप्य बना देगा।
  • कई लोगों का कहना है कि यह “सुरक्षा” के नाम पर ओपन-वेट मॉडल्स को दबाने की एक जानबूझकर की गई कोशिश है।
  • अन्य लोग जवाब देते हैं कि विधेयक कम-से-कम “frontier labs” को लक्षित कर रहा है, छोटे खिलाड़ियों को नहीं; हालांकि विरोधी इसे प्रभावी रूप से शक्तिशाली ओपन मॉडल्स पर प्रतिबंध के रूप में पढ़ते हैं।

देयता, कानून, और प्रवर्तन

  • इस पर बहस है कि क्या नए कानूनों की ज़रूरत है या मौजूदा tort, criminal, और RICO ढाँचों को लागू किया जाना चाहिए।
  • कुछ का कहना है कि कंपनियों को किसी भी सॉफ़्टवेयर विक्रेता की तरह उत्तरदायी ठहराया जाना चाहिए, खासकर जब वे ऐसे सिस्टम तैनात करें जिनके खतरनाक होने की जानकारी पहले से हो।
  • Mens Rea पर व्यापक चर्चा है: negligence बनाम intent, बार-बार जोखिम भरा व्यवहार, और क्या executives या विशिष्ट engineers पर आरोप लगने चाहिए।

अन्य तकनीकों से तुलना

  • कारों, विमानों, बंदूकों, एन्क्रिप्शन, और हैकिंग टूल्स के साथ उपमाएँ दी गईं:
    • एक दृष्टिकोण: दुरुपयोग और दोषपूर्ण डिज़ाइन को नियंत्रित करें, क्षमताओं को अपने-आप में नहीं।
    • दूसरा: अगर AI को बंदूकों से भी अधिक खतरनाक माना जाता है, तो महत्वपूर्ण पूर्व-प्रवर्तन (ex ante) विनियमन अवश्यंभावी है।

प्रभावशीलता और “genie out of the bottle”

  • संदेहवादियों का तर्क है कि शक्तिशाली ओपन मॉडल्स और विदेशी लैब्स के कारण कड़े नियंत्रण असंभव हैं; अधिकतम यह विधेयक कुछ महीनों की देरी ही खरीद पाएगा।
  • अन्य लोग frontier deployment की किसी भी धीमी गति को फिर भी मूल्यवान समय मानते हैं, ताकि आगे अतिरिक्त सुरक्षा उपाय विकसित किए जा सकें।