यहाँ राक्षस हैं: जब एजेंट काम कर रहे हों, तब आपको अभी भी क्या जानना चाहिए?

व्यापक समझ, “मैप,” और ठीक समय पर गहराई की भूमिका

• कई लोगों का तर्क है कि AI के बाद का मुख्य कौशल व्यापक समझ के साथ आवश्यकता पड़ने पर गहराई में जाने की क्षमता है।
• प्रणालियों के उच्च-स्तरीय “मैप” अक्सर AI से बनाए जा सकते हैं, लेकिन मनुष्यों के पास इतना बुनियादी ज्ञान होना चाहिए कि वे पहचान सकें जब मैप सूक्ष्म रूप से गलत हो।
• असहजता या भ्रम को इस संकेत के रूप में देखा जाता है कि किसी का मानसिक मॉडल पुराना हो चुका है और गहराई से जाँच की ज़रूरत है।

स्वामित्व, विफलता के तरीके, और उत्पाद प्रभाव

• ऐतिहासिक रूप से, अत्यधिक तनावग्रस्त डेवलपर्स का उत्पाद विफलताओं से संबंध रहा है; यह स्पष्ट नहीं है कि एजेंट-चालित प्रणालियाँ समान, पूर्वानुमेय तरीकों से विफल होती हैं या नहीं।
• कुछ लोगों का कहना है कि आधुनिक बग्स में से कई विकास पर वास्तविक असर नहीं डालते (विशेषकर विज्ञापन/ध्यान-आधारित उत्पादों में), जबकि अन्य इस बात पर ज़ोर देते हैं कि वित्त या सुरक्षा-महत्वपूर्ण डोमेन में बहुत छोटी छिपी हुई त्रुटियाँ भी विनाशकारी हो सकती हैं।
• कई लोगों के लिए मुख्य “स्वामित्व” कौशल यह है कि किस जगह अनदेखी विफलताएँ (डेटा भ्रष्टाचार, सुरक्षा छेद) होने की संभावना है, इसकी अंतर्ज्ञान विकसित किया जाए।

विश्वास, एजेंट बनाम मनुष्य, और “स्किन इन द गेम”

• किसी एजेंट का मार्गदर्शन तभी काम करता है जब वह संरेखित हो; गलत संरेखण का पता लगाने के लिए भी व्यापकता और गहराई दोनों चाहिए।
• कुछ लोग एजेंटों को संभालने को एक टीम संभालने के बराबर मानते हैं; अन्य इससे असहमत हैं, और कहते हैं कि AI के पास वास्तविक परिणाम या प्रेरणाएँ नहीं होतीं।
• इस पर मतभेद है कि क्या “स्किन इन द गेम” की कमी एक मौलिक सीमा है या प्रक्रिया और टूलिंग से कम की जा सकती है।

एजेंटों के साथ तकनीकी प्रथाएँ

• इस बात पर मजबूत सहमति है कि मनुष्यों को अब भी नियंत्रण रखना चाहिए:
  • डेटा स्कीमा और स्थायी फॉर्मैट।
  • पब्लिक APIs, वायर प्रोटोकॉल, और अन्य “बदलने में कठिन” सीमाएँ।
• एजेंटों को नॉर्मलाइज़ेशन, नामकरण, और ऑब्जेक्ट डिज़ाइन में कमज़ोर माना जाता है; कई लोग इन्हें समीक्षा करते हैं या हाथ से करते हैं।
• भारी टेस्ट हार्नेस, ब्लैक-बॉक्स परीक्षण, और स्पष्ट जटिलता विश्लेषण सामान्य रणनीतियाँ हैं।
• प्रूफ सिस्टम्स को एजेंट-लिखित कोड को गारंटी के साथ बड़े पैमाने पर उपयोगी बनाने के एक गायब लेकिन शक्तिशाली तरीके के रूप में उठाया गया है।

करियर, प्रशिक्षण, और मानवीय एजेंसी

• चिंता है कि जूनियर्स को वह गहरी प्रैक्टिस नहीं मिलेगी जिसकी उन्हें बाद में “बॉक्स के अंदर” डिबग करने के लिए ज़रूरत होगी।
• कुछ लोगों को लगता है कि गहरी अनुभवी ट्रबलशूटरों का एक छोटा समूह बहुत मूल्यवान हो जाएगा।
• इस पर बहस है कि क्या मनुष्यों को अद्वितीय, अपूरणीय कौशल चाहिए; एक विचार यह है कि मानवीय एजेंसी को सुरक्षित रखना नैतिक/संस्थागत चुनाव है, न कि तकनीकी अनिवार्यता।
• ऐसे उत्पादों को लेकर नैतिक चिंताएँ सामने आती हैं जो जानबूझकर संज्ञानात्मक कमजोरियों का शोषण करते हैं; अन्य कहते हैं कि विनियमन के बिना ऐसी रणनीतियाँ व्यावसायिक रूप से अपरिहार्य हैं।