एजेंट ऑटोनॉमी को डिज़ाइन और सुपरवाइज़ करने का मतलब है यह तय करना कि सॉफ़्टवेयर कब आपकी तरफ़ से काम कर सकता है, और उसे कहाँ रुककर पूछना चाहिए। यह कोर्स ‘इन्फ़ोकॉम मीडिया डेवलपमेंट अथॉरिटी’ के ‘एजेंटिक AI के लिए मॉडल AI गवर्नेंस फ़्रेमवर्क’ पर आधारित है, जो ज़िम्मेदारी से एजेंटिक AI को लागू करने के तरीके सुझाता है। एक आम गलती एजेंट को बेहतर चैटबॉट समझना है, क्योंकि दोनों ही नैचुरल भाषा में बात करते हैं और दोनों ही भरोसेमंद लग सकते हैं। मुश्किल बात यह है कि एजेंट टूल्स और सिस्टम के ज़रिए दुनिया को बदलता है, जबकि चैटबॉट मुख्य रूप से स्क्रीन पर दिखने वाली चीज़ों को बदलता है। यही फ़र्क ऑटोनॉमी को एक डिज़ाइन फ़ैसला बनाता है, न कि कोई ऐसी सेटिंग जिसे एक बार चुन लिया जाए।
रोज़मर्रा के काम में, एजेंट उन जगहों पर दिखते हैं जो पहले से ही रूटीन वाले लगते हैं, जैसे कस्टमर के जवाब का ड्राफ़्ट तैयार करना, रिपोर्ट बनाना या टिकट अपडेट करना। टीमें अक्सर एजेंट को उन्हीं टूल्स का एक्सेस देकर शुरुआत करती हैं जिनका इस्तेमाल कोई इंसान करता है, फिर उन्हें पता चलता है कि छोटे-छोटे फ़ैसले मिलकर असल नतीजे देते हैं, क्योंकि एजेंट बिना रुके कई कदम उठा सकता है। जो मैप मायने रखता है, वह मॉडल की क्वालिटी नहीं है। यह ऑटोनॉमी का लेवल, एक्शन स्पेस, सीमाएँ, चेकपॉइंट्स, टेस्टिंग, मॉनिटरिंग, यूज़र ट्रांसपेरेंसी और एस्केलेशन है, क्योंकि यही वे चीज़ें हैं जो तय करती हैं कि एजेंट असल में क्या कर सकता है। नीचे दिया गया माइंडमैप उन फ़ैसलों का रूप है, इससे पहले कि हम विस्तार से बात करें।
एजेंट एक ऐसा सॉफ्टवेयर है जो आपके तय किए गए लक्ष्य तक पहुँचने के लिए कई चरणों में योजना बना सकता है और काम कर सकता है। यह अक्सर सर्च, फ़ाइल बनाने या सिस्टम अपडेट जैसे टूल का इस्तेमाल करता है। बातचीत में एक असिस्टेंट एजेंट जैसा लग सकता है, लेकिन इस कोर्स में उसे एजेंट तब तक नहीं माना जाएगा जब तक वह सिर्फ़ टेक्स्ट या सुझाव देने के अलावा कुछ और न कर सके। ऑटोनॉमी (खुद से फ़ैसला लेने की क्षमता) का मतलब है कि लक्ष्य और संदर्भ (context) मिलने के बाद एजेंट कितना कुछ खुद तय करता है। एक्शन स्पेस का मतलब है कि एजेंट कहाँ तक पहुँच सकता है, यानी वह किन टूल, डेटा और सिस्टम का इस्तेमाल कर सकता है। ये दोनों फ़ैसले अलग-अलग हैं, इसीलिए “हमने इसे सिर्फ़ पढ़ने का एक्सेस दिया” और “इसने खुद ऐसा करने का फ़ैसला किया” अलग-अलग बातें हैं।
एजेंट का सुरक्षित रूप से इस्तेमाल करने के लिए आपको पूरे गवर्नेंस प्रोग्राम का मालिक होने की ज़रूरत नहीं है, क्योंकि आपके फ़ैसले ही एजेंट की रोज़मर्रा की सीमाओं को तय करते हैं। इस्तेमाल के समय उठने वाले व्यावहारिक सवालों की ज़िम्मेदारी आपकी होती है, जैसे आप क्या काम सौंप रहे हैं, आप क्या जाँचेंगे, और एजेंट को बिना आपसे पूछे क्या नहीं करने देंगे। एजेंट को कैसे बनाया और टेस्ट किया जाता है, इसकी ज़िम्मेदारी बनाने वालों की होती है, और एक्सेस कंट्रोल, लॉगिंग और घटना के समय प्रतिक्रिया (incident response) की ज़िम्मेदारी सुरक्षा से जुड़े लोगों की होती है। गवर्नेंस से जुड़े लोग संगठन की उम्मीदें तय करते हैं, लेकिन उन्हें फिर भी आपके इनपुट की ज़रूरत होती है क्योंकि वे हर उस वर्कफ़्लो को नहीं देख सकते जहाँ एजेंट का इस्तेमाल होगा। जब भूमिकाएँ स्पष्ट नहीं होतीं, तो जवाबदेही भी स्पष्ट नहीं रहती, इसीलिए यह फ़्रेमवर्क एजेंट के पूरे लाइफ़साइकल में स्पष्ट ज़िम्मेदारी पर ज़ोर देता है।
वह विकल्प चुनें जिस पर आप सबसे पहले काम करेंगे, क्योंकि इससे आपके सोचने के सामान्य तरीके (default mental model) का पता चलता है।