यह कोर्स इस बारे में है कि काम के दौरान AI एजेंट को क्या करने की इजाज़त दी जाए। इसमें ‘एजेंटिक AI के लिए IMDA मॉडल AI गवर्नेंस फ्रेमवर्क’ की सलाहों का इस्तेमाल किया गया है। इस विषय में नए लोगों को एक पक्का फ़ैसला लेने में सक्षम होना चाहिए: क्या एजेंट किसी इंसान से पूछे बिना सिस्टम में डेटा पढ़ सकता है, लिख सकता है या कोई काम (एक्ज़ीक्यूट) कर सकता है? कई टीमें एजेंट परमिशन को सिर्फ़ एक सेटिंग स्क्रीन की तरह मानती हैं जिसे बाद में ठीक किया जा सकता है। मुश्किल बात यह है कि परमिशन के फ़ैसले ही तय करते हैं कि एजेंट क्या कर सकता है—और यह फ़ैसला पहला आउटपुट दिखने से पहले ही हो जाता है। यह गलती चैट टूल वाली आदतें साथ लाने से होती है, जहाँ सिस्टम सिर्फ़ टेक्स्ट का सुझाव देता है, कोई काम नहीं करता।
एजेंट सिर्फ़ रोज़मर्रा के इस्तेमाल में ही नहीं, बल्कि सेटअप और मंज़ूरी (अप्रूवल) के काम में भी शामिल होता है। कोई इसे ईमेल, टिकटिंग या वेंडर पोर्टल जैसे टूल से जोड़ता है। कोई और उन कनेक्शन और उनसे जुड़ी शर्तों को मंज़ूरी देता है। ये कदम सामान्य इंटीग्रेशन के काम जैसे लग सकते हैं, लेकिन फ़ैसला अलग होता है क्योंकि एजेंट काम कर सकता है, और एक बार काम शुरू होने के बाद उसे वापस पलटना मुश्किल हो सकता है। इसीलिए यह कोर्स बार-बार एक आसान फ़र्क पर ज़ोर देता है: चैटबॉट सुझाव देता है और एजेंट काम करता है। यहाँ बताया गया है कि कोर्स में क्या-क्या शामिल है:
AI एजेंट एक ऐसा सॉफ्टवेयर है जो बिना ज़्यादा बातचीत के काम पूरा करने के लिए स्टेप्स की योजना बना सकता है और जुड़े हुए टूल्स का इस्तेमाल कर सकता है। असिस्टेंट आमतौर पर किसी व्यक्ति के कॉपी करने के लिए टेक्स्ट बनाता है, जबकि एजेंट किसी दूसरे सिस्टम में खुद बदलाव कर सकता है। यह अंतर इसलिए ज़रूरी है क्योंकि किया गया काम उस चैट से ज़्यादा समय तक बना रह सकता है जिसने उसे शुरू किया था। आप मैसेज डिलीट कर सकते हैं, लेकिन भेजे गए ईमेल या बंद टिकट को हमेशा वापस नहीं ला सकते।
भले ही किसी काम को पलटा जा सके, लेकिन उसे पलटने में अक्सर समय और भरोसे का नुकसान होता है। कस्टमर के जवाब देने के बाद दोबारा खोला गया टिकट ऐसा लगता है जैसे किसी ने बातचीत का सिलसिला तोड़ दिया हो। अपडेट के बाद ठीक किया गया वेंडर रिकॉर्ड भी किसी के एक्सपोर्ट में गलत वैल्यू छोड़ सकता है। मज़बूत शुरुआत का मतलब है परमिशन को डिज़ाइन की पहली पसंद मानना, न कि आखिरी सुरक्षा उपाय।
परमिशन से जुड़े फ़ैसले वे लोग लेते हैं जो एजेंट को कॉन्फ़िगर और मंज़ूरी देते हैं, न कि वे लोग जो किसी व्यस्त दिन में उसे चलाते हैं। यूज़र यह चुन सकता है कि काम कब शुरू करना है, लेकिन वह उन सभी टूल्स को नहीं देख सकता जिन तक एजेंट की पहुँच हो सकती है। वेंडर डिफ़ॉल्ट सेटिंग्स दे सकता है, लेकिन उसे यह नहीं पता होता कि आपका संगठन किन कामों को मंज़ूरी देगा। IT एक्सेस दे सकता है, लेकिन बिज़नेस से जुड़े फ़ैसले लेने की जगह सिर्फ़ IT नहीं होनी चाहिए।
यह कोर्स जवाबदेही को व्यक्तिगत और नाम के साथ जुड़ी हुई चीज़ मानता है। नाम वाला ह्यूमन ओनर (named human owner) वह खास व्यक्ति होता है जो इस बात के लिए जवाबदेह होता है कि एजेंट को क्या करने की इजाज़त है और उसकी निगरानी कैसे की जाती है। यह ओनरशिप इसलिए खत्म नहीं होती कि एजेंट “इंटरनल” है या सर्विस अकाउंट के तौर पर चलता है। जब एजेंट कोई काम करता है, तो किसी को यह बताने में सक्षम होना चाहिए कि उस काम के दायरे को किसने और किन शर्तों पर मंज़ूरी दी थी।
हम सुरक्षित दिखने वाले सेटअप और असल में सुरक्षित सेटअप के बीच अंतर करने के लिए एक छोटी सी जाँच का इस्तेमाल करेंगे।