एजेंट तब एक खास तरह से जोखिम भरा हो जाता है, जब उसका कोई काम चैट विंडो के बाहर कुछ बदल देता है। अगर कोई चैटबॉट गलत समरी देता है, तो आप उसे नज़रअंदाज़ कर सकते हैं, लेकिन अगर कोई एजेंट ईमेल भेजता है, कोई केस बंद करता है, एक्सेस मंज़ूर करता है, या किसी पब्लिक चैनल पर पोस्ट करता है, तो किसी के रिव्यू करने से पहले ही इसके असर फैल सकते हैं। सबसे सुरक्षित आदत यह है कि इसे चलाने से पहले दो सवाल पूछें: यह किन सिस्टम तक पहुँच सकता है, और इसके किन कामों को आप तेज़ी से बदल सकते हैं?
आपकी भूमिका यह है कि एजेंट का इस्तेमाल उसी तरह करें जैसा करने के लिए उसे बनाया गया था, और जब किसी कदम के लिए इंसानी फ़ैसले की ज़रूरत हो, तो रुक जाएँ। टूल के मालिक और मैनेजर एक्सेस तय करते हैं, यह तय करते हैं कि कौन से काम करने की इजाज़त है, और चुनते हैं कि क्या लॉग किया जाएगा, जबकि वेंडर प्रोडक्ट और उसकी सीमाएँ तय करते हैं। यह बँटवारा तब भी लागू होता है जब काम आउटसोर्स किया जाता है, क्योंकि आउटसोर्स की गई सपोर्ट टीमें अक्सर ज़्यादा एक्सेस के साथ काम करती हैं, इसलिए उन्हें भी कर्मचारियों की तरह ही साफ़ सीमाएँ, एस्केलेशन पाथ और तय जवाबदेही की ज़रूरत होती है।
सुरक्षित इस्तेमाल काफ़ी हद तक तेज़ी से लिए गए छोटे फ़ैसलों पर निर्भर करता है, खासकर तब जब एजेंट अगले कदम को ऑटोमैटिक बना देता है। यह जाँच सही स्कोर पाने के बारे में नहीं है। यह इस बात पर ध्यान देने के बारे में है कि आप किन स्थितियों को चैटबॉट चैट की तरह समझते हैं, जबकि असल में वे वर्क सिस्टम में कोई कार्रवाई करने का अनुरोध होती हैं।
यह कोर्स रोज़मर्रा के काम में वर्कप्लेस AI एजेंट का सुरक्षित रूप से इस्तेमाल करने के बारे में है, जिसमें एजेंटिक AI के लिए IMDA मॉडल AI गवर्नेंस फ्रेमवर्क को आधार बनाया गया है। यह स्टाफ़, कॉन्ट्रैक्टर और आउटसोर्स की गई टीमों को बेहतर फ़ैसले लेने में मदद करता है कि एजेंट को क्या करने दें, क्या न करने दें और कब किसी इंसान को शामिल करें। आम गलती यह होती है कि एजेंट को एक ज़्यादा स्मार्ट चैटबॉट समझा जाता है, क्योंकि दोनों ही टेक्स्ट में बात करते हैं और दोनों ही भरोसेमंद लग सकते हैं। यह सोच असली फ़र्क को छिपा देती है। काम तो अच्छे अनुरोध लिखने जैसा लगता है, लेकिन नतीजा इस बात से तय होता है कि जवाब देने के बाद एजेंट को क्या करने की इजाज़त दी गई है।
AI एजेंट एक ऐसा सॉफ़्टवेयर है जो आपकी ओर से काम कर सकता है, जैसे टिकट बनाना, रिकॉर्ड अपडेट करना, मैसेज भेजना या वर्कफ़्लो चलाना; इसके लिए वह उस एक्सेस का इस्तेमाल करता है जो उसे दिया गया है। चैटबॉट असिस्टेंट जवाब देता है और सुझाव देता है, जबकि एजेंट काम भी कर सकता है। सुरक्षित इस्तेमाल आम रूटीन से शुरू होता है, जैसे ईमेल का ड्राफ़्ट मांगना, रिपोर्ट का सारांश पाना, या एजेंट को अनुरोध खोलने और रूट करने देना, क्योंकि इन्हीं पलों में छोटी-छोटी इजाज़तें चुपचाप सिस्टम में असल बदलाव बन जाती हैं। मुश्किल हिस्सा एक खराब जवाब को पहचानना नहीं है। मुश्किल हिस्सा यह देखना है कि कब कोई काम सलाह से आगे बढ़कर असल कार्रवाई बन गया है, ताकि किसी ऐसी चीज़ के होने से पहले ही निगरानी हो सके जिसे बाद में बदलना मुश्किल हो।
सुरक्षित इस्तेमाल का मतलब है एजेंट को एक ऐसे सहकर्मी की तरह मानना जिसके पास बैज हो, न कि सर्च बॉक्स की तरह, क्योंकि बैज ही यह कंट्रोल करता है कि वह किन चीज़ों को छू सकता है। जब आप बैज के बारे में जानते हैं, तो आप सही स्तर की जाँच चुन सकते हैं, तय कर सकते हैं कि किस चीज़ के लिए मंज़ूरी चाहिए, और निजी डेटा को उन जगहों से दूर रख सकते हैं जहाँ उसकी ज़रूरत नहीं है। IMDA फ्रेमवर्क रोज़मर्रा के कामकाज में एजेंट क्या कर सकते हैं, इस बारे में साफ़ इंसानी जवाबदेही और व्यावहारिक कंट्रोल की सलाह देता है, इसीलिए यह कोर्स उन फ़ैसलों पर फ़ोकस करता है जो आप उनके इस्तेमाल के समय लेते हैं। यहाँ उस काम का स्वरूप बताया गया है जिसे यह कोर्स आपके अपने दिन में पहचानने में मदद करेगा: