काम की जगह पर AI एजेंट की निगरानी का मतलब है कि जब कोई सॉफ्टवेयर किसी की तरफ़ से काम करता है, तो इंसानी जवाबदेही बनी रहे। यह कोर्स Infocomm Media Development Authority (IMDA) के ‘एजेंटिक AI के लिए मॉडल AI गवर्नेंस फ्रेमवर्क’ पर आधारित है, जो ज़िम्मेदारी सौंपने और निगरानी को असल बनाए रखने के व्यावहारिक तरीके सुझाता है। इसमें जिस फ़ैसले की बात की गई है, उसे बताना तो आसान है, लेकिन उसे लगातार लागू करना मुश्किल है। आपको यह तय करना होता है कि एजेंट कब आगे बढ़ सकता है, कब उसे जाँच के लिए रुकना चाहिए, और कब उसे किसी तय मालिक को सौंप देना चाहिए। यह काम रोज़मर्रा के पलों में दिखता है, जैसे वर्कफ़्लो में बदलाव को मंज़ूरी देना, कस्टमर ईमेल में एजेंट के आउटपुट पर भरोसा करना, या उसे शेयर्ड रिकॉर्ड अपडेट करने देना। मुश्किल हिस्सा सिर्फ़ टूल को समझना नहीं है। मुश्किल यह है कि जब एजेंट के कामों का असर दूसरे लोगों और सिस्टम पर पड़ता है, तो यह ध्यान रखना कि इसके लिए कौन ज़िम्मेदार है।
IMDA के नज़रिए से, एजेंट पहले के वर्कप्लेस AI से अलग होते हैं क्योंकि वे काम कर सकते हैं, नई जानकारी के हिसाब से खुद को ढाल सकते हैं, और इंसानों के लिए काम पूरा करने के लिए सिस्टम के साथ इंटरैक्ट कर सकते हैं। इसी बदलाव की वजह से निगरानी सिर्फ़ एक बार की समीक्षा नहीं रह जाती, बल्कि काम करने का एक लगातार तरीका बन जाती है, भले ही एजेंट उपयोगी हो और उसकी नीयत अच्छी हो। IMDA यह भी बताता है कि संतुलन की ज़रूरत है क्योंकि बड़े पैमाने पर हर वर्कफ़्लो की लगातार इंसानी निगरानी अव्यावहारिक हो जाती है। इसलिए शुरुआती बिंदु हर चीज़ पर नज़र रखना नहीं है। यह तय करना है कि कौन से काम सबसे ज़्यादा ज़रूरी हैं, चेकपॉइंट कहाँ होने चाहिए, और जब कुछ गड़बड़ लगे तो कौन दखल दे सकता है। फ़ैसलों का यही खाका कोर्स के बाकी हिस्सों में एक-एक करके समझाया गया है। आइए, गहराई में जाने से पहले उन फ़ैसलों का स्वरूप समझते हैं।
AI एजेंट एक ऐसा सॉफ्टवेयर है जो आपके तय किए गए लक्ष्य तक पहुँचने के लिए कई चरणों में योजना बना सकता है और काम कर सकता है, जैसे जानकारी खोजना, फ़ाइलें बनाना या सिस्टम को अपडेट करना। जिस चैट टूल को आप पहले से जानते हैं, वह मुख्य रूप से आपके इस्तेमाल के लिए टेक्स्ट का सुझाव देता है। एजेंट उससे आगे बढ़कर काम करता है क्योंकि यह काम के माहौल में चीज़ें कर सकता है, न कि सिर्फ़ सुझाव दे सकता है। यह अंतर तब भी मायने रखता है जब इंटरफ़ेस एक जैसा दिखता हो, क्योंकि एजेंट का असर बातचीत खत्म होने के बाद भी बना रह सकता है।
सबसे पहला सवाल यह नहीं है कि एजेंट कितना स्मार्ट है। बल्कि यह है कि उसे मिली अनुमतियों (परमिशन) से वह किन चीज़ों तक पहुँच सकता है और उनमें क्या बदलाव कर सकता है। अगर कोई एजेंट कैलेंडर पढ़ सकता है, ईमेल का ड्राफ़्ट बना सकता है और फिर उसे भेज सकता है, तो ये तीन अलग-अलग काम हैं जिनके तीन अलग-अलग नतीजे होते हैं। निगरानी की शुरुआत इन अनुमतियों को फ़ैसलों के तौर पर देखने से होती है, न कि टूल के साथ आने वाली डिफ़ॉल्ट सेटिंग के तौर पर।
अगर आप किसी एजेंट की निगरानी करते हैं या ज़िम्मेदार मैनेजर हैं, तो आपका काम यह पक्का करना है कि जब काम सॉफ्टवेयर को सौंपा जाए, तो ज़िम्मेदारी किसी व्यक्ति के पास ही रहे। IMDA का फ़्रेमवर्क साफ़ तौर पर कहता है कि भरोसेमंद इस्तेमाल सिर्फ़ डेवलपर्स पर निर्भर नहीं करता, क्योंकि एंड-यूज़र्स को भी एजेंट का इस्तेमाल ज़िम्मेदारी से करना चाहिए। इसका मतलब है कि आपको पता होना चाहिए कि एजेंट को क्या करना है, क्या नहीं करना है, और जब वह उस दायरे से बाहर जाकर काम करे तो क्या करना है। इन जवाबों को जानने के लिए आपको एजेंट बनाने वाला व्यक्ति होने की ज़रूरत नहीं है।
बनाने वालों, वेंडर्स और IT की अभी भी ज़रूरी ज़िम्मेदारियाँ हैं, खासकर एजेंट को डिज़ाइन करने, टेस्ट करने, मॉनिटर करने और टूल से जोड़ने के मामले में। आपकी भूमिका अलग है। आप अपनी प्रक्रिया में स्वीकार्य इस्तेमाल तय करते हैं, आप जाँचते हैं कि जिस निगरानी पर आप भरोसा करते हैं वह असल में हो रही है या नहीं, और जब कोई साफ़ तौर पर ज़िम्मेदार व्यक्ति न हो तो आप मामले को आगे बढ़ाते हैं। जब कोई टीम यह नहीं बता पाती कि वर्कफ़्लो में एजेंट के लिए कौन ज़िम्मेदार है, तो यह कागज़ी कार्रवाई की कमी नहीं है। यह कंट्रोल की कमी है।