یہ کورس اس بات کا تعین کرنے کے بارے میں ہے کہ کام کے دوران AI ایجنٹ کو کن اقدامات کی اجازت ہونی چاہیے۔ اس میں ‘ایجنٹک AI’ (Agentic AI) کے لیے IMDA کے ‘ماڈل AI گورننس فریم ورک’ کی سفارشات کو استعمال کیا گیا ہے۔ اس موضوع سے ناواقف قاری کو اس کورس کے اختتام پر کم از کم ایک ٹھوس فیصلہ کرنے کے قابل ہونا چاہیے: آیا کوئی ایجنٹ کسی انسانی منظوری کے بغیر سسٹم میں ڈیٹا پڑھنے، لکھنے یا کوئی عمل (execute) کرنے کا مجاز ہے یا نہیں۔ بہت سی ٹیمیں ایجنٹ کی اجازتوں کو محض ایک ‘سیٹنگز اسکرین’ سمجھتی ہیں جسے بعد میں درست یا منظم کیا جا سکتا ہے۔ مشکل پہلو یہ ہے کہ اجازتوں کے بارے میں کیے گئے فیصلے ہی یہ طے کر دیتے ہیں کہ ایجنٹ کیا کر سکتا ہے—اور یہ فیصلہ اس وقت ہو جاتا ہے جب ابھی کسی نے اس کا پہلا ‘آؤٹ پٹ’ (نتیجہ) بھی نہیں دیکھا ہوتا۔ یہ غلط فہمی اکثر چیٹ ٹولز کی عادات کو یہاں منتقل کرنے کی وجہ سے پیدا ہوتی ہے، جہاں سسٹم صرف متن (text) کی تجویز دیتا ہے لیکن خود کوئی عملی اقدام نہیں کرتا۔
ایجنٹ کا کردار صرف روزمرہ کے استعمال تک محدود نہیں ہوتا بلکہ اس کی شمولیت سیٹ اپ اور منظوری کے مراحل میں بھی ہوتی ہے۔ کوئی شخص اسے ای میل، ٹکٹنگ، یا وینڈر پورٹل جیسے ٹولز سے منسلک کرتا ہے، اور کوئی دوسرا ان روابط اور ان سے وابستہ شرائط کی منظوری دیتا ہے۔ بظاہر یہ اقدامات عام ‘انٹیگریشن’ (سسٹمز کو آپس میں جوڑنے) کے کام جیسے لگ سکتے ہیں، لیکن فیصلہ سازی کا عمل مختلف ہوتا ہے کیونکہ ایجنٹ عملی اقدامات کر سکتا ہے—اور ایک بار جب وہ اقدامات نافذ ہو جائیں تو انہیں واپس لینا یا منسوخ کرنا مشکل ہو سکتا ہے۔ اسی لیے یہ کورس بار بار ایک سادہ سے فرق پر زور دیتا ہے: چیٹ بوٹ صرف تجویز دیتا ہے، جبکہ ایجنٹ عملی اقدام کرتا ہے۔ کورس میں شامل اہم نکات کی تفصیل کچھ یوں ہے:
AI ایجنٹ ایک ایسا سافٹ ویئر ہے جو مراحل کی منصوبہ بندی کر سکتا ہے اور کم سے کم باہمی رابطے (back-and-forth) کے ساتھ کام مکمل کرنے کے لیے منسلک ٹولز کا استعمال کر سکتا ہے۔ ایک اسسٹنٹ (معاون) عام طور پر ایسا متن تیار کرتا ہے جسے کوئی شخص کاپی کر سکے، جبکہ ایجنٹ کسی دوسرے سسٹم میں خود تبدیلی لا سکتا ہے۔ یہ فرق اس لیے اہم ہے کیونکہ انجام دیا گیا عمل اس چیٹ (بات چیت) کے ختم ہونے کے بعد بھی برقرار رہ سکتا ہے جس نے اسے شروع کیا تھا۔ آپ پیغام تو حذف کر سکتے ہیں، لیکن بھیجی گئی ای میل یا بند کی گئی ٹکٹ کو ہمیشہ واپس (undo) نہیں کر سکتے۔
یہاں تک کہ جب کسی عمل کو واپس پلٹنا ممکن ہو، تب بھی اس عمل کو پلٹنے میں اکثر وقت اور اعتماد کا نقصان ہوتا ہے۔ گاہک کے جواب کے بعد دوبارہ کھولی جانے والی ٹکٹ اب بھی ایسی لگتی ہے جیسے کسی نے بات چیت کا تسلسل توڑ دیا ہو۔ اپ ڈیٹ کے بعد درست کیا گیا وینڈر ریکارڈ بھی کسی کی ایکسپورٹ (ڈیٹا فائل) میں غلط ویلیو چھوڑ سکتا ہے۔ مضبوط بنیاد کے ساتھ شروعات کرنے کا مطلب ہے کہ اجازتوں (permissions) کو ڈیزائن کے پہلے انتخاب کے طور پر دیکھا جائے، نہ کہ آخری حفاظتی اقدام کے طور پر۔
اجازتوں سے متعلق فیصلے ان لوگوں کے ہوتے ہیں جو ایجنٹ کو ترتیب (configure) اور منظور کرتے ہیں، نہ کہ اس شخص کے جو مصروف دن میں اسے چلاتا ہے۔ صارف یہ تو منتخب کر سکتا ہے کہ کام کب شروع کرنا ہے، لیکن وہ ان تمام ٹولز کو نہیں دیکھ سکتا جن تک ایجنٹ کی رسائی ہو سکتی ہے۔ وینڈر ڈیفالٹ ترتیبات فراہم کر سکتا ہے، لیکن وہ یہ نہیں جانتے کہ آپ کی تنظیم کن اقدامات کو قبول کرے گی۔ IT رسائی فراہم کر سکتا ہے، لیکن IT ہی وہ واحد جگہ نہیں ہونی چاہیے جہاں کاروباری فیصلہ کیا جائے۔
یہ کورس جوابدہی کو ذاتی اور نامزد (named) حیثیت دیتا ہے۔ نامزد انسانی مالک (named human owner) ایک مخصوص شخص ہوتا ہے جو اس بات کا جوابدہ ہوتا ہے کہ ایجنٹ کو کیا کرنے کی اجازت ہے اور اس کی نگرانی کیسے کی جاتی ہے۔ یہ ملکیت اس لیے ختم نہیں ہو جاتی کہ ایجنٹ “اندرونی” (internal) ہے یا یہ سروس اکاؤنٹ کے طور پر چلتا ہے۔ جب ایجنٹ کوئی عمل کرتا ہے، تو کسی کو یہ بتانے کے قابل ہونا چاہیے کہ اس عمل کے دائرہ کار (action space) کی منظوری کس نے اور کن شرائط کے تحت دی تھی۔
ہم ایک مختصر جانچ کا استعمال کریں گے تاکہ بظاہر محفوظ نظر آنے والے سیٹ اپس اور حقیقی معنوں میں محفوظ سیٹ اپس کے درمیان فرق کیا جا سکے۔