یہ کورس ایسے AI ایجنٹس کے بارے میں ہے جو آپ کے کام کی جگہ پر مختلف اقدامات کر سکتے ہیں۔ اس میں تجویز کردہ طریقہ کار کے لیے ‘ایجنٹک AI کے لیے IMDA ماڈل AI گورننس فریم ورک’ کو بطور حوالہ استعمال کیا گیا ہے۔ یہ کورس ان سپروائزرز اور ذمہ دار مینیجرز کے لیے تیار کیا گیا ہے جنہیں یہ طے کرنا ہوتا ہے کہ ایجنٹ کو کیا کرنے کی اجازت ہے، اس کی نگرانی کیسے کی جائے گی، اور کب کسی انسان کو مداخلت کرنی چاہیے۔ ایک عام غلطی ایجنٹ کو محض ایک ‘چیٹ اسسٹنٹ’ سمجھنا اور صرف اس کی باتوں پر توجہ دینا ہے، حالانکہ اصل تبدیلی اس کام میں ہے جو وہ اپنی رسائی میں موجود ٹولز (آلات) کی مدد سے کر سکتا ہے۔ یہ فرق روزمرہ کے کاموں میں معمولی صورتوں میں ظاہر ہوتا ہے، جیسے ایجنٹ کا کوئی ٹکٹ بند کرنا، ای میل بھیجنا، یا ریکارڈ اپ ڈیٹ کرنا؛ اور اس سے ہونے والا نقصان اکثر کسی بڑے واقعے سے پہلے عملی نوعیت کا ہوتا ہے۔ مشکل کام AI کی اصطلاحات کو سمجھنا نہیں ہے، بلکہ ایسی حدود کا تعین کرنا ہے جو اس وقت بھی برقرار رہیں جب ایجنٹ مصروف ہو اور لوگ جلد بازی میں ہوں۔
عام طور پر کسی سسٹم کے نفاذ (rollout) کے دوران، ٹیم چند انٹیگریشنز (integrations) کو فعال کرتی ہے، ایجنٹ کو ایک ہدف دیتی ہے، اور ایک ایسا نوٹ شامل کرتی ہے جس کا جائزہ کوئی انسان لے سکے۔ بظاہر یہ سب کنٹرول میں لگتا ہے، لیکن اصل کنٹرول کا انحصار اس بات پر ہے کہ آیا جائزہ حقیقی ہے، آیا کوئی شخص اس عمل کو روک سکتا ہے، اور آیا اس عمل کو واپس (undo) کیا جا سکتا ہے۔ یہ کورس انہی فیصلوں پر مرکوز رہتا ہے، کیونکہ یہ وہ فیصلے ہیں جو ایک مینیجر کوڈ لکھے یا قانون پڑھے بغیر خود کر سکتا ہے۔ نیچے دیا گیا نقشہ ان مختلف حصوں کو تفصیل سے جاننے سے پہلے پورے نظام کی مجموعی شکل پیش کرتا ہے۔
AI ایجنٹ ایک ایسا سافٹ ویئر ہے جو اقدامات کا فیصلہ کر سکتا ہے اور پھر آپ کے فراہم کردہ ٹولز (جیسے ٹکٹنگ سسٹم، ای میل، کیلنڈر، یا اندرونی ڈیٹا بیس) کا استعمال کرتے ہوئے عملی کارروائی کر سکتا ہے۔ اس کے برعکس، چیٹ اسسٹنٹ ایک ایسا سافٹ ویئر ہے جو صرف متن (text) تیار کرتا ہے جسے کوئی شخص پڑھ اور استعمال کر سکے، چاہے وہ متن کتنا ہی بہترین کیوں نہ ہو۔ یہ فرق اس لیے اہم ہے کیونکہ عملی کارروائی چیٹ کے دائرہ کار سے باہر بھی اثرات مرتب کرتی ہے؛ اس کا مطلب ہے کہ آپ کو صرف درستگی ہی نہیں، بلکہ اجازتوں (permissions)، منظوری، اور ‘رول بیک’ (یعنی کیے گئے کام کو واپس پلٹنے کے عمل) کا بھی انتظام کرنا ہوگا۔ جب کوئی کہتا ہے کہ ایجنٹ محفوظ ہے کیونکہ وہ اپنی استدلال (reasoning) کی وضاحت کرتا ہے، تو یہ دراصل اس کے کیے گئے کام کی محض ایک ظاہری کہانی ہوتی ہے، نہ کہ اس بات کی جانچ کہ اس نے حقیقت میں کیا تبدیلیاں کی ہیں۔
بطور سپروائزر یا ذمہ دار مینیجر، آپ کو اس بات پر اصرار کرنا چاہیے کہ واضح جواب ملے کہ ایجنٹ کا مالک کون ہے، وہ کون سے ٹولز استعمال کر سکتا ہے، اور کن معاملات میں اسے انسانی مداخلت یا منظوری کی ضرورت ہوگی۔ آپ کو ‘ایکشن اسپیس’ (action space) کو اس دائرہ کار کے طور پر دیکھنا چاہیے جہاں تک ایجنٹ کی رسائی ہو، اور ‘خود مختاری’ (autonomy) کو اس پیمانے کے طور پر کہ وہ خود کتنا فیصلہ کر سکتا ہے؛ کیونکہ ان دونوں کو بیک وقت وسیع کرنے سے ٹیمیں اکثر یہ بھول جاتی ہیں کہ ایجنٹ اصل میں کیا کرنے کی صلاحیت رکھتا ہے۔ لانچ سے پہلے، آپ صلاحیتوں کے بارے میں ایک مختصر بیان (capability statement) طلب کر سکتے ہیں جس میں یہ درج ہو کہ ایجنٹ کیا نہیں کر سکتا، اور یہ بھی کہ اس حد تک پہنچنے پر ‘ایسکلیشن پاتھ’ (یعنی اعلیٰ حکام یا انسانی مدد تک رسائی کا طریقہ کار) کیا ہوگا۔ استعمال کے دوران، آپ کو ان لمحات پر نظر رکھنی چاہیے جب لوگ جانچ پڑتال کرنا چھوڑ دیتے ہیں کیونکہ ایجنٹ کا لہجہ پراعتماد ہوتا ہے؛ کیونکہ یہی وہ وقت ہوتا ہے جب غلط اقدامات خاموشی سے سرزد ہو جاتے ہیں۔
اگلے سوالات کے جوابات آپ کو یہ بتائیں گے کہ آپ کے ایجنٹ سے متعلق موجودہ معمولات کہاں موزوں ہیں، اور کہاں تبدیلی کی ضرورت ہے۔