کام کی جگہ پر AI ایجنٹس کی نگرانی کا مطلب ہے انسانی جوابدہی کو برقرار رکھنا، جبکہ سافٹ ویئر کسی کی جانب سے کام انجام دے رہا ہو۔ یہ کورس ‘انفوکوم میڈیا ڈیولپمنٹ اتھارٹی’ (IMDA) کے ‘ایجنٹک AI کے لیے ماڈل AI گورننس فریم ورک’ پر مبنی ہے، جو ذمہ داری تفویض کرنے اور نگرانی کو مؤثر رکھنے کے عملی طریقے تجویز کرتا ہے۔ اس میں شامل فیصلہ سازی کا عمل نام میں تو سادہ ہے لیکن اسے مستقل مزاجی سے انجام دینا مشکل ہے۔ آپ فیصلہ کرتے ہیں کہ ایجنٹ کب آگے بڑھ سکتا ہے، کب اسے جانچ پڑتال کے لیے رکنا چاہیے، اور کب اسے کسی مخصوص ذمہ دار فرد کے حوالے کرنا ضروری ہے۔ اس کام کا اظہار روزمرہ کے لمحات میں ہوتا ہے، جیسے ورک فلو (کام کے بہاؤ) میں تبدیلی کی منظوری دینا، کسٹمر کی ای میل میں ایجنٹ کے تیار کردہ مواد پر انحصار کرنا، یا اسے مشترکہ ریکارڈ کو اپ ڈیٹ کرنے کی اجازت دینا۔ مشکل مرحلہ صرف ٹول کو سمجھنا نہیں ہے، بلکہ اس بات کا خیال رکھنا ہے کہ جب ایجنٹ کے اقدامات دیگر لوگوں اور سسٹمز پر اثر انداز ہوں تو جوابدہ کون ہوگا۔
IMDA کے تصور کے مطابق، ایجنٹس کام کی جگہ پر استعمال ہونے والے پرانے AI سسٹمز سے مختلف ہیں کیونکہ وہ خود اقدامات کر سکتے ہیں، نئی معلومات کے مطابق خود کو ڈھال سکتے ہیں، اور انسانوں کے لیے کام مکمل کرنے کی خاطر مختلف سسٹمز کے ساتھ تعامل (interact) کر سکتے ہیں۔ اسی تبدیلی کی وجہ سے نگرانی محض ایک بار کا جائزہ نہیں رہتی بلکہ کام کرنے کا ایک مستقل طریقہ بن جاتی ہے، چاہے ایجنٹ مفید اور نیک نیتی پر مبنی ہی کیوں نہ ہو۔ IMDA یہ بھی نشاندہی کرتا ہے کہ توازن کی ضرورت ہے کیونکہ بڑے پیمانے پر ہر ورک فلو کی مسلسل انسانی نگرانی غیر عملی ہو جاتی ہے۔ لہذا، نقطہ آغاز ہر چیز پر نظر رکھنا نہیں ہے، بلکہ یہ طے کرنا ہے کہ کون سے اقدامات سب سے زیادہ اہم ہیں، جانچ کے مقامات (checkpoints) کہاں ہونے چاہئیں، اور جب کوئی چیز غیر معمولی لگے تو کون مداخلت کر سکتا ہے۔ فیصلوں کا یہی خاکہ وہ چیز ہے جسے یہ کورس مرحلہ وار مکمل کرتا ہے۔ آئیے، مزید تفصیل میں جانے سے پہلے ان فیصلوں کی نوعیت کا جائزہ لیں۔
AI ایجنٹ ایک ایسا سافٹ ویئر ہے جو آپ کے مقرر کردہ ہدف تک پہنچنے کے لیے کئی مراحل میں منصوبہ بندی اور اقدامات کر سکتا ہے، جیسے کہ معلومات تلاش کرنا، فائلیں بنانا، یا سسٹم کو اپ ڈیٹ کرنا۔ چیٹ کا وہ ٹول جس سے آپ پہلے سے واقف ہیں، بنیادی طور پر آپ کے استعمال کے لیے صرف متن (text) تجویز کرتا ہے۔ ایجنٹ اس سے آگے بڑھ کر کام کرتا ہے کیونکہ یہ کام کے ماحول میں عملی اقدامات کر سکتا ہے، نہ کہ صرف تجاویز دے سکتا ہے۔ یہ فرق تب بھی اہم ہوتا ہے جب انٹرفیس ایک جیسا نظر آتا ہو، کیونکہ ایجنٹ کے اقدامات کا اثر بات چیت ختم ہونے کے بعد بھی باقی رہ سکتا ہے۔
سب سے اہم سوال یہ نہیں ہے کہ آیا ایجنٹ ذہین ہے یا نہیں۔ بلکہ اصل سوال یہ ہے کہ دی گئی اجازتوں (permissions) کی بنیاد پر ایجنٹ کن چیزوں تک رسائی حاصل کر سکتا ہے اور کیا تبدیلیاں لا سکتا ہے۔ اگر کوئی ایجنٹ کیلنڈر پڑھ سکتا ہے، ای میل کا مسودہ تیار کر سکتا ہے، اور پھر اسے بھیج سکتا ہے، تو یہ تین مختلف اقدامات ہیں جن کے نتائج بھی مختلف ہوں گے۔ نگرانی کا عمل تب شروع ہوتا ہے جب آپ ان اجازتوں کو محض ٹول کے ساتھ آنے والی ‘ڈیفالٹ سیٹنگز’ کے بجائے باقاعدہ ‘فیصلوں’ کے طور پر دیکھتے ہیں۔
اگر آپ کسی ایجنٹ کی نگرانی کر رہے ہیں یا آپ ذمہ دار مینیجر ہیں، تو آپ کا کام یہ یقینی بنانا ہے کہ جب کام سافٹ ویئر کے سپرد کیا جائے تو ذمہ داری کسی نہ کسی انسان کے ساتھ وابستہ رہے۔ IMDA کا فریم ورک واضح کرتا ہے کہ قابلِ اعتماد نفاذ (deployment) کا انحصار صرف ڈویلپرز پر نہیں ہوتا، کیونکہ حتمی صارفین (end users) کو بھی ایجنٹس کا استعمال ذمہ داری سے کرنا چاہیے۔ اس کا مطلب ہے کہ آپ کو معلوم ہونا چاہیے کہ ایجنٹ کا مقصد کیا ہے، اسے کیا نہیں کرنا چاہیے، اور جب وہ اس دائرہ کار سے باہر جا کر کام کرے تو کیا کرنا چاہیے۔ ان جوابات کو طلب کرنے کے لیے آپ کا ایجنٹ بنانے والا شخص ہونا ضروری نہیں ہے۔
بنانے والوں (builders)، وینڈرز اور آئی ٹی (IT) کی ذمہ داریاں اب بھی اہم ہیں، خاص طور پر اس حوالے سے کہ ایجنٹ کو کیسے ڈیزائن، ٹیسٹ اور مانیٹر کیا جاتا ہے اور اسے دیگر ٹولز سے کیسے جوڑا جاتا ہے۔ آپ کی ذمہ داری کا دائرہ کار مختلف ہے۔ آپ اپنے عمل (process) میں قابلِ قبول استعمال کا تعین کرتے ہیں، آپ یہ جانچتے ہیں کہ آیا وہ نگرانی جس پر آپ انحصار کرتے ہیں، واقعی ہو رہی ہے یا نہیں، اور جب کوئی واضح ذمہ دار (owner) موجود نہ ہو تو آپ معاملہ اعلیٰ حکام تک پہنچاتے ہیں۔ جب کوئی ٹیم یہ نہ بتا سکے کہ ورک فلو میں ایجنٹ کے لیے کون جوابدہ ہے، تو یہ محض کاغذی کارروائی کی کمی نہیں ہوتی، بلکہ یہ ‘کنٹرول’ یا نگرانی کے نظام میں خلا (control gap) ہوتا ہے۔