روزمرہ کے کاموں میں AI کے استعمال کے دوران انسانی نگرانی کا مطلب ہے اس بات کی جانچ پڑتال کرنا کہ کوئی ٹول کیا نتیجہ (آؤٹ پٹ) فراہم کر رہا ہے، اس سے پہلے کہ وہ نتیجہ حقیقی دنیا میں کسی چیز کو تبدیل کرے۔ یہ عمل مسودہ سازی، ترجیحات کا تعین (triage)، نظرثانی اور فیصلہ سازی میں معاونت جیسے عام کاموں کا حصہ ہوتا ہے، جہاں رفتار اور کام کے بوجھ کی وجہ سے لوگ اکثر پہلے نظر آنے والے معقول جواب کو ہی قبول کر لیتے ہیں۔ یہ کورس روزمرہ کی اس نگرانی کے عمل کو ‘EU AI Act’ (یورپی یونین کے AI قانون) سے منسلک کرتا ہے اور اس کا مقصد ایک عملی فیصلے تک پہنچنا ہے۔ اس کورس کو مکمل کرنے والا شخص یہ جان سکے گا کہ کب AI کے نتیجے پر انحصار کرنا ہے، کب اسے چیلنج کرنا ہے، اور کب ٹول کو مزید کارروائی سے روکنا ہے۔ ایک عام غلطی یہ کی جاتی ہے کہ نگرانی کو محض املا کی غلطیوں (typos) کو دیکھنے کا آخری مرحلہ سمجھا جاتا ہے، بجائے اس کے کہ اسے اثرات اور فیصلے کو واپس لینے (reversibility) کے امکان کے حوالے سے ایک شعوری انتخاب سمجھا جائے۔ یہ غلطی کام کے بہاؤ (workflow) کے ڈیزائن کی وجہ سے ہوتی ہے، کیونکہ ٹول اور کام، دونوں ایک ہی اسکرین پر موجود ہوتے ہیں۔
ایک ٹیم انتہائی احتیاط برتنے کے باوجود بھی اہم لمحے سے محروم رہ سکتی ہے۔ ہو سکتا ہے کہ ٹیم کسی ماڈل کے خلاصے کا جائزہ لے، اسے کلائنٹ کی ای میل میں پیسٹ کرے اور اصل دستاویز (source document) کو چیک کیے بغیر کسی فرد کے نام سے بھیج دے۔ وہی ٹیم ‘کانفیڈنس اسکور’ (اعتماد کا درجہ) کو قبول کر سکتی ہے، کسی کیس کو غلط قطار (queue) میں بھیج سکتی ہے، اور اس کا پتہ تب چلتا ہے جب گاہک شکایت کرتا ہے۔ دونوں صورتوں میں نظرثانی تو ہوئی، لیکن وہ اتنی تاخیر سے ہوئی کہ فیصلے کو تبدیل کرنا ممکن نہ رہا۔ مشکل کام یہ جاننا نہیں ہے کہ احتیاط اچھی چیز ہے۔ مشکل کام تیز رفتار کام کے بہاؤ میں ان چند مقامات کی نشاندہی کرنا ہے جہاں کام کو روکنا، چیلنج کرنا یا معطل کرنا اب بھی ممکن ہو اور اس پر زیادہ لاگت یا وقت بھی صرف نہ ہو۔ نیچے دیا گیا نقشہ ان نگرانی سے متعلق فیصلوں کی نشاندہی کرتا ہے جن پر یہ کورس بار بار توجہ مرکوز کرتا ہے۔
اس کورس میں، AI سسٹم سے مراد کوئی بھی ایسا ٹول ہے جو ان پٹ (input) لیتا ہے اور ایسے آؤٹ پٹ (output) تیار کرتا ہے جو لوگوں کے کام کرنے کے انداز یا کسی سروس کے رویے کو تشکیل دیتے ہیں۔ اس میں ایسے سسٹمز شامل ہیں جو متن (text) تخلیق کرتے ہیں، آپشنز کی درجہ بندی کرتے ہیں، مواد کی زمرہ بندی کرتے ہیں، مخصوص معلومات (fields) نکالتے ہیں، یا اقدامات کی تجویز دیتے ہیں—یہ سب تب بھی ہوتا ہے جب یہ کسی جانے پہچانے پروڈکٹ کا حصہ ہوں۔ اسپریڈ شیٹ کا فارمولا ایک بار جان لینے کے بعد پیش گوئی کے قابل (predictable) ہوتا ہے۔ اس کے برعکس، ایک AI ٹول الفاظ میں معمولی تبدیلیوں کے ساتھ بھی اپنا آؤٹ پٹ تبدیل کر سکتا ہے؛ یہی وجہ ہے کہ نگرانی (oversight) کا معاملہ صرف درستگی کا نہیں بلکہ انحصار (reliance) کا بھی ہے۔
آپ کی ٹیم پہلے ہی معمول کے کاموں میں AI سسٹمز کا سامنا کر رہی ہے، کیونکہ “AI” اکثر کسی الگ ایپ کے بجائے کسی فیچر کا لیبل ہوتا ہے۔ ہیلپ ڈیسک کنسول جوابات تجویز کر سکتا ہے، دستاویز کا ٹول حصوں کو دوبارہ لکھ سکتا ہے، اور جائزہ لینے والی قطار (review queue) آئٹمز کو متوقع ترجیح کے مطابق ترتیب دے سکتی ہے۔ ہر ایک چیز معاونت محسوس ہوتی ہے۔ ہر ایک چیز کام کو آگے بھی بڑھاتی ہے، جس کا مطلب ہے کہ آؤٹ پٹ کسی فیصلے کی شکل اختیار کر سکتا ہے حالانکہ کسی نے اسے باقاعدہ فیصلہ قرار نہ دیا ہو۔
روزمرہ کی نگرانی اس شخص کی ذمہ داری ہے جو استعمال کے لمحے کے سب سے قریب ہوتا ہے، کیونکہ صرف وہی شخص پرامپٹ (prompt)، سیاق و سباق (context)، اور اس مقصد کو دیکھتا ہے جس کے لیے آؤٹ پٹ استعمال کیا جائے گا۔ آپ فیصلہ کرتے ہیں کہ آیا آؤٹ پٹ کو استعمال کرنا ہے، اس میں ترمیم کرنی ہے، ثبوت طلب کرنا ہے، یا رک کر معاملہ اعلیٰ حکام تک پہنچانا (escalate کرنا) ہے؛ کیونکہ آؤٹ پٹ کے کسی ٹکٹ، فائل، پیغام یا فیصلے کی شکل اختیار کرنے سے پہلے آپ ہی آخری انسانی کڑی ہوتے ہیں۔ یہ چیز آپ کے کام کو ‘گورننس’ (انتظامی نگرانی) کے کام سے مختلف بناتی ہے، جس میں اصول طے کیے جاتے ہیں اور متعدد استعمالات کے دوران پیٹرنز (طرزِ عمل) کا جائزہ لیا جاتا ہے۔
اس کورس میں ایسے کرداروں (roles) کا بھی ذکر ہے جو EU AI ایکٹ میں اہمیت رکھتے ہیں، کیونکہ ذمہ داریاں اس بات پر منحصر ہوتی ہیں کہ کون کیا کام کر رہا ہے۔
اگلی سرگرمی اس بات کی جانچ کرتی ہے کہ آیا وقت کے دباؤ میں آپ کا اگلا محفوظ ترین قدم وہی ہے جو آپ کا طے شدہ معمول (default) ہے، کیونکہ نگرانی کی کامیابی یا ناکامی کا انحصار اسی بات پر ہوتا ہے۔