آپ ایک ایسا مختصر اور قابلِ آڈٹ AI گورننس اور رسک (risk) پروگرام تشکیل دیں گے جسے 2026 میں پوری تنظیم میں وسعت دی جا سکے۔
ہم ایک ہی آپریٹنگ ماڈل اور ایک مثالی تنظیم، ‘نارتھ برج کریڈٹ یونین’ (NorthBridge Credit Union) کا استعمال کریں گے، تاکہ بعد کا ہر سبق شروع سے شروع کرنے کے بجائے اسی ڈھانچے پر استوار ہو۔
اس کورس کے اختتام تک، آپ ‘زندہ دستاویزات’ (living artifacts) کے ایک چھوٹے سے مجموعے کی نشاندہی کرنے کے قابل ہوں گے اور بتا سکیں گے کہ ہر ایک کا مالک کون ہے، اس کے ثبوت کہاں موجود ہیں، اور اس کا جائزہ کتنی بار لیا جاتا ہے۔
نارتھ برج کریڈٹ یونین میں ایک رسک مینیجر سپورٹ ٹیم سے پوچھتا ہے کہ وہ ٹکٹ بیک لاگ (زیرِ التواء درخواستوں) کو کیسے سنبھال رہے ہیں۔
ایک ایجنٹ جواب دیتا ہے کہ وہ جوابات کا مسودہ تیار کرنے کے لیے صارفین کی چیٹس کو ایک مفت ویب بیسڈ چیٹ بوٹ میں پیسٹ کرتے ہیں، اور HR (انسانی وسائل کا شعبہ) ریزیومے (resumes) کی تیزی سے جانچ پڑتال کے لیے ایک اور ٹول استعمال کر رہا ہے۔
کوئی بھی یہ نہیں بتا سکتا کہ ان ٹولز کی منظوری کس نے دی، کون سا ڈیٹا شیئر کیا گیا، آیا نتائج (outputs) کو فیصلوں کے لیے استعمال کیا جاتا ہے، یا کیا کوئی ایسے لاگز (logs) موجود ہیں جو یہ ظاہر کریں کہ کیا ہوا تھا۔
ثبوت سے شروعات کریںپالیسیوں اور فریم ورکس سے پہلے، اس بات کا ریکارڈ رکھیں کہ کیا ہو رہا ہے، کہاں ہو رہا ہے، اور کس ڈیٹا کے ساتھ ہو رہا ہے۔
غیر منظور شدہ AI کا استعمال کاروباری کاموں کے لیے AI سسٹم کا ایسا استعمال ہے جس کا کوئی ریکارڈ شدہ مالک نہ ہو، کوئی دستاویزی مقصد نہ ہو، اور کوئی طے شدہ کنٹرولز (controls) نہ ہوں۔
یہ خطرہ اس لیے بن جاتا ہے کیونکہ یہ ایسی صورتحال (exposure) پیدا کرتا ہے جسے آپ دیکھ نہیں سکتے یا یہ ثابت نہیں کر سکتے کہ آپ نے اسے سنبھالا ہے۔
نارتھ برج میں، اس کے عام ذرائع یہ ہیں: منظور شدہ سسٹمز سے ڈیٹا کا باہر جانا، غیر سرکاری کنکشنز جو ڈیٹا کو کھینچتے یا بھیجتے ہیں، اور عملے کا AI کے نتائج کو ایسے استعمال کرنا جیسے وہ تصدیق شدہ فیصلے ہوں۔
آئیے تصور کریں کہ روزمرہ کے کام کے بہاؤ (workflows) میں یہ ‘ایکسپوزر پوائنٹس’ (خطرے کے مقامات) عام طور پر کہاں پائے جاتے ہیں۔
قابلِ آڈٹ گورننس کا مطلب ہے کہ آپ کسی ضرورت یا پالیسی سے لے کر، دہرائے جانے کے قابل عمل (process)، اس عمل کے چلنے کو ظاہر کرنے والے ریکارڈز، اور وقت کے ساتھ اس کا جائزہ لینے والے ذمہ دار مالک تک کا سراغ لگا سکیں۔
نارتھ برج (NorthBridge) کے لیے، قابلِ دفاع نتائج دستاویزات کے بڑے انبار کے بجائے ایک مربوط اور مسلسل عمل (tight loop) کی طرح دکھائی دیتے ہیں۔
اس کے بعد، ہم دیکھیں گے کہ نارتھ برج کے لیے عملی طور پر یہ دستاویزات اور ریکارڈز (artifacts) کس طرح کام کرتے ہیں۔