اس سبق کا آغاز ایک ایسے معاملے سے ہوتا ہے جس کا سامنا آج کل اکثر سیکیورٹی اور آئی ٹی ٹیموں کو باقاعدگی سے کرنا پڑتا ہے۔ رسک (خطرے) کا جائزہ شروع ہوتا ہے اور کوئی ایسے AI اسسٹنٹ کا ذکر کرتا ہے جسے کسٹمر سپورٹ کئی ہفتوں سے استعمال کر رہی ہے؛ اس کی ادائیگی کارپوریٹ کارڈ سے کی گئی ہے، لیکن اس کے لیے کوئی ٹکٹ (درخواست) نہیں بنائی گئی، وینڈر کا کوئی جائزہ نہیں لیا گیا، اور اس میں کون سا ڈیٹا استعمال ہوا اس کا کوئی واضح ریکارڈ موجود نہیں ہے۔ حل طلب مسئلہ عملی نوعیت کا ہے: کام کی فراہمی (ڈیلیوری) کو جاری رکھا جائے اور ساتھ ہی پوری تنظیم میں AI کے استعمال کے حوالے سے شناخت، اجازت (authorization) اور شفافیت (visibility) پر دوبارہ کنٹرول حاصل کیا جائے۔
اس کورس میں، ہم AI سسٹمز کو اپنے باقی ‘پروڈکشن ماحول’ (production environment) کی طرح ہی سمجھیں گے۔ ہر AI فیچر اور ہر AI ٹول ایسی شناختیں، اجازتیں اور ڈیٹا کے راستے تخلیق کرتا ہے جنہیں سوچ سمجھ کر ڈیزائن کرنے اور مسلسل جانچنے کی ضرورت ہوتی ہے۔ ہمارا مطلوبہ نتیجہ پابندیوں کی فہرست (ban list) نہیں ہے۔ ہمارا مقصد رسائی کے ایسے نظام کا نقشہ تیار کرنا ہے جس کا ہم دفاع کر سکیں، اور ‘شیڈو’ (غیر رسمی) استعمال کو ایک محفوظ اور باقاعدہ معاونت والے آپشن میں تبدیل کرنے کا طریقہ تلاش کرنا ہے۔
خطرہ شاذ و نادر ہی ابتدائی ‘پرامپٹ’ (ہدایت) میں ہوتا ہے۔ اصل خطرہ چھوٹے چھوٹے فیصلوں کا وہ سلسلہ ہے جو خاموشی سے رسائی کا ایک فعال راستہ بن جاتا ہے؛ مثال کے طور پر اندرونی متن (internal text) کو بیرونی چیٹ میں کاپی پیسٹ کرنا، وسیع اجازتوں والی براؤزر ایکسٹینشن شامل کرنا، یا کسی AI ٹول کو ای میل اور ٹکٹنگ سسٹم سے منسلک کرنا۔ جب یہ اقدامات ہو جاتے ہیں، تو حساس ڈیٹا متوقع حدود سے باہر جا سکتا ہے، اور کسی واقعے یا آڈٹ کے دوران تنظیم اس بنیادی سوال کا جواب دینے سے قاصر رہ سکتی ہے کہ کس نے، کیا اور کیوں استعمال کیا۔
اس پورے کورس کے دوران ہم ایک سادہ ذہنی ماڈل استعمال کریں گے۔ AI کی کوئی بھی صلاحیت اس وقت رسائی کا خطرہ بن جاتی ہے جب وہ کوئی نئی شناخت، اجازت کا نیا فیصلہ، یا حساس ڈیٹا اسٹور تک کوئی نیا راستہ تخلیق کرتی ہے، جبکہ اس عمل میں وہ کنٹرولز (ضابطے) موجود نہیں ہوتے جو ہم دیگر جگہوں پر لازمی قرار دیتے ہیں۔ اگلے مرحلے میں، ہم ہر اس ‘ہینڈ آف’ (handoff) یا منتقلی کے عمل کا سراغ لگائیں گے جہاں کوئی شخص، ایپ، ایجنٹ یا کنیکٹر ڈیٹا یا سسٹمز پر عمل کرنے کا نیا طریقہ حاصل کرتا ہے۔ آئیے، دریافت سے لے کر خطرے کے ظہور (exposure) تک کے اس سلسلے کا مکمل جائزہ لیتے ہیں۔
AI تک رسائی کو کنٹرول کرنے کے لیے، سب سے پہلے ہمیں موجودہ نظام کا ایک مشترکہ خاکہ یا نقشہ درکار ہے۔ AI تک رسائی کے مقامات کی فہرست (inventory) ان اجزاء کی ایک فہرست اور نظام کا نقشہ ہے جو AI خصوصیات کے ذریعے ہمارے ماحول میں درخواستیں بھیج سکتے ہیں، ڈیٹا وصول کر سکتے ہیں، یا کوئی عمل (action) سرانجام دے سکتے ہیں۔ اس میں ہمارے تیار کردہ منظور شدہ سسٹمز، ہمارے فعال کردہ تھرڈ پارٹی ‘کو پائلٹس’ (copilots)، اور وہ ‘شیڈو ٹولز’ (shadow tools) شامل ہیں جنہیں لوگوں نے کام کی ڈیڈ لائنز (deadlines) پوری کرنے کے لیے اپنایا۔ اگر کوئی ٹول اس فہرست میں شامل نہ ہو، تو اس کے لیے ضرورت سے زیادہ اجازتیں (over-permission) دینا آسان ہو جاتا ہے، اس کا جائزہ لینا ناممکن ہو جاتا ہے، اور بعد میں اس کی چھان بین کرنا مشکل ہوتا ہے۔
جب ہم AI سے چلنے والے ورک فلو (workflow) کا نقشہ بناتے ہیں، تو ہم چند ایسی اقسام کے اجزاء تلاش کر رہے ہوتے ہیں جو بار بار استعمال ہوتے ہیں۔ ہم انہی زمروں (categories) کو بعد کے اسباق میں بھی استعمال کریں گے جب ہم ‘کم سے کم استحقاق’ (least privilege) کے دائرہ کار کا تعین کریں گے اور نگرانی (monitoring) کا نظام ترتیب دیں گے۔ یہ وہ سسٹم میپ ہے جس پر ہم اگلی مشق کریں گے۔ اس پر کلک کریں اور غور کریں کہ شناخت (identity) کہاں قائم کی جاتی ہے اور اجازتیں (permissions) کہاں لاگو کی جاتی ہیں۔