آپ اپنی شفٹ شروع کر رہے ہیں اور الرٹ کی قطار (queue) میں پہلے سے ہی AI سے متعلق تین الرٹس موجود ہیں جن کے ساتھ AI کا ‘ٹریاج اسکور’ (triage score) منسلک ہے۔ اس مرحلے پر آپ کا کام ہر الرٹ کے بارے میں ایک فوری اور قابلِ دفاع ابتدائی مؤقف تیار کرنا ہے۔ اس کا مطلب ہے: ایک قابلِ عمل درجہ بندی (classification)، بنیادی ٹیلی میٹری (telemetry) میں تصدیق کے لیے درکار کم از کم شواہد، اور ان امور کی واضح وضاحت جن کے بارے میں آپ کو ابھی یقین نہیں ہے۔ یہ کورس AI کو ایک ‘تجزیہ کار کی رائے’ (analyst input) کے طور پر دیکھتا ہے، نہ کہ حتمی اختیار (authority) کے طور پر؛ معاملے کے حتمی فیصلے یا نمٹارے (disposition) کے لیے آپ ہی جوابدہ ہوں گے۔
اس کورس کو سمجھنے کا ایک مفید طریقہ یہ ہے کہ آپ AI سسٹم کے واقعات کے لیے ایک ایسا ذہنی ماڈل (mental model) تشکیل دیں گے جسے بار بار استعمال کیا جا سکے۔ یہ ماڈل خطرے کی کسی مخصوص قسم (risk category) سے شروع ہوتا ہے، اسے سسٹم کے اس حصے سے جوڑتا ہے جس میں خرابی کا امکان ہو، اور اس کا اختتام ایسے شواہد پر ہوتا ہے جو اس خرابی کی تصدیق یا تردید کر سکیں۔ ہم اب آہستہ آگے بڑھیں گے کیونکہ کورس کا بقیہ حصہ اس بات پر منحصر ہے کہ الرٹس کی بھرمار (noisy queue) کے دوران بھی یہ طریقہ کار مستقل اور یکساں رہے۔
ہم ہر الرٹ کے لیے ابتدائی ٹریاج (triage) کی مشق سے آغاز کریں گے۔ اس بات پر توجہ مرکوز کریں کہ آپ سب سے پہلے کیا تصدیق کریں گے اور AI کی تجویز کردہ سمت کو قبول کرنے سے پہلے آپ کو کن شواہد کی ضرورت ہوگی۔ پھر ہم ان انتخاب کردہ نکات کا موازنہ یا اطلاق ‘OWASP Top 10 for LLM Applications 2026’ کی کیٹیگریز پر کریں گے تاکہ ہماری ٹیم میں استعمال ہونے والی اصطلاحات (labels) کا مفہوم سب کے لیے یکساں رہے۔ آئیے، مل کر ٹریاج کے فیصلوں (triage calls) کا پہلا سیٹ تیار کرتے ہیں۔
OWASP Top 10 for LLM Applications 2026 ان ایپلی کیشنز کے لیے خطرے کے دس انتہائی اہم زمروں کی ایک کمیونٹی پر مبنی فہرست ہے جو ‘لارج لینگویج ماڈلز’ (LLMs) کا استعمال کرتی ہیں۔ یہ ‘انسیڈنٹ ریسپانس’ (واقعے پر ردعمل) کے عمل میں مفید ہے کیونکہ یہ خرابی کی نشاندہی کے لیے مستقل نام فراہم کرتی ہے، چاہے اس کی علامات بظاہر مختلف ہی کیوں نہ ہوں۔ جب آپ کی ٹکٹ (ticket) میں LLM02 یا LLM06 کا ذکر ہو، تو ہر شخص کو فوراً اسی قسم کی خرابی اور تلاش کیے جانے والے شواہد کا تصور ہو جانا چاہیے۔
یہاں وہ دس زمرے دیے گئے ہیں جنہیں ہم پورے کورس کے دوران استعمال کریں گے، بشمول ان کی درست نمبرنگ اور نام۔
یہ کورس ‘انسیڈنٹ ریسپانس’ کی سطح پر ان تمام دس زمروں کا احاطہ کرتا ہے۔ آپ سیکھیں گے کہ ‘ٹرائیاج’ (triage/ابتدائی جانچ) کے دوران ممکنہ زمرے کی شناخت کیسے کی جائے، کون سی ٹیلی میٹری (telemetry) عام طور پر اہم سوالات کے جوابات فراہم کرتی ہے، اور جب سسٹم میں LLM اور معاون اجزاء (جیسے کہ ریٹریول، ٹولز اور میموری) شامل ہوں تو ‘کنٹینمنٹ’ (روک تھام) اور ‘ریمیڈی ایشن’ (اصلاح) کا عمل کیسا ہوتا ہے۔ اس کے بعد، ہم ہر زمرے کو ‘انسیڈنٹ ریسپانس’ کے ان اہم مراحل (touchpoints) سے منسلک کریں گے جہاں آپ سے شواہد فراہم کرنے کی توقع کی جاتی ہے۔ لیبل کو ورک فلو سے جوڑنے کے لیے فراہم کردہ نقشے (map) کا استعمال کریں۔