ایک درمیانے درجے کی فن ٹیک (fintech) کمپنی کسٹمر سپورٹ کے لیے ‘ریٹریول آگمینٹڈ جنریشن’ (RAG) چیٹ بوٹ چلاتی ہے جو اندرونی ‘رن بکس’ (runbooks) اور گزشتہ ٹکٹس سے معلومات کے ٹکڑے حاصل کر سکتا ہے۔ ایک صارف ایسا پیغام بھیجتا ہے جو بظاہر بلنگ سے متعلق ایک عام سوال لگتا ہے، لیکن اس میں ایک پوشیدہ ہدایت شامل ہوتی ہے جو ماڈل کو اندرونی ‘ایسکلیشن گائیڈنس’ (مسئلے کو اعلیٰ سطح پر لے جانے کے طریقہ کار) کو ظاہر کرنے اور پھر اس کا خلاصہ صارف کو بتانے کا حکم دیتی ہے۔ ماڈل اس ہدایت پر عمل کرتا ہے اور چیٹ بوٹ ایسی معلومات فراہم کر دیتا ہے جنہیں بیرونی طور پر ظاہر کرنے کا کبھی ارادہ نہیں تھا۔ یہ وہی خرابی یا ناکامی ہے جسے ہم اس کورس میں روکنے کی کوشش کر رہے ہیں، جہاں LLM01 پرامپٹ انجیکشن مسئلے کا نقطہ آغاز (entry point) ہے اور LLM02 حساس معلومات کا افشاء اس کا نتیجہ یا اثر ہے۔
پہلے سبق کا فوری مطلوبہ نتیجہ (deliverable) درجہ بندی کرنے کی ایک قابلِ اعتماد عادت کا حصول ہے۔ چیٹ بوٹ کی گفتگو (ٹرانسکرپٹ) کا جائزہ لینے کے بعد، ہمیں اس قابل ہونا چاہیے کہ مسئلے کی بنیادی وجہ کو LLM01 یا اس سے ملتے جلتے زمرے کے طور پر شناخت کر سکیں، اور پھر یہ اندازہ لگا سکیں کہ اسی واقعے کے سلسلے میں عام طور پر OWASP کے کون سے دیگر زمرے شامل ہو سکتے ہیں۔ اس طرح ہم محض کسی ایک نکتے پر اصلاح کرنے کے بجائے کثیر سطحی حفاظتی اقدامات (layered controls) وضع کر سکیں گے۔ اگلا ویجیٹ (widget) سسٹم کی سطح پر ‘انجیکشن سے معلومات کے افشاء’ تک کے راستے کی منظر کشی کرتا ہے تاکہ ہم بعد میں کیے جانے والے تدارکی اقدامات کو ایک ٹھوس اور مربوط عمل (flow) کی بنیاد پر ترتیب دے سکیں۔
LLM ایپلی کیشنز کے لیے OWASP Top 10 (2026) ان دس عام ناکامی کی اقسام (failure modes) کی درجہ بندی شدہ فہرست ہے جو LLM پر مبنی ایپلی کیشنز میں پائی جاتی ہیں۔ ہم اس پروگرام کے دوران تقاضوں (requirements)، تھریٹ ماڈلنگ، ٹیسٹنگ اور رپورٹنگ کے لیے اسے ایک مشترکہ زبان کے طور پر استعمال کریں گے۔ مکمل فہرست یہ ہے: LLM01 Prompt Injection، LLM02 Sensitive Information Disclosure، LLM03 Excessive Agency، LLM04 Supply Chain، LLM05 Data and Model Poisoning، LLM06 Unbounded Consumption، LLM07 Misinformation، LLM08 Hidden Context Exposure، LLM09 Vector and Embedding Weaknesses، اور LLM10 Improper Output Handling۔
یہ کورس LLM01 Prompt Injection کا مکمل احاطہ کرتا ہے، جس میں براہ راست اور بالواسطہ انجیکشن، ‘ڈیفنس اِن ڈیپتھ’ (defense-in-depth) کنٹرولز، اور ان کی جانچ کے طریقے شامل ہیں۔ یہ کورس LLM02 Sensitive Information Disclosure، LLM03 Excessive Agency، LLM08 Hidden Context Exposure، اور LLM10 Improper Output Handling کا بھی براہ راست احاطہ کرتا ہے کیونکہ حقیقی آرکیٹیکچرز میں یہ اکثر ‘ڈاؤن اسٹریم’ (downstream) اثرات یا خطرات کو بڑھانے والے عوامل (amplifiers) کے طور پر سامنے آتے ہیں۔ باقی اندراجات کو ہم ‘ملحقہ انحصار’ (adjacent dependencies) کے طور پر دیکھتے ہیں؛ یعنی ہم ان کا حوالہ تب دیں گے جب LLM01 کے لیے کسی کنٹرول کا انتخاب کہیں اور خطرہ (exposure) پیدا کرے، یا جب آپ کے پروگرام کو کسی مخصوص جائزے (review) کے لیے دائرہ کار سے باہر (out-of-scope) چیزوں کی وضاحت درکار ہو۔ مکمل فہرست دیکھنے اور یہ جاننے کے لیے کہ یہ پروگرام کن چیزوں کا گہرائی سے احاطہ کرتا ہے، اگلا ویجیٹ استعمال کریں۔