اعتماد کی حدود (trust boundaries)، تہہ دار کنٹرولز، جانچ، نگرانی اور واقعے پر ردعمل (incident response) کے ذریعے LLM ایپس کا 'پرامپٹ انجیکشن' (prompt injection) سے دفاع کریں۔
۴ حصے · ۸ اسباق
OWASP 2026 کی اصطلاحات میں 'انجیکشن' (injection) کے خطرے کی وضاحت کریں اور اس عمل کا جائزہ لیں کہ کس طرح ناقابلِ اعتماد مواد براہِ راست اور بالواسطہ راستوں سے ماڈل کی ہدایات (model instructions) میں تبدیل ہو جاتا ہے۔
۲ اسباقایک ایسا 'پرامپٹ' (prompt) اور ٹول آرکیٹیکچر تشکیل دیں جو محفوظ اور قابلِ دفاع ہو، اور پھر ایسے تہہ دار کنٹرولز (layered controls) نافذ کریں جو ان پٹ، سیاق و سباق (context) اور آؤٹ پٹ کے مراحل پر ممکنہ نقصان کے دائرہ کار (blast radius) کو کم کر سکیں۔
۲ اسباقOWASP سے منسلک ایک ٹیسٹ سویٹ (test suite) تیار کریں اور 'گارڈ ریلز' (guardrails) اور محفوظ پیٹرنز کی جانچ پڑتال حقیقی 'انجیکشن' (injection) کی کوششوں کے خلاف کریں، بشمول اس کے کہ وہ کن کوششوں کو روکتے ہیں اور کن سے چوک جاتے ہیں۔
۲ اسباقانجیکشن سگنلز کی نگرانی کریں اور ڈرفٹ (drift) نیز انسیڈنٹ فلو (incident flow) کو کنٹرول کریں تاکہ حملوں کی درجہ بندی کی جا سکے، انہیں محدود اور درست کیا جا سکے، اور دوبارہ ہونے سے روکا جا سکے۔
۲ اسباق'پرامپٹ انجیکشن' (Prompt injection) LLM ایپلی کیشنز کے لیے ایک براہِ راست خطرہ ہے کیونکہ غیر مصدقہ متن کو بطورِ ہدایت لیا جا سکتا ہے اور اسے پرامپٹس، ٹولز، ڈیٹا کی بازیافت (retrieval) اور آؤٹ پٹ کے مراحل سے گزارا جا سکتا ہے۔ یہ کورس ان حملوں کے طریقہ کار اور ایپلی کیشن اسٹیک (application stack) میں انہیں روکنے کے طریقوں کے بارے میں ایک جدید اور سیکیورٹی پر مرکوز فہم فراہم کرتا ہے۔ اس کورس کے اختتام پر شرکاء کنٹرولز (controls) کی تشکیل، حملے کی مختلف صورتوں کے خلاف ان کی جانچ (validation)، کارکردگی میں انحراف (drift) کی نگرانی، اور ایسے انداز میں واقعات (incidents) سے نمٹنے کے لیے ایک عملی ماڈل سے لیس ہوتے ہیں جو تعمیل (compliance) اور اصلاحی اقدامات (remediation) میں معاون ثابت ہوتا ہے۔
یہ کورس LLM ایپلی کیشنز کے لیے OWASP Top 10 (2026) کی میپنگ، براہ راست اور بالواسطہ انجیکشن کے راستوں، پرامپٹ اور ٹول کی اعتماد کی حدود (trust boundaries)، اور ڈیٹا کے اندراج (ingestion)، بازیافت (retrieval) اور ردعمل (response) کے مراحل پر محیط 'ڈیفنس اِن ڈیپتھ' (defense in depth) کا احاطہ کرتا ہے۔ اس میں OWASP سے منسلک ٹیسٹ کی منصوبہ بندی، حفاظتی حدود (guardrails)، محفوظ کوڈنگ کے طریقے، ٹیلی میٹری، جائزے کے نظام الاوقات، اور سیکیورٹی واقعات کے تدارک (incident-to-fix remediation) جیسے موضوعات بھی شامل ہیں۔
پروجیکٹ مینیجرز اور آپریشنز ٹیموں سے لے کر بانیان، تجزیہ کاروں اور AI اپنانے والی ٹیموں تک، Fenzo ان سب کے لیے ہے جو اپنے روزمرہ کام میں مزید بہتر ہونا چاہتے ہیں۔
پروجیکٹس کی منصوبہ بندی اور ڈیٹا کے تجزیے کے لیے AI کے استعمال سے لے کر عمل، فیصلہ سازی، بات چیت اور تکمیل کو بہتر بنانے تک، سب کچھ۔ اگر آپ مہارت یا کام بیان کر سکتے ہیں تو Fenzo اس پر کورس بنا سکتا ہے۔
جی ہاں۔ Fenzo کو بتائیں کہ آپ کیا کرتے ہیں، کیا حاصل کرنا چاہتے ہیں اور کہاں پھنسے ہیں، اور وہ کورس کو آپ کے کردار، آپ کے اہداف اور اس کام کے مطابق ڈھال دے گا جو آپ کو واقعی کرنا ہے۔
نہیں۔ Fenzo آپ کے نقطۂ آغاز کے مطابق ڈھل جاتا ہے: آپ بنیادی باتوں سے شروع کر سکتے ہیں یا سیدھے اعلیٰ موضوعات پر جا سکتے ہیں۔
جی ہاں۔ Fenzo for Business آپ کی پوری ٹیم کو ایک ہی سبسکرپشن میں اکٹھا کرتا ہے: مشترکہ لائسنس، تفویض کیے جا سکنے والے کورسز اور اس بارے میں رپورٹس کہ کس نے کیا مکمل کیا۔
Fenzo for Business کے بارے میں جانیںآپ اپنا ہدف بتا کر یا ایک مختصر مہارتی جائزہ دے کر آغاز کرتے ہیں۔ Fenzo اس سیاق سے آپ کی کمزوریاں پہچانتا ہے اور سیکھنے کا تجربہ انہی کے گرد ترتیب دیتا ہے۔
جی ہاں، Fenzo آپ کے فون کے براؤزر میں چلتا ہے۔
ہر حصے میں کچھ ایسا جس کے ساتھ آپ تعامل کر سکیں۔
سیکھنے پر دہائیوں کی تحقیق کے تین نتائج نے طے کیا کہ ہر Fenzo سبق کیسے بنایا جائے۔
اوسط کامیابی کی شرح · Freeman et al., PNAS 2014
سائنس کیا کہتی ہے
صرف لیکچر والی کلاسوں کے طلبہ کے فیل ہونے کا امکان ۱.۵× زیادہ ہوتا ہے۔
Fenzo یہ کیسے کرتا ہے
ہر Fenzo سبق انٹرایکٹو ہے۔ کبھی غیر فعال پڑھنا یا دیکھنا نہیں۔
آپ خود کرتے ہیںAI آپ کے لیے کرتا ہے
وقت کے ساتھ مہارت کی یادداشت · مشق کے ساتھ بمقابلہ بغیر
سائنس کیا کہتی ہے
سوچنے کا کام AI کے سپرد کر دینے سے وہی مہارتیں کمزور ہوتی ہیں جو آپ بنانا چاہتے ہیں۔
Fenzo یہ کیسے کرتا ہے
Fenzo آپ سے سوچواتا ہے — رہنمائی کے ساتھ، مگر آپ کی جگہ کبھی نہیں۔
یاد کرنے کی مشقدوبارہ پڑھنا
طویل مدتی یادداشت · یاد کرنا بمقابلہ دوبارہ پڑھنا
سائنس کیا کہتی ہے
پائیدار سمجھ بنانے کے لیے کسی معلومات کو یاد کرنا اسے دوبارہ پڑھنے سے بہتر ہے۔
Fenzo یہ کیسے کرتا ہے
اسباق میں کوئز اور یاد کرنے کے سوالات شامل ہیں تاکہ سیکھا ہوا یاد رہے۔