اس بات کا سراغ لگائیں کہ کس طرح نقصان دہ ہدایات LLM ایپلی کیشنز میں داخل ہوتی ہیں، اور پھر ایسے حفاظتی اقدامات وضع کریں جو خطرے کے امکان، اختیارات اور غیر محفوظ اقدامات کو محدود کریں۔
۴ حصے · ۱۲ اسباق
اس بات کی وضاحت کریں کہ 'پرامپٹ انجیکشن' (prompt injection) کا مسئلہ کیوں برقرار رہتا ہے اور اس عمل کا جائزہ لیں کہ کس طرح متصادم ہدایات ایک ہی 'کونٹیکسٹ ونڈو' (context window) میں مشترک ہوتی ہیں، جس سے LLM ایپلی کیشنز سے وابستہ خطرات کی حدود کا تعین ہوتا ہے۔
۲ اسباقچیٹ انٹرفیس اور حاصل کردہ مواد سے لے کر ڈیٹا کے افشا ہونے اور ٹولز کے غلط استعمال تک براہِ راست، بالواسطہ اور کثیر جہتی (multimodal) حملوں کا سراغ لگائیں، اور پھر جائزہ لیں کہ سادہ فلٹرز کیوں ناکام ہو جاتے ہیں۔
۵ اسباقاعتماد کی حدود، کم سے کم استحقاق (least-privilege) پر مبنی اجازتیں، منظوری کے مراحل اور محفوظ ایجنٹ پیٹرنز تشکیل دیں جو سمجھوتہ شدہ (compromised) ماڈلز کی رسائی یا کارروائی کی صلاحیت کو محدود کرتے ہیں۔
۳ اسباقای میل اسسٹنٹ پر دہرائے جانے کے قابل انجیکشن ٹیسٹس اور 'ڈیفنس اِن ڈیپتھ' (defense-in-depth) کنٹرولز کا اطلاق کریں، جن میں آؤٹ پٹ ہینڈلنگ اور EchoLeak طرز کے ایکسپوژر (exposure) کے خطرات شامل ہیں۔
۲ اسباق'پرامپٹ انجیکشن' (Prompt injection) کا خطرہ بدستور موجود رہتا ہے کیونکہ لینگویج ماڈلز ہدایات کو صارف کے ڈیٹا، حاصل کردہ مواد اور ٹولز کے نتائج کے ساتھ ساتھ پروسیس کرتے ہیں۔ یہ کورس درمیانی سطح کے ڈویلپرز اور سیکیورٹی انجینئرز کو ایک عملی فریم ورک فراہم کرتا ہے جس کے ذریعے وہ براہِ راست اور بالواسطہ حملوں کی شناخت کر سکیں، قابلِ اعتماد ہدایات کو ناقابلِ اعتماد مواد سے الگ کر سکیں، اور ایسی ایپلی کیشنز ڈیزائن کر سکیں جن میں محدود اجازتیں، منظوری کے مراحل (approval gates)، محفوظ ایجنٹ پیٹرنز اور قابلِ تصدیق ٹیسٹس شامل ہوں۔
یہ کورس LLM01:2026، LLM08:2026 اور LLM10:2026 کے تحت ہدایات کے تضادات (instruction conflicts)، براہِ راست، بالواسطہ اور ملٹی ماڈل انجیکشن، ڈیٹا کے بے نقاب ہونے، ٹولز کے غلط استعمال، اعتماد کی حدود (trust boundaries)، کم سے کم استحقاق (least privilege)، محفوظ ایجنٹ پیٹرنز، ٹیسٹنگ، اور ای میل اسسٹنٹ کو مزید محفوظ بنانے (hardening) کا احاطہ کرتا ہے۔
پروجیکٹ مینیجرز اور آپریشنز ٹیموں سے لے کر بانیان، تجزیہ کاروں اور AI اپنانے والی ٹیموں تک، Fenzo ان سب کے لیے ہے جو اپنے روزمرہ کام میں مزید بہتر ہونا چاہتے ہیں۔
پروجیکٹس کی منصوبہ بندی اور ڈیٹا کے تجزیے کے لیے AI کے استعمال سے لے کر عمل، فیصلہ سازی، بات چیت اور تکمیل کو بہتر بنانے تک، سب کچھ۔ اگر آپ مہارت یا کام بیان کر سکتے ہیں تو Fenzo اس پر کورس بنا سکتا ہے۔
جی ہاں۔ Fenzo کو بتائیں کہ آپ کیا کرتے ہیں، کیا حاصل کرنا چاہتے ہیں اور کہاں پھنسے ہیں، اور وہ کورس کو آپ کے کردار، آپ کے اہداف اور اس کام کے مطابق ڈھال دے گا جو آپ کو واقعی کرنا ہے۔
نہیں۔ Fenzo آپ کے نقطۂ آغاز کے مطابق ڈھل جاتا ہے: آپ بنیادی باتوں سے شروع کر سکتے ہیں یا سیدھے اعلیٰ موضوعات پر جا سکتے ہیں۔
جی ہاں۔ Fenzo for Business آپ کی پوری ٹیم کو ایک ہی سبسکرپشن میں اکٹھا کرتا ہے: مشترکہ لائسنس، تفویض کیے جا سکنے والے کورسز اور اس بارے میں رپورٹس کہ کس نے کیا مکمل کیا۔
Fenzo for Business کے بارے میں جانیںآپ اپنا ہدف بتا کر یا ایک مختصر مہارتی جائزہ دے کر آغاز کرتے ہیں۔ Fenzo اس سیاق سے آپ کی کمزوریاں پہچانتا ہے اور سیکھنے کا تجربہ انہی کے گرد ترتیب دیتا ہے۔
جی ہاں، Fenzo آپ کے فون کے براؤزر میں چلتا ہے۔
ہر حصے میں کچھ ایسا جس کے ساتھ آپ تعامل کر سکیں۔
سیکھنے پر دہائیوں کی تحقیق کے تین نتائج نے طے کیا کہ ہر Fenzo سبق کیسے بنایا جائے۔
اوسط کامیابی کی شرح · Freeman et al., PNAS 2014
سائنس کیا کہتی ہے
صرف لیکچر والی کلاسوں کے طلبہ کے فیل ہونے کا امکان ۱.۵× زیادہ ہوتا ہے۔
Fenzo یہ کیسے کرتا ہے
ہر Fenzo سبق انٹرایکٹو ہے۔ کبھی غیر فعال پڑھنا یا دیکھنا نہیں۔
آپ خود کرتے ہیںAI آپ کے لیے کرتا ہے
وقت کے ساتھ مہارت کی یادداشت · مشق کے ساتھ بمقابلہ بغیر
سائنس کیا کہتی ہے
سوچنے کا کام AI کے سپرد کر دینے سے وہی مہارتیں کمزور ہوتی ہیں جو آپ بنانا چاہتے ہیں۔
Fenzo یہ کیسے کرتا ہے
Fenzo آپ سے سوچواتا ہے — رہنمائی کے ساتھ، مگر آپ کی جگہ کبھی نہیں۔
یاد کرنے کی مشقدوبارہ پڑھنا
طویل مدتی یادداشت · یاد کرنا بمقابلہ دوبارہ پڑھنا
سائنس کیا کہتی ہے
پائیدار سمجھ بنانے کے لیے کسی معلومات کو یاد کرنا اسے دوبارہ پڑھنے سے بہتر ہے۔
Fenzo یہ کیسے کرتا ہے
اسباق میں کوئز اور یاد کرنے کے سوالات شامل ہیں تاکہ سیکھا ہوا یاد رہے۔