ایسے 'ریٹریول آگمینٹڈ' (retrieval-augmented) سسٹمز تیار کریں جو آلودہ ڈیٹا، غیر مجاز رسائی، پرامپٹ انجیکشن اور غیر محفوظ جوابات کا مقابلہ کر سکیں۔
۴ حصے · ۱۲ اسباق
ان 'اعتمادی حدود' (trust boundaries) اور 'ناکامی کی صورتوں' (failure modes) کی وضاحت کریں جو 'ریٹریول آگمینٹڈ جنریشن' (RAG) کو عام ماڈل سیکیورٹی سے ممتاز کرتی ہیں؛ اس میں غیر مصدقہ (untrusted) حاصل کردہ متن اور ماڈل کی آؤٹ پٹ شامل ہیں۔
۲ اسباقاس بات کا جائزہ لیں کہ خراب شدہ دستاویزات اور پوشیدہ ہدایات کس طرح حاصل کردہ سیاق و سباق (context) پر اثر انداز ہوتی ہیں، اور پھر ماخذ کی تصدیق (provenance)، اعتماد کے درجات، تقسیم (segmentation)، علیحدگی (isolation) اور پالیسی کی جانچ پڑتال کو مناسب کنٹرول پوائنٹس پر نافذ کریں۔
۲ اسباقتلاش سے قبل اجازت (authorization) کے عمل، ٹیننٹ آئسولیشن (tenant isolation)، ایمبیڈنگ کے تحفظ، انجیشن کی تصدیق، اور معلومات کے اخراج (leakage) و غیر محفوظ آؤٹ پٹ کے خلاف 'جوابی سطح' (answer-layer) پر حفاظتی اقدامات کو ڈیزائن کریں۔
۵ اسباقشواہد پر مبنی جوابات کی جانچ اور سیکیورٹی کی نگرانی کا نظام تشکیل دیں، اور پھر ان کنٹرولز کو کسٹمر سپورٹ کے ایک ایسے مکمل RAG ڈیزائن پر لاگو کریں جس میں باقی ماندہ خطرات (residual risks) کی واضح نشاندہی کی گئی ہو۔
۳ اسباقRAG سسٹمز تلاش (search) کی صلاحیت کو لینگویج ماڈلز کے ساتھ یکجا کرتے ہیں، جس سے ایسے سیکیورٹی نقائص پیدا ہوتے ہیں جنہیں عام 'پرامپٹ ڈیزائن' (prompt design) کے ذریعے نہیں روکا جا سکتا۔ یہ کورس درمیانی سطح کے ڈویلپرز اور ML انجینئرز کی مدد کرتا ہے کہ وہ اعتماد کی حدود (trust boundaries) کا تعین کر سکیں، ڈیٹا اور معلومات کے حصول کے راستوں (retrieval paths) کو کنٹرول کر سکیں، ٹیننٹس (tenants) اور حساس معلومات کا تحفظ کر سکیں، اور جوابات کی تصدیق کر سکیں۔ کورس کے اختتام پر آپ کے پاس کسٹمر سپورٹ RAG سسٹم کو محفوظ بنانے کا ایک عملی ڈیزائن موجود ہوگا، جس میں نفاذ کے مقامات (enforcement points) اور باقی ماندہ خطرات (residual risks) بھی شامل ہوں گے۔
اس کورس میں RAG کے اعتماد کی حدود (trust boundaries)، پوائزننگ (poisoning)، بالواسطہ پرامپٹ انجیکشن (indirect prompt injection)، اجازتوں کے لحاظ سے بازیافت (permission-aware retrieval)، ٹیننٹ آئسولیشن (tenant isolation)، ایمبیڈنگ اور ویکٹر اسٹور کا تحفظ، انجیشن کی توثیق، آؤٹ پٹ فلٹرنگ، حوالہ جات، جواب کی تصدیق، نگرانی اور سیکیورٹی کے جائزے کا احاطہ کیا گیا ہے۔
پروجیکٹ مینیجرز اور آپریشنز ٹیموں سے لے کر بانیان، تجزیہ کاروں اور AI اپنانے والی ٹیموں تک، Fenzo ان سب کے لیے ہے جو اپنے روزمرہ کام میں مزید بہتر ہونا چاہتے ہیں۔
پروجیکٹس کی منصوبہ بندی اور ڈیٹا کے تجزیے کے لیے AI کے استعمال سے لے کر عمل، فیصلہ سازی، بات چیت اور تکمیل کو بہتر بنانے تک، سب کچھ۔ اگر آپ مہارت یا کام بیان کر سکتے ہیں تو Fenzo اس پر کورس بنا سکتا ہے۔
جی ہاں۔ Fenzo کو بتائیں کہ آپ کیا کرتے ہیں، کیا حاصل کرنا چاہتے ہیں اور کہاں پھنسے ہیں، اور وہ کورس کو آپ کے کردار، آپ کے اہداف اور اس کام کے مطابق ڈھال دے گا جو آپ کو واقعی کرنا ہے۔
نہیں۔ Fenzo آپ کے نقطۂ آغاز کے مطابق ڈھل جاتا ہے: آپ بنیادی باتوں سے شروع کر سکتے ہیں یا سیدھے اعلیٰ موضوعات پر جا سکتے ہیں۔
جی ہاں۔ Fenzo for Business آپ کی پوری ٹیم کو ایک ہی سبسکرپشن میں اکٹھا کرتا ہے: مشترکہ لائسنس، تفویض کیے جا سکنے والے کورسز اور اس بارے میں رپورٹس کہ کس نے کیا مکمل کیا۔
Fenzo for Business کے بارے میں جانیںآپ اپنا ہدف بتا کر یا ایک مختصر مہارتی جائزہ دے کر آغاز کرتے ہیں۔ Fenzo اس سیاق سے آپ کی کمزوریاں پہچانتا ہے اور سیکھنے کا تجربہ انہی کے گرد ترتیب دیتا ہے۔
جی ہاں، Fenzo آپ کے فون کے براؤزر میں چلتا ہے۔
ہر حصے میں کچھ ایسا جس کے ساتھ آپ تعامل کر سکیں۔
سیکھنے پر دہائیوں کی تحقیق کے تین نتائج نے طے کیا کہ ہر Fenzo سبق کیسے بنایا جائے۔
اوسط کامیابی کی شرح · Freeman et al., PNAS 2014
سائنس کیا کہتی ہے
صرف لیکچر والی کلاسوں کے طلبہ کے فیل ہونے کا امکان ۱.۵× زیادہ ہوتا ہے۔
Fenzo یہ کیسے کرتا ہے
ہر Fenzo سبق انٹرایکٹو ہے۔ کبھی غیر فعال پڑھنا یا دیکھنا نہیں۔
آپ خود کرتے ہیںAI آپ کے لیے کرتا ہے
وقت کے ساتھ مہارت کی یادداشت · مشق کے ساتھ بمقابلہ بغیر
سائنس کیا کہتی ہے
سوچنے کا کام AI کے سپرد کر دینے سے وہی مہارتیں کمزور ہوتی ہیں جو آپ بنانا چاہتے ہیں۔
Fenzo یہ کیسے کرتا ہے
Fenzo آپ سے سوچواتا ہے — رہنمائی کے ساتھ، مگر آپ کی جگہ کبھی نہیں۔
یاد کرنے کی مشقدوبارہ پڑھنا
طویل مدتی یادداشت · یاد کرنا بمقابلہ دوبارہ پڑھنا
سائنس کیا کہتی ہے
پائیدار سمجھ بنانے کے لیے کسی معلومات کو یاد کرنا اسے دوبارہ پڑھنے سے بہتر ہے۔
Fenzo یہ کیسے کرتا ہے
اسباق میں کوئز اور یاد کرنے کے سوالات شامل ہیں تاکہ سیکھا ہوا یاد رہے۔