یہ سمجھیں کہ 'جیل بریکس' (jailbreaks) حفاظتی اقدامات کو کیسے عبور کرتے ہیں، اور فعال (deployed) LLM ایپلی کیشنز کے لیے تہہ دار اور قابلِ پیمائش دفاعی نظام تشکیل دیں۔
۴ حصے · ۱۲ اسباق
’جیل بریکس‘ (jailbreaks) کی تعریف کریں، انہیں ’پرامپٹ انجیکشن‘ (prompt injection) سے ممتاز کریں، اور اس بات کا جائزہ لیں کہ حفاظتی تربیت کس طرح ماڈل کے رویے کو تشکیل دیتی ہے اور عملی طور پر نافذ شدہ سسٹمز میں اس کی حدود کیا ہیں۔
۲ اسباقماڈل کے حفاظتی اقدامات کو عبور کرنے کے مختلف راستوں کے طور پر 'پرسونا فریمنگ' (کردار کا تعین)، 'ملٹی ٹرن ایسکلیشن' (مرحلہ وار شدت میں اضافہ)، 'مینی شاٹ سیاق و سباق'، 'ایڈورسریل سفکسز' (مخالفانہ لاحقے)، 'آبفسکیشن' (مبہم یا پیچیدہ بنانا) اور 'ملٹی ماڈل ان پٹس' کا تجزیہ کریں۔
۶ اسباقہیورسٹکس (heuristics)، کلاسیفائرز اور ٹیلی میٹری کی بنیاد پر سراغ لگانے کا نظام تشکیل دیں، اور پھر نگرانی، ریٹ لمیٹنگ، حفاظتی تربیت اور دیگر حفاظتی اقدامات کو یکجا کر کے تہہ دار تحفظ (layered protection) قائم کریں۔
۲ اسباقمحفوظ اور دستاویزی طریقوں سے مزاحمت کا جائزہ لیں اور نتائج کا اطلاق آپریشنل کنٹرولز اور ریگریشن ٹیسٹس کے ساتھ عوامی چیٹ بوٹ کے خاکے پر کریں۔
۲ اسباق'جیل بریکنگ' (Jailbreaking) کے ذریعے یہ جانچا جاتا ہے کہ آیا کسی LLM ایپلی کیشن کو اس کی مقررہ حفاظتی حدود سے تجاوز کرنے پر مجبور کیا جا سکتا ہے یا نہیں، جس سے صارفین، تنظیموں اور عوام کے لیے دستیاب سسٹمز کو خطرات لاحق ہو سکتے ہیں۔ یہ کورس درمیانی سطح کے ڈویلپرز، ML انجینئرز اور سیکیورٹی کے ماہرین کو جیل بریک کے طریقہ کار کا تجزیہ کرنے، ان کی حدود کو سمجھنے اور دفاعی اقدامات کی تہیں (layered defenses) تشکیل دینے کے لیے ایک واضح لائحہ عمل فراہم کرتا ہے۔ اس کورس کے اختتام پر آپ ایسے عملی طریقوں سے واقف ہو چکے ہوں گے جن کے ذریعے خطرات کی نشاندہی، ذمہ دارانہ جانچ پڑتال اور چیٹ بوٹ کو مزید محفوظ (hardened) بنانا ممکن ہو گا، اور یہ سب کچھ ایسے حساس ہدایات کو عام کیے بغیر کیا جائے گا جنہیں غلط مقاصد کے لیے استعمال کیا جا سکے۔
یہ کورس حفاظتی تربیت کی حدود، ’پرسونا‘ (persona) اور ’ملٹی ٹرن‘ (multi-turn) حملوں، ’مینی شاٹ‘ (many-shot) سیاق و سباق، ’ایڈورسریل سفکسز‘ (adversarial suffixes)، ’آبفسکیشن‘ (obfuscation) اور ’ملٹی ماڈل ان پٹس‘ (multimodal inputs) کا احاطہ کرتا ہے۔ اس میں عوامی چیٹ بوٹس کے لیے سراغ رسانی، تہہ دار دفاعی نظام، ذمہ دارانہ مزاحمتی جانچ اور آپریشنل استحکام (operational hardening) کے پہلو بھی شامل ہیں۔
پروجیکٹ مینیجرز اور آپریشنز ٹیموں سے لے کر بانیان، تجزیہ کاروں اور AI اپنانے والی ٹیموں تک، Fenzo ان سب کے لیے ہے جو اپنے روزمرہ کام میں مزید بہتر ہونا چاہتے ہیں۔
پروجیکٹس کی منصوبہ بندی اور ڈیٹا کے تجزیے کے لیے AI کے استعمال سے لے کر عمل، فیصلہ سازی، بات چیت اور تکمیل کو بہتر بنانے تک، سب کچھ۔ اگر آپ مہارت یا کام بیان کر سکتے ہیں تو Fenzo اس پر کورس بنا سکتا ہے۔
جی ہاں۔ Fenzo کو بتائیں کہ آپ کیا کرتے ہیں، کیا حاصل کرنا چاہتے ہیں اور کہاں پھنسے ہیں، اور وہ کورس کو آپ کے کردار، آپ کے اہداف اور اس کام کے مطابق ڈھال دے گا جو آپ کو واقعی کرنا ہے۔
نہیں۔ Fenzo آپ کے نقطۂ آغاز کے مطابق ڈھل جاتا ہے: آپ بنیادی باتوں سے شروع کر سکتے ہیں یا سیدھے اعلیٰ موضوعات پر جا سکتے ہیں۔
جی ہاں۔ Fenzo for Business آپ کی پوری ٹیم کو ایک ہی سبسکرپشن میں اکٹھا کرتا ہے: مشترکہ لائسنس، تفویض کیے جا سکنے والے کورسز اور اس بارے میں رپورٹس کہ کس نے کیا مکمل کیا۔
Fenzo for Business کے بارے میں جانیںآپ اپنا ہدف بتا کر یا ایک مختصر مہارتی جائزہ دے کر آغاز کرتے ہیں۔ Fenzo اس سیاق سے آپ کی کمزوریاں پہچانتا ہے اور سیکھنے کا تجربہ انہی کے گرد ترتیب دیتا ہے۔
جی ہاں، Fenzo آپ کے فون کے براؤزر میں چلتا ہے۔
ہر حصے میں کچھ ایسا جس کے ساتھ آپ تعامل کر سکیں۔
سیکھنے پر دہائیوں کی تحقیق کے تین نتائج نے طے کیا کہ ہر Fenzo سبق کیسے بنایا جائے۔
اوسط کامیابی کی شرح · Freeman et al., PNAS 2014
سائنس کیا کہتی ہے
صرف لیکچر والی کلاسوں کے طلبہ کے فیل ہونے کا امکان ۱.۵× زیادہ ہوتا ہے۔
Fenzo یہ کیسے کرتا ہے
ہر Fenzo سبق انٹرایکٹو ہے۔ کبھی غیر فعال پڑھنا یا دیکھنا نہیں۔
آپ خود کرتے ہیںAI آپ کے لیے کرتا ہے
وقت کے ساتھ مہارت کی یادداشت · مشق کے ساتھ بمقابلہ بغیر
سائنس کیا کہتی ہے
سوچنے کا کام AI کے سپرد کر دینے سے وہی مہارتیں کمزور ہوتی ہیں جو آپ بنانا چاہتے ہیں۔
Fenzo یہ کیسے کرتا ہے
Fenzo آپ سے سوچواتا ہے — رہنمائی کے ساتھ، مگر آپ کی جگہ کبھی نہیں۔
یاد کرنے کی مشقدوبارہ پڑھنا
طویل مدتی یادداشت · یاد کرنا بمقابلہ دوبارہ پڑھنا
سائنس کیا کہتی ہے
پائیدار سمجھ بنانے کے لیے کسی معلومات کو یاد کرنا اسے دوبارہ پڑھنے سے بہتر ہے۔
Fenzo یہ کیسے کرتا ہے
اسباق میں کوئز اور یاد کرنے کے سوالات شامل ہیں تاکہ سیکھا ہوا یاد رہے۔