ان حملوں، حدود اور حفاظتی اقدامات کی نشاندہی کریں جو چیٹ بوٹ کو ڈیٹا لیک کرنے، غلط اقدامات کرنے یا بجٹ ضائع کرنے سے روکتے ہیں۔
۵ حصے · ۱۴ اسباق
وضاحت کریں کہ ShopEasy پیغامات، ٹول کالز اور چیٹ ہسٹری کو کس طرح پروسیس کرتا ہے، اور پھر ایک سادہ 'تھریٹ ماڈل' (threat model) کے ذریعے اس کے اہم سیکیورٹی خطرات کی نشاندہی کریں۔
۲ اسباقان بنیادی طریقوں کا موازنہ کریں جن کے ذریعے حملہ آور چیٹ بوٹ کے الفاظ، پوشیدہ سیاق و سباق، ڈیٹا، ٹولز اور وسائل کے استعمال کو نقصان دہ مقاصد کے لیے مسخ کرتے ہیں۔
۶ اسباقایسے کنٹرولز (controls) کا اطلاق کریں جو پرامپٹ (prompt) اور کوڈ (code) کی سطح پر انجیکشن، لیکج، غلط استعمال اور ناجائز استعمال کو کم کریں، اور ساتھ ہی یہ بھی ذہن میں رکھیں کہ کون سا کنٹرول اکیلے کس چیز کو روکنے سے قاصر ہے۔
۴ اسباقایسے لاگز (logs)، الرٹس اور 'ریڈ ٹیم' (red team) کے معائینوں کا جائزہ لیں جو اجازت (authorization) کے عمل میں رہ جانے والی خامیوں کی نشاندہی کرتے ہیں، اور تبدیلیوں کے بعد اصلاحات کی جانچ کریں۔
۱ سبقخطرات کا مناسب حفاظتی اقدامات سے موازنہ کریں اور شپنگ سے قبل ShopEasy کے لیے ایک مختصر جائزہ چیک لسٹ استعمال کریں۔
۱ سبقAI چیٹ بوٹس سوالات کے جواب دے سکتے ہیں، مختلف ٹولز (tools) کو استعمال کر سکتے ہیں، اور سیکیورٹی کمزور ہونے کی صورت میں ایسی معلومات ظاہر کر سکتے ہیں جو انہیں نہیں کرنی چاہئیں۔ یہ کورس بتاتا ہے کہ چیٹ بوٹ کیسے کام کرتا ہے، اس کے اعتماد کی حدود (trust boundaries) کیا ہیں، اور کس طرح عام حملے ایک عام بات چیت کو ڈیٹا کی چوری، نقصان دہ نتائج، ٹولز کے غلط استعمال یا اخراجات میں بے تحاشا اضافے میں بدل سکتے ہیں۔ یہ کورس ان مبتدیوں کے لیے ہے جو چیٹ بوٹ سے وابستہ خطرات کو اتنی اچھی طرح سمجھنا چاہتے ہیں کہ وہ سیکیورٹی اقدامات کا جائزہ لے سکیں، ڈیزائنز کو پرکھ سکیں اور چیٹ بوٹ کے اجرا (ship) سے قبل اس میں موجود خامیوں کی نشاندہی کر سکیں۔
یہ کورس اس بات کا احاطہ کرتا ہے کہ ایک LLM چیٹ بوٹ 'ریکوئسٹ لوپ' (request loop) میں سسٹم پرامپٹ، چیٹ ہسٹری، صارف کے ان پٹ اور ٹولز کو کس طرح استعمال کرتا ہے، اور ساتھ ہی اس میں رازداری (confidentiality)، سالمیت (integrity) اور دستیابی (availability) پر مبنی بنیادی سیکیورٹی ماڈل کا بھی جائزہ لیا جاتا ہے۔ اس کے بعد، اس میں پرامپٹ انجیکشن، جیل بریکنگ، پرامپٹ لیکج، پرائیویسی کے خطرات، ٹولز کا غلط استعمال، ڈینائل آف سروس (DoS)، گارڈ ریلز، ڈیٹا کے تحفظ، اجازت (authorization)، ریٹ لمٹس، نگرانی اور 'ریڈ ٹیمنگ' (red teaming) جیسے موضوعات شامل ہیں۔
پروجیکٹ مینیجرز اور آپریشنز ٹیموں سے لے کر بانیان، تجزیہ کاروں اور AI اپنانے والی ٹیموں تک، Fenzo ان سب کے لیے ہے جو اپنے روزمرہ کام میں مزید بہتر ہونا چاہتے ہیں۔
پروجیکٹس کی منصوبہ بندی اور ڈیٹا کے تجزیے کے لیے AI کے استعمال سے لے کر عمل، فیصلہ سازی، بات چیت اور تکمیل کو بہتر بنانے تک، سب کچھ۔ اگر آپ مہارت یا کام بیان کر سکتے ہیں تو Fenzo اس پر کورس بنا سکتا ہے۔
جی ہاں۔ Fenzo کو بتائیں کہ آپ کیا کرتے ہیں، کیا حاصل کرنا چاہتے ہیں اور کہاں پھنسے ہیں، اور وہ کورس کو آپ کے کردار، آپ کے اہداف اور اس کام کے مطابق ڈھال دے گا جو آپ کو واقعی کرنا ہے۔
نہیں۔ Fenzo آپ کے نقطۂ آغاز کے مطابق ڈھل جاتا ہے: آپ بنیادی باتوں سے شروع کر سکتے ہیں یا سیدھے اعلیٰ موضوعات پر جا سکتے ہیں۔
جی ہاں۔ Fenzo for Business آپ کی پوری ٹیم کو ایک ہی سبسکرپشن میں اکٹھا کرتا ہے: مشترکہ لائسنس، تفویض کیے جا سکنے والے کورسز اور اس بارے میں رپورٹس کہ کس نے کیا مکمل کیا۔
Fenzo for Business کے بارے میں جانیںآپ اپنا ہدف بتا کر یا ایک مختصر مہارتی جائزہ دے کر آغاز کرتے ہیں۔ Fenzo اس سیاق سے آپ کی کمزوریاں پہچانتا ہے اور سیکھنے کا تجربہ انہی کے گرد ترتیب دیتا ہے۔
جی ہاں، Fenzo آپ کے فون کے براؤزر میں چلتا ہے۔
ہر حصے میں کچھ ایسا جس کے ساتھ آپ تعامل کر سکیں۔
سیکھنے پر دہائیوں کی تحقیق کے تین نتائج نے طے کیا کہ ہر Fenzo سبق کیسے بنایا جائے۔
اوسط کامیابی کی شرح · Freeman et al., PNAS 2014
سائنس کیا کہتی ہے
صرف لیکچر والی کلاسوں کے طلبہ کے فیل ہونے کا امکان ۱.۵× زیادہ ہوتا ہے۔
Fenzo یہ کیسے کرتا ہے
ہر Fenzo سبق انٹرایکٹو ہے۔ کبھی غیر فعال پڑھنا یا دیکھنا نہیں۔
آپ خود کرتے ہیںAI آپ کے لیے کرتا ہے
وقت کے ساتھ مہارت کی یادداشت · مشق کے ساتھ بمقابلہ بغیر
سائنس کیا کہتی ہے
سوچنے کا کام AI کے سپرد کر دینے سے وہی مہارتیں کمزور ہوتی ہیں جو آپ بنانا چاہتے ہیں۔
Fenzo یہ کیسے کرتا ہے
Fenzo آپ سے سوچواتا ہے — رہنمائی کے ساتھ، مگر آپ کی جگہ کبھی نہیں۔
یاد کرنے کی مشقدوبارہ پڑھنا
طویل مدتی یادداشت · یاد کرنا بمقابلہ دوبارہ پڑھنا
سائنس کیا کہتی ہے
پائیدار سمجھ بنانے کے لیے کسی معلومات کو یاد کرنا اسے دوبارہ پڑھنے سے بہتر ہے۔
Fenzo یہ کیسے کرتا ہے
اسباق میں کوئز اور یاد کرنے کے سوالات شامل ہیں تاکہ سیکھا ہوا یاد رہے۔