समझें कि जेलब्रेक सुरक्षा उपायों को कैसे पार करते हैं और डिप्लॉय किए गए LLM ऐप्लिकेशन्स के लिए लेयर्ड और मापने योग्य सुरक्षा कैसे बनाएं।
४ खंड · १२ पाठ
'जेलब्रेक' को परिभाषित करें, 'प्रॉम्प्ट इंजेक्शन' से उनका अंतर बताएं, और यह जांचें कि सेफ्टी ट्रेनिंग किस तरह मॉडल के व्यवहार को आकार देती है और डिप्लॉय किए गए सिस्टम में इसकी क्या सीमाएं हैं।
२ पाठमॉडल के सुरक्षा उपायों को दरकिनार करने के अलग-अलग तरीकों के तौर पर 'पर्सोना फ्रेमिंग', 'मल्टी-टर्न एस्केलेशन', 'मेनी-शॉट कॉन्टेक्स्ट', 'एडवर्सरियल सफिक्स', 'ऑब्फस्केशन' और 'मल्टीमॉडल इनपुट' का विश्लेषण करें।
६ पाठह्यूरिस्टिक्स, क्लासिफ़ायर्स और टेलीमेट्री का इस्तेमाल करके डिटेक्शन सिस्टम बनाएं, और फिर मॉनिटरिंग, रेट लिमिटिंग, सुरक्षा ट्रेनिंग और दूसरे कंट्रोल को मिलाकर लेयर्ड प्रोटेक्शन तैयार करें।
२ पाठसुरक्षित और डॉक्यूमेंटेड तरीकों से रेजिस्टेंस (रुकावट) का मूल्यांकन करें और नतीजों को ऑपरेशनल कंट्रोल और रिग्रेशन टेस्ट के साथ पब्लिक चैटबॉट ब्लूप्रिंट पर लागू करें।
२ पाठजेलब्रेकिंग से यह पता चलता है कि क्या किसी LLM एप्लीकेशन को उसकी तय सुरक्षा सीमाओं से आगे ले जाया जा सकता है, जिससे यूज़र्स, ऑर्गनाइज़ेशन और पब्लिक-फेसिंग सिस्टम के लिए जोखिम पैदा हो सकते हैं। यह कोर्स इंटरमीडिएट डेवलपर्स, ML इंजीनियर्स और सिक्योरिटी प्रोफेशनल्स को जेलब्रेक मैकेनिज्म का विश्लेषण करने, उनकी सीमाओं को समझने और लेयर्ड डिफेंस (कई स्तरों वाली सुरक्षा) लागू करने के लिए एक स्पष्ट फ्रेमवर्क देता है। आप डिटेक्शन, ज़िम्मेदार मूल्यांकन और चैटबॉट को सुरक्षित बनाने (हार्डनिंग) के व्यावहारिक तरीके सीखेंगे, बिना किसी ऐसे निर्देश को पब्लिश किए जिनका गलत इस्तेमाल किया जा सके।
इस कोर्स में सेफ्टी ट्रेनिंग की सीमाएं, पर्सोना और मल्टी-टर्न अटैक, मेनी-शॉट कॉन्टेक्स्ट, एडवर्सरियल सफिक्स, ऑब्फस्केशन और मल्टीमॉडल इनपुट शामिल हैं। इसमें पब्लिक चैटबॉट्स के लिए डिटेक्शन, लेयर्ड डिफेंस, ज़िम्मेदार तरीके से रेजिस्टेंस का मूल्यांकन और ऑपरेशनल हार्डनिंग भी शामिल है।
प्रोजेक्ट मैनेजरों और ऑपरेशंस टीमों से लेकर संस्थापकों, विश्लेषकों और AI अपनाने वाली टीमों तक, Fenzo उन सभी के लिए है जो अपने रोज़मर्रा के काम में और बेहतर होना चाहते हैं।
प्रोजेक्ट की योजना बनाने और डेटा का विश्लेषण करने के लिए AI के इस्तेमाल से लेकर प्रक्रियाओं, निर्णय लेने, संवाद और क्रियान्वयन को बेहतर बनाने तक, सब कुछ। अगर आप कौशल या काम का वर्णन कर सकते हैं, तो Fenzo उस पर कोर्स बना सकता है।
हाँ। Fenzo को बताइए कि आप क्या करते हैं, क्या हासिल करना चाहते हैं और कहाँ अटके हैं, और वह कोर्स को आपकी भूमिका, आपके लक्ष्यों और उस काम के अनुसार ढाल देगा जो आपको वास्तव में करना है।
नहीं। Fenzo आपकी शुरुआती स्थिति के अनुसार ढल जाता है: आप बुनियादी बातों से शुरू कर सकते हैं या सीधे उन्नत विषयों पर जा सकते हैं।
हाँ। Fenzo for Business आपकी पूरी टीम को एक ही सब्सक्रिप्शन में जोड़ता है: साझा लाइसेंस, आपके सौंपे जा सकने वाले कोर्स और इस बारे में रिपोर्ट कि किसने क्या पूरा किया।
Fenzo for Business के बारे में जानेंआप अपना लक्ष्य बताकर या एक छोटा कौशल आकलन देकर शुरुआत करते हैं। Fenzo इस जानकारी से आपकी कमियाँ पहचानता है और सीखने का अनुभव उन्हीं के इर्द-गिर्द तैयार करता है।
हाँ, Fenzo आपके फ़ोन के ब्राउज़र में काम करता है।
हर खंड में कुछ ऐसा जिसके साथ आप इंटरैक्ट कर सकें।
सीखने पर दशकों के शोध के तीन निष्कर्षों ने तय किया कि हर Fenzo पाठ कैसे बनाया जाए।
औसत उत्तीर्णता दर · Freeman et al., PNAS 2014
विज्ञान क्या कहता है
सिर्फ़ व्याख्यान वाली कक्षाओं के छात्रों के फ़ेल होने की संभावना १.५× अधिक होती है।
Fenzo यह कैसे करता है
हर Fenzo पाठ इंटरैक्टिव है। कभी निष्क्रिय पढ़ना या देखना नहीं।
आप खुद करते हैंAI आपके लिए करता है
समय के साथ कौशल की स्मृति · अभ्यास के साथ बनाम बिना
विज्ञान क्या कहता है
सोचने का काम AI को सौंप देने से वही कौशल कमज़ोर होते हैं जिन्हें आप बनाना चाहते हैं।
Fenzo यह कैसे करता है
Fenzo आपसे सोचवाता है — मार्गदर्शन के साथ, पर आपके बदले कभी नहीं।
पुनःस्मरण अभ्यासदोबारा पढ़ना
दीर्घकालिक स्मृति · पुनःस्मरण बनाम दोबारा पढ़ना
विज्ञान क्या कहता है
टिकाऊ समझ बनाने के लिए किसी जानकारी को याद करना उसे दोबारा पढ़ने से बेहतर है।
Fenzo यह कैसे करता है
पाठों में क्विज़ और याद करने वाले सवाल शामिल हैं, ताकि सीखा हुआ टिका रहे।