डिफेंडर्स के लिए OWASP Top 10 में LLM खतरों को कंट्रोल, टेस्ट और मॉनिटरिंग से जोड़ें।
४ खंड · ९ पाठ
LLM एप्लीकेशन के कॉम्प्रोमाइज़ (सुरक्षा में सेंध) के संकेतों को परिभाषित करें और उन्हें OWASP Top 10 से मैप करें, साथ ही तुरंत रोकथाम का लक्ष्य भी तय करें।
१ पाठप्रॉम्प्ट इंजेक्शन की तुलना उससे जुड़े अन्य जोखिमों से करें, और फिर डिस्क्लोज़र, छिपे हुए संदर्भ, एजेंसी और आउटपुट हैंडलिंग के लिए कंट्रोल, टेस्ट और मॉनिटरिंग चुनें।
३ पाठमॉडल, प्रॉम्प्ट, डेटासेट, प्लगइन, रनटाइम, ट्रेनिंग, फ़ाइन-ट्यूनिंग, RAG और फ़ीडबैक लूप के ज़रिए खतरों का पता लगाएँ, और फिर वेरिफिकेशन, वैलिडेशन और ड्रिफ़्ट मॉनिटरिंग को परिभाषित करें।
२ पाठउपभोग के गलत इस्तेमाल, RAG की कमियों और गलत जानकारी का मूल्यांकन करें, और फिर टेस्ट और मॉनिटरिंग रनबुक्स के साथ OWASP-मैप्ड रिव्यू करें।
३ पाठLLM में सेंध लगने की घटना शायद ही कभी सिर्फ़ एक बग की वजह से होती है; यह कई लक्षणों की एक कड़ी होती है जिन्हें तेज़ी से सही OWASP कैटेगरी से जोड़ना ज़रूरी होता है। यह कोर्स सिक्योरिटी टीमों और AI/ML इंजीनियरों को LLM और AI एप्लीकेशन में बड़े खतरों के पैटर्न को 'डिफेंडर' (सुरक्षा करने वाले) के नज़रिए से समझने में मदद करता है। साथ ही, इसमें रोकथाम (containment), मज़बूती (hardening), वैलिडेशन और मॉनिटरिंग के बारे में सोचने के व्यावहारिक तरीके भी बताए जाते हैं। कोर्स पूरा होने तक, सीखने वाले हमलों को क्लासिफ़ाई कर सकेंगे, उन्हें रोकने वाले कंट्रोल चुन सकेंगे और एक भरोसेमंद सिक्योरिटी नज़रिए से LLM सिस्टम का रिव्यू कर सकेंगे।
इस कोर्स में प्रॉम्प्ट इंजेक्शन, संवेदनशील जानकारी का खुलासा, छिपे हुए संदर्भ का पता चलना, ज़रूरत से ज़्यादा एजेंसी, आउटपुट को ठीक से न संभालना, सप्लाई चेन का जोखिम, डेटा और मॉडल पॉइज़निंग, असीमित खपत, वेक्टर और एम्बेडिंग की कमज़ोरियाँ और गलत जानकारी जैसे विषय शामिल हैं। इसमें LLM सुरक्षा आकलन के लिए वेरिफिकेशन, टेस्टिंग, मॉनिटरिंग सिग्नल और OWASP-मैप्ड रिव्यू वर्कफ़्लो भी शामिल हैं।
प्रोजेक्ट मैनेजरों और ऑपरेशंस टीमों से लेकर संस्थापकों, विश्लेषकों और AI अपनाने वाली टीमों तक, Fenzo उन सभी के लिए है जो अपने रोज़मर्रा के काम में और बेहतर होना चाहते हैं।
प्रोजेक्ट की योजना बनाने और डेटा का विश्लेषण करने के लिए AI के इस्तेमाल से लेकर प्रक्रियाओं, निर्णय लेने, संवाद और क्रियान्वयन को बेहतर बनाने तक, सब कुछ। अगर आप कौशल या काम का वर्णन कर सकते हैं, तो Fenzo उस पर कोर्स बना सकता है।
हाँ। Fenzo को बताइए कि आप क्या करते हैं, क्या हासिल करना चाहते हैं और कहाँ अटके हैं, और वह कोर्स को आपकी भूमिका, आपके लक्ष्यों और उस काम के अनुसार ढाल देगा जो आपको वास्तव में करना है।
नहीं। Fenzo आपकी शुरुआती स्थिति के अनुसार ढल जाता है: आप बुनियादी बातों से शुरू कर सकते हैं या सीधे उन्नत विषयों पर जा सकते हैं।
हाँ। Fenzo for Business आपकी पूरी टीम को एक ही सब्सक्रिप्शन में जोड़ता है: साझा लाइसेंस, आपके सौंपे जा सकने वाले कोर्स और इस बारे में रिपोर्ट कि किसने क्या पूरा किया।
Fenzo for Business के बारे में जानेंआप अपना लक्ष्य बताकर या एक छोटा कौशल आकलन देकर शुरुआत करते हैं। Fenzo इस जानकारी से आपकी कमियाँ पहचानता है और सीखने का अनुभव उन्हीं के इर्द-गिर्द तैयार करता है।
हाँ, Fenzo आपके फ़ोन के ब्राउज़र में काम करता है।
हर खंड में कुछ ऐसा जिसके साथ आप इंटरैक्ट कर सकें।
सीखने पर दशकों के शोध के तीन निष्कर्षों ने तय किया कि हर Fenzo पाठ कैसे बनाया जाए।
औसत उत्तीर्णता दर · Freeman et al., PNAS 2014
विज्ञान क्या कहता है
सिर्फ़ व्याख्यान वाली कक्षाओं के छात्रों के फ़ेल होने की संभावना १.५× अधिक होती है।
Fenzo यह कैसे करता है
हर Fenzo पाठ इंटरैक्टिव है। कभी निष्क्रिय पढ़ना या देखना नहीं।
आप खुद करते हैंAI आपके लिए करता है
समय के साथ कौशल की स्मृति · अभ्यास के साथ बनाम बिना
विज्ञान क्या कहता है
सोचने का काम AI को सौंप देने से वही कौशल कमज़ोर होते हैं जिन्हें आप बनाना चाहते हैं।
Fenzo यह कैसे करता है
Fenzo आपसे सोचवाता है — मार्गदर्शन के साथ, पर आपके बदले कभी नहीं।
पुनःस्मरण अभ्यासदोबारा पढ़ना
दीर्घकालिक स्मृति · पुनःस्मरण बनाम दोबारा पढ़ना
विज्ञान क्या कहता है
टिकाऊ समझ बनाने के लिए किसी जानकारी को याद करना उसे दोबारा पढ़ने से बेहतर है।
Fenzo यह कैसे करता है
पाठों में क्विज़ और याद करने वाले सवाल शामिल हैं, ताकि सीखा हुआ टिका रहे।