OWASP Top 10 जोखिमों के आधार पर अधिकृत LLM रेड टीम टेस्ट की योजना बनाएं, उन्हें चलाएं और उनकी रिपोर्ट तैयार करें।
४ खंड · ८ पाठ
उस घटना, एंगेजमेंट के नियमों और टेस्ट प्लान को परिभाषित करें जो LLM रेड टीम के प्रयास को अधिकृत, ऑडिट-योग्य और OWASP कवरेज से जुड़ा हुआ बनाते हैं।
३ पाठसबूत और सुरक्षा को बनाए रखते हुए डायरेक्ट और इनडायरेक्ट प्रॉम्प्ट इंजेक्शन टेस्ट चलाने के लिए garak, PyRIT और promptfoo का इस्तेमाल करें।
१ पाठरिट्रीवल, मेमोरी, कॉन्टेक्स्ट, एजेंट, टूल-यूज़ और रिसोर्स-एग्जॉशन से जुड़े जोखिमों का मूल्यांकन करें और OWASP-मैप्ड फेलियर क्लास के लिए सबूत भी इकट्ठा करें।
२ पाठआउटपुट हैंडलिंग और डिपेंडेंसी कॉम्प्रोमाइज़ की जांच करें, फिर अपनी फाइंडिंग्स को एक पूरी रिपोर्ट में बदलें जिसमें गंभीरता, समाधान, रीटेस्ट के स्टेप्स और रिलीज़ गाइडेंस शामिल हों।
२ पाठइस एडवांस्ड रेड टीमिंग कोर्स की शुरुआत OWASP के आधार पर एक लाइव LLM घटना को क्लासिफ़ाई करने से होती है। यह कोर्स सिक्योरिटी टीमों और रेड टीमर्स के लिए अधिकृत एडवर्सरियल टेस्टिंग पर केंद्रित है, जिन्हें अपने एप्लिकेशन के लिए स्पष्ट स्कोप, सबूत और रिलीज़ से जुड़े फ़ैसलों की ज़रूरत होती है। कोर्स के अंत तक, सीखने वाले एक टेस्ट प्रोग्राम तैयार कर सकेंगे, आम टूल्स का इस्तेमाल करके कंट्रोल्ड अटैक कर सकेंगे, और अपनी खोजों को एक एग्जीक्यूटिव रिपोर्ट में बदल सकेंगे, जिसमें सुधार के उपाय और 'गो या नो-गो' (आगे बढ़ने या न बढ़ने) से जुड़ी सलाह शामिल होगी।
इस कोर्स में किसी खास LLM एप्लीकेशन के लिए OWASP-मैप्ड टेस्ट प्लानिंग, काम करने के नियम और चलाए जा सकने वाले टेस्ट केस शामिल हैं। इसमें garak, PyRIT और promptfoo के साथ प्रॉम्प्ट इंजेक्शन टेस्टिंग के साथ-साथ रिट्रीवल, मेमोरी, एजेंट, आउटपुट हैंडलिंग और सप्लाई चेन फेलियर से जुड़ी बातें भी शामिल हैं।
प्रोजेक्ट मैनेजरों और ऑपरेशंस टीमों से लेकर संस्थापकों, विश्लेषकों और AI अपनाने वाली टीमों तक, Fenzo उन सभी के लिए है जो अपने रोज़मर्रा के काम में और बेहतर होना चाहते हैं।
प्रोजेक्ट की योजना बनाने और डेटा का विश्लेषण करने के लिए AI के इस्तेमाल से लेकर प्रक्रियाओं, निर्णय लेने, संवाद और क्रियान्वयन को बेहतर बनाने तक, सब कुछ। अगर आप कौशल या काम का वर्णन कर सकते हैं, तो Fenzo उस पर कोर्स बना सकता है।
हाँ। Fenzo को बताइए कि आप क्या करते हैं, क्या हासिल करना चाहते हैं और कहाँ अटके हैं, और वह कोर्स को आपकी भूमिका, आपके लक्ष्यों और उस काम के अनुसार ढाल देगा जो आपको वास्तव में करना है।
नहीं। Fenzo आपकी शुरुआती स्थिति के अनुसार ढल जाता है: आप बुनियादी बातों से शुरू कर सकते हैं या सीधे उन्नत विषयों पर जा सकते हैं।
हाँ। Fenzo for Business आपकी पूरी टीम को एक ही सब्सक्रिप्शन में जोड़ता है: साझा लाइसेंस, आपके सौंपे जा सकने वाले कोर्स और इस बारे में रिपोर्ट कि किसने क्या पूरा किया।
Fenzo for Business के बारे में जानेंआप अपना लक्ष्य बताकर या एक छोटा कौशल आकलन देकर शुरुआत करते हैं। Fenzo इस जानकारी से आपकी कमियाँ पहचानता है और सीखने का अनुभव उन्हीं के इर्द-गिर्द तैयार करता है।
हाँ, Fenzo आपके फ़ोन के ब्राउज़र में काम करता है।
हर खंड में कुछ ऐसा जिसके साथ आप इंटरैक्ट कर सकें।
सीखने पर दशकों के शोध के तीन निष्कर्षों ने तय किया कि हर Fenzo पाठ कैसे बनाया जाए।
औसत उत्तीर्णता दर · Freeman et al., PNAS 2014
विज्ञान क्या कहता है
सिर्फ़ व्याख्यान वाली कक्षाओं के छात्रों के फ़ेल होने की संभावना १.५× अधिक होती है।
Fenzo यह कैसे करता है
हर Fenzo पाठ इंटरैक्टिव है। कभी निष्क्रिय पढ़ना या देखना नहीं।
आप खुद करते हैंAI आपके लिए करता है
समय के साथ कौशल की स्मृति · अभ्यास के साथ बनाम बिना
विज्ञान क्या कहता है
सोचने का काम AI को सौंप देने से वही कौशल कमज़ोर होते हैं जिन्हें आप बनाना चाहते हैं।
Fenzo यह कैसे करता है
Fenzo आपसे सोचवाता है — मार्गदर्शन के साथ, पर आपके बदले कभी नहीं।
पुनःस्मरण अभ्यासदोबारा पढ़ना
दीर्घकालिक स्मृति · पुनःस्मरण बनाम दोबारा पढ़ना
विज्ञान क्या कहता है
टिकाऊ समझ बनाने के लिए किसी जानकारी को याद करना उसे दोबारा पढ़ने से बेहतर है।
Fenzo यह कैसे करता है
पाठों में क्विज़ और याद करने वाले सवाल शामिल हैं, ताकि सीखा हुआ टिका रहे।