फ़िल्टरिंग, थ्रेशोल्ड, इंसानी समीक्षा और ऑडिट के लिए तैयार सबूतों के ज़रिए नुकसानदेह LLM आउटपुट को रोकने के लिए व्यावहारिक उपाय बनाएं।
३ खंड · ८ पाठ
यह तय करें कि LLM से नुकसानदेह आउटपुट कैसे निकलते हैं, फिर नुकसान की कैटेगरी और गंभीरता के लेवल तय करें, ताकि मॉडरेशन के नियमों को मापा और ऑडिट किया जा सके।
२ पाठइनपुट, रिट्रीवल और आउटपुट फ़िल्टरिंग डिज़ाइन करें, फिर मॉडरेशन की सीमाएँ तय करें और अनिश्चित मामलों को लॉगिंग और एस्केलेशन के साथ ह्यूमन रिव्यू क्यू (human review queues) में भेजें।
३ पाठएडवर्सरियल टेस्ट के ज़रिए कंटेंट-सेफ़्टी कवरेज का मूल्यांकन करें, ऑडिटर द्वारा अपेक्षित पॉलिसी और लॉग के सबूत इकट्ठा करें, और बदलाव (ड्रिफ़्ट) दिखने पर कंट्रोल को ठीक करते रहें।
३ पाठहानिकारक LLM आउटपुट तब सुरक्षा की समस्या बन जाते हैं जब वे अलग-थलग गलतियों से बदलकर ऐसे अनुमान लगाने लायक फेलियर मोड (failure modes) बन जाते हैं, जिन्हें टीमें मॉडल और कंट्रोल कर सकती हैं। यह कोर्स सिक्योरिटी टीमों और AI/ML इंजीनियरों को हानिकारक कंटेंट को परिभाषित करने, फ़िल्टरिंग और रिव्यू कंट्रोल लगाने, मॉडरेशन के फ़ैसलों को बेहतर बनाने और यह सबूत देने का तरीका बताता है कि ये कंट्रोल काम करते हैं। कोर्स के आखिर तक, सीखने वाले कंटेंट सेफ़्टी को सिर्फ़ एक मॉडरेशन फ़ीचर के तौर पर नहीं, बल्कि एक ऑपरेशनल सिक्योरिटी डिसिप्लिन के तौर पर समझ सकेंगे।
इस कोर्स में नुकसानदायक LLM आउटपुट के लिए थ्रेट मॉडलिंग, ऑर्गनाइज़ेशन के हिसाब से नुकसान की कैटेगरी (टैक्सोनॉमी), और इनपुट, रिट्रीवल और आउटपुट पाथ पर 'डिफ़ेंस-इन-डेप्थ' फ़िल्टरिंग शामिल है। इसमें मॉडरेशन क्लासिफ़ायर, थ्रेशोल्ड सेट करना, ह्यूमन रिव्यू क्यू, एडवर्सरियल टेस्टिंग, कंप्लायंस डॉक्यूमेंटेशन और लगातार कंट्रोल ट्यूनिंग भी शामिल है।
प्रोजेक्ट मैनेजरों और ऑपरेशंस टीमों से लेकर संस्थापकों, विश्लेषकों और AI अपनाने वाली टीमों तक, Fenzo उन सभी के लिए है जो अपने रोज़मर्रा के काम में और बेहतर होना चाहते हैं।
प्रोजेक्ट की योजना बनाने और डेटा का विश्लेषण करने के लिए AI के इस्तेमाल से लेकर प्रक्रियाओं, निर्णय लेने, संवाद और क्रियान्वयन को बेहतर बनाने तक, सब कुछ। अगर आप कौशल या काम का वर्णन कर सकते हैं, तो Fenzo उस पर कोर्स बना सकता है।
हाँ। Fenzo को बताइए कि आप क्या करते हैं, क्या हासिल करना चाहते हैं और कहाँ अटके हैं, और वह कोर्स को आपकी भूमिका, आपके लक्ष्यों और उस काम के अनुसार ढाल देगा जो आपको वास्तव में करना है।
नहीं। Fenzo आपकी शुरुआती स्थिति के अनुसार ढल जाता है: आप बुनियादी बातों से शुरू कर सकते हैं या सीधे उन्नत विषयों पर जा सकते हैं।
हाँ। Fenzo for Business आपकी पूरी टीम को एक ही सब्सक्रिप्शन में जोड़ता है: साझा लाइसेंस, आपके सौंपे जा सकने वाले कोर्स और इस बारे में रिपोर्ट कि किसने क्या पूरा किया।
Fenzo for Business के बारे में जानेंआप अपना लक्ष्य बताकर या एक छोटा कौशल आकलन देकर शुरुआत करते हैं। Fenzo इस जानकारी से आपकी कमियाँ पहचानता है और सीखने का अनुभव उन्हीं के इर्द-गिर्द तैयार करता है।
हाँ, Fenzo आपके फ़ोन के ब्राउज़र में काम करता है।
हर खंड में कुछ ऐसा जिसके साथ आप इंटरैक्ट कर सकें।
सीखने पर दशकों के शोध के तीन निष्कर्षों ने तय किया कि हर Fenzo पाठ कैसे बनाया जाए।
औसत उत्तीर्णता दर · Freeman et al., PNAS 2014
विज्ञान क्या कहता है
सिर्फ़ व्याख्यान वाली कक्षाओं के छात्रों के फ़ेल होने की संभावना १.५× अधिक होती है।
Fenzo यह कैसे करता है
हर Fenzo पाठ इंटरैक्टिव है। कभी निष्क्रिय पढ़ना या देखना नहीं।
आप खुद करते हैंAI आपके लिए करता है
समय के साथ कौशल की स्मृति · अभ्यास के साथ बनाम बिना
विज्ञान क्या कहता है
सोचने का काम AI को सौंप देने से वही कौशल कमज़ोर होते हैं जिन्हें आप बनाना चाहते हैं।
Fenzo यह कैसे करता है
Fenzo आपसे सोचवाता है — मार्गदर्शन के साथ, पर आपके बदले कभी नहीं।
पुनःस्मरण अभ्यासदोबारा पढ़ना
दीर्घकालिक स्मृति · पुनःस्मरण बनाम दोबारा पढ़ना
विज्ञान क्या कहता है
टिकाऊ समझ बनाने के लिए किसी जानकारी को याद करना उसे दोबारा पढ़ने से बेहतर है।
Fenzo यह कैसे करता है
पाठों में क्विज़ और याद करने वाले सवाल शामिल हैं, ताकि सीखा हुआ टिका रहे।