ऐसे व्यावहारिक कंट्रोल डिज़ाइन करें जो प्रोडक्शन में LLM ऐप्लिकेशन्स को सुरक्षित, सीमित दायरे वाला, टेस्ट करने योग्य और भरोसेमंद बनाए रखें।
४ खंड · १२ पाठ
LLM रिक्वेस्ट पाथ में गार्डरेल्स कहाँ होने चाहिए, यह तय करें और प्रोडक्ट के लक्ष्यों को खतरों, कंट्रोल्स, मना करने के व्यवहार और डिटेक्शन सिग्नल्स में बदलें।
२ पाठभरोसेमंद न होने वाले प्रॉम्प्ट और मॉडल के जवाबों की जाँच के लिए सिस्टम बनाएँ, संवेदनशील डेटा के फैलाव को कम करें, और बैकएंड पर विषय और अनुमति से जुड़ी सीमाओं को लागू करें।
४ पाठस्ट्रक्चर्ड नतीजों को वेरिफ़ाई करें, क्लासिफ़ायर मॉडल के मुकाबले ह्यूरिस्टिक नियमों को परखें, और कम से कम प्रिविलेज, मंज़ूरी, आइडेंपोटेंसी और URL सुरक्षा के ज़रिए टूल कॉल्स को सुरक्षित करें।
३ पाठसुरक्षा, लेटेंसी और लागत के बीच संतुलन बनाएं, एडवर्सरियल मामलों (adversarial cases) के आधार पर गार्डरेल की क्वालिटी को मापें, और इन कंट्रोल को एक ऐसे चैटबॉट सिस्टम में शामिल करें जिसकी समीक्षा की जा सके।
३ पाठLLM एप्लीकेशन भरोसेमंद न होने वाले इनपुट स्वीकार करते हैं, अनिश्चित आउटपुट बनाते हैं और ऐसे काम शुरू कर सकते हैं जिनके गंभीर नतीजे हो सकते हैं, इसलिए सुरक्षा कंट्रोल को लागू करने लायक बैकएंड स्टेज पर होना चाहिए। यह कोर्स इंटरमीडिएट लेवल के डेवलपर्स को प्रोडक्ट से जुड़े जोखिमों को लेयर्ड गार्डरेल्स में बदलने में मदद करता है। इन गार्डरेल्स में नुकसानदायक प्रॉम्प्ट, असुरक्षित रिस्पॉन्स, सेंसिटिव डेटा, स्कोप, स्ट्रक्चर्ड आउटपुट, क्लासिफायर और टूल एक्शन जैसी चीज़ें शामिल होती हैं। कोर्स के आखिर तक आपके पास चैटबॉट के लिए एक एंड-टू-एंड कंट्रोल डिज़ाइन होगा, जिसमें मापने योग्य टेस्ट, टेलीमेट्री और सुरक्षा, लेटेंसी व लागत के बीच स्पष्ट ट्रेड-ऑफ शामिल होंगे।
इस कोर्स में गार्डरेल लगाना, खतरों का दायरा तय करना, इनपुट और आउटपुट की स्क्रीनिंग, संवेदनशील डेटा का पता लगाना, विषय और अनुमति की सीमाएं, स्कीमा वैलिडेशन, क्लासिफायर के फैसले, टूल ऑथराइजेशन, URL सुरक्षा, पाइपलाइन ऑप्टिमाइज़ेशन, रिग्रेशन टेस्टिंग, टेलीमेट्री और लेयर्ड चैटबॉट इंटीग्रेशन जैसी चीज़ें शामिल हैं।
प्रोजेक्ट मैनेजरों और ऑपरेशंस टीमों से लेकर संस्थापकों, विश्लेषकों और AI अपनाने वाली टीमों तक, Fenzo उन सभी के लिए है जो अपने रोज़मर्रा के काम में और बेहतर होना चाहते हैं।
प्रोजेक्ट की योजना बनाने और डेटा का विश्लेषण करने के लिए AI के इस्तेमाल से लेकर प्रक्रियाओं, निर्णय लेने, संवाद और क्रियान्वयन को बेहतर बनाने तक, सब कुछ। अगर आप कौशल या काम का वर्णन कर सकते हैं, तो Fenzo उस पर कोर्स बना सकता है।
हाँ। Fenzo को बताइए कि आप क्या करते हैं, क्या हासिल करना चाहते हैं और कहाँ अटके हैं, और वह कोर्स को आपकी भूमिका, आपके लक्ष्यों और उस काम के अनुसार ढाल देगा जो आपको वास्तव में करना है।
नहीं। Fenzo आपकी शुरुआती स्थिति के अनुसार ढल जाता है: आप बुनियादी बातों से शुरू कर सकते हैं या सीधे उन्नत विषयों पर जा सकते हैं।
हाँ। Fenzo for Business आपकी पूरी टीम को एक ही सब्सक्रिप्शन में जोड़ता है: साझा लाइसेंस, आपके सौंपे जा सकने वाले कोर्स और इस बारे में रिपोर्ट कि किसने क्या पूरा किया।
Fenzo for Business के बारे में जानेंआप अपना लक्ष्य बताकर या एक छोटा कौशल आकलन देकर शुरुआत करते हैं। Fenzo इस जानकारी से आपकी कमियाँ पहचानता है और सीखने का अनुभव उन्हीं के इर्द-गिर्द तैयार करता है।
हाँ, Fenzo आपके फ़ोन के ब्राउज़र में काम करता है।
हर खंड में कुछ ऐसा जिसके साथ आप इंटरैक्ट कर सकें।
सीखने पर दशकों के शोध के तीन निष्कर्षों ने तय किया कि हर Fenzo पाठ कैसे बनाया जाए।
औसत उत्तीर्णता दर · Freeman et al., PNAS 2014
विज्ञान क्या कहता है
सिर्फ़ व्याख्यान वाली कक्षाओं के छात्रों के फ़ेल होने की संभावना १.५× अधिक होती है।
Fenzo यह कैसे करता है
हर Fenzo पाठ इंटरैक्टिव है। कभी निष्क्रिय पढ़ना या देखना नहीं।
आप खुद करते हैंAI आपके लिए करता है
समय के साथ कौशल की स्मृति · अभ्यास के साथ बनाम बिना
विज्ञान क्या कहता है
सोचने का काम AI को सौंप देने से वही कौशल कमज़ोर होते हैं जिन्हें आप बनाना चाहते हैं।
Fenzo यह कैसे करता है
Fenzo आपसे सोचवाता है — मार्गदर्शन के साथ, पर आपके बदले कभी नहीं।
पुनःस्मरण अभ्यासदोबारा पढ़ना
दीर्घकालिक स्मृति · पुनःस्मरण बनाम दोबारा पढ़ना
विज्ञान क्या कहता है
टिकाऊ समझ बनाने के लिए किसी जानकारी को याद करना उसे दोबारा पढ़ने से बेहतर है।
Fenzo यह कैसे करता है
पाठों में क्विज़ और याद करने वाले सवाल शामिल हैं, ताकि सीखा हुआ टिका रहे।