आप अपनी कंपनी के HR बॉट से पैरेंटल लीव (माता-पिता बनने पर मिलने वाली छुट्टी) के बारे में एक आसान सवाल पूछते हैं। वह जल्दी से जवाब देता है, भरोसे के साथ बोलता है और साथ में सोर्स (हवाले) भी देता है। एक सोर्स का पेज टाइटल अजीब सा है और आपकी देखी हुई किसी भी HR पॉलिसी से मेल नहीं खाता। अगर आप बॉट बना रहे हैं या उसे चला रहे हैं, तो यही वह समय है जब आपको यह साफ़ तौर पर समझना होगा कि जवाब कैसे तैयार किया गया और सोर्स किया गया टेक्स्ट कहाँ से आया।
RAG सिक्योरिटी को समझने की शुरुआत इसके आर्किटेक्चर को समझने से होती है, क्योंकि आर्किटेक्चर ही इसकी वैल्यू और रिस्क, दोनों के बारे में बताता है। इस कोर्स में, हम उस आर्किटेक्चर का इस्तेमाल करके यह समझेंगे कि क्या गड़बड़ हो सकती है, कौन सा डेटा खतरे में है और कौन से सुरक्षा उपाय असल में नतीजों को बदलते हैं। सबसे पहले, आइए उस बेसिक प्रोसेस को समझते हैं जिसे RAG ऐप सवाल से जवाब तक पहुँचने के लिए अपनाता है।
Retrieval-augmented generation (RAG) एक तरीका है जिससे चैटबॉट सवाल पूछे जाने पर डॉक्यूमेंट कलेक्शन से जानकारी लेकर जवाब देता है। ऐप काम का टेक्स्ट ढूंढता है और उसे मॉडल के इनपुट में डालता है ताकि मॉडल उस टेक्स्ट के आधार पर जवाब लिख सके। मुख्य बात सरल है। जो भी टेक्स्ट मिलता है, उसका मॉडल के जवाब पर गहरा असर पड़ता है।
RAG सिस्टम में आमतौर पर कुछ हिस्से होते हैं जिनके बारे में आप इस कोर्स में जानेंगे। Retriever वह हिस्सा है जो काम का टेक्स्ट ढूंढता है। Vector database (vector DB) एक स्टोरेज सिस्टम है जो retriever को मिलता-जुलता टेक्स्ट तेज़ी से ढूंढने में मदद करता है। Chunks डॉक्यूमेंट के छोटे हिस्से होते हैं जिन्हें बाद में इस्तेमाल के लिए स्टोर किया जाता है। Top-k का मतलब है कि retriever सवाल के लिए मिले सबसे अच्छे k चंक्स देता है। Citations वे रेफरेंस हैं जिन्हें ऐप दिखाता है ताकि पता चल सके कि जवाब के लिए कौन से चंक्स इस्तेमाल किए गए थे। आइए देखें कि ये हिस्से कैसे जुड़ते हैं।
शुरुआत करने वालों को दो आम गलतियाँ एक जैसी लग सकती हैं क्योंकि दोनों में ही जवाब बहुत अच्छे से दिया जाता है। हैलुसिनेशन (भ्रम) तब होता है जब मॉडल कुछ ऐसा कहता है जो उसे दिए गए टेक्स्ट में नहीं है। सुरक्षा के लिहाज़ से, एक और चिंता तब होती है जब मिला हुआ टेक्स्ट मॉडल को गलत या असुरक्षित नतीजे की ओर ले जाता है, क्योंकि वह टेक्स्ट ही यूज़र के मकसद के हिसाब से गुमराह करने वाला होता है। असल हुनर यह है कि किसी भी दावे के बारे में एक सवाल पूछना सीखा जाए: इस वाक्य का सबूत मिले हुए टेक्स्ट में कहाँ है?
जब आप किसी जवाब को मिले हुए खास हिस्सों से जोड़कर देख पाते हैं, तो आप उन दावों को अलग कर सकते हैं जिनके लिए सबूत मौजूद हैं और उन दावों को भी जो बिना किसी आधार के हैं। इसी तरह जाँच-पड़ताल करने की आदत से आपको यह भी पता चल जाता है कि कब कोई संदिग्ध हिस्सा मॉडल को गलत दिशा में ले जा रहा है। दो जवाबों की तुलना करें और देखें कि कौन सी बात मिले हुए टेक्स्ट पर आधारित है और कौन सी नहीं।