जेनरेटिव AI एप्लीकेशन की सुरक्षा ट्रस्ट बाउंड्री तय करने से शुरू होती है। ट्रस्ट बाउंड्री वह सीमा है जहाँ कोई दूसरा ऑपरेटर या पॉलिसी सेट किसी रिक्वेस्ट को देख, बदल या ब्लॉक कर सकता है।
इस कोर्स में, हम एक ऐसे GenAI एप्लीकेशन को सुरक्षित करते हैं जो प्रॉम्प्ट भेजता है, प्राइवेट डेटा निकालता है, टूल्स का इस्तेमाल करता है और आउटपुट देता है। इसका सुरक्षा का काम पारंपरिक ऐप्स से अलग होता है क्योंकि मॉडल के इनपुट और आउटपुट को निर्देशों (instructions) से भरोसेमंद तरीके से अलग नहीं किया जा सकता।
हम मॉडल आउटपुट को हर उस डाउनस्ट्रीम सिस्टम के लिए अनट्रस्टेड (भरोसे के लायक नहीं) इनपुट मानते हैं जो इसे प्रोसेस करता है या इस पर काम करता है। यह एक सोच डेटा के चोरी होने और टूल्स के गलत इस्तेमाल जैसी कई ऐसी समस्याओं को रोकती है जिनसे बचा जा सकता है।
GenAI ऐप में भी किसी भी वेब वर्कलोड की तरह ही बेसिक सुरक्षा की ज़रूरतें होती हैं। इसमें भी आइडेंटिटी, नेटवर्क सेगमेंटेशन, एन्क्रिप्शन, लॉगिंग और इंसिडेंट रिस्पॉन्स की ज़रूरत होती है।
GenAI ऐप में प्रॉम्प्ट, रिट्रीवल कॉन्टेक्स्ट, टूल आर्ग्युमेंट्स और मॉडल आउटपुट के ज़रिए जोखिम बढ़ जाते हैं। इन रास्तों से संवेदनशील डेटा जा सकता है, भले ही प्रोवाइडर इनपुट पर ट्रेनिंग न करने का वादा करे।
थ्रेट मॉडलिंग में पहला काम एसेट और उसकी सुरक्षा करने वाली बाउंड्री का नाम तय करना है। GenAI में, सबसे ज़्यादा अहम एसेट्स में प्रोप्राइटरी टेक्स्ट, क्रेडेंशियल्स और टूल की क्षमताएं शामिल हैं।
मॉडल का इस्तेमाल कैसे किया जाता है, इसके आधार पर क्लाउड की ज़िम्मेदारी बदलती है। कंजम्पशन मोड (इस्तेमाल का तरीका) वह ऑपरेशनल फैसला है जिससे तय होता है कि मॉडल कौन चलाएगा और इसके रनटाइम को कौन एक्सेस कर पाएगा।
हम आम तरीकों को इन ग्रुप्स में बांट सकते हैं: होस्टेड मॉडल API को कॉल करना, मैनेज्ड मॉडल को कस्टमाइज़ करना, मैनेज्ड AI प्लेटफॉर्म पर बनाना और मॉडल वेट्स को खुद होस्ट करना। खुद होस्ट करने की दिशा में हर कदम के साथ, हमें सीधे तौर पर ज़्यादा चीज़ें सुरक्षित करनी पड़ती हैं।
एक प्रोवाइडर मॉडल सर्विस चला सकता है और फिर भी एप्लीकेशन की ट्रस्ट बाउंड्री से बाहर रह सकता है। एप्लीकेशन टीम के पास प्रॉम्प्ट हैंडलिंग, रिट्रीवल फिल्टरिंग, टूल ऑथराइजेशन और आउटपुट हैंडलिंग की ज़िम्मेदारी बनी रहती है।
अब हम देख सकते हैं कि इन तरीकों में ओनरशिप कैसे बदलती है।
हम इस कोर्स के बाकी हिस्से को कुछ खास बाउंड्रीज़ (सीमाओं) पर आधारित करते हैं। हर बाउंड्री एक ऐसी जगह होती है जहाँ कंट्रोल लागू किया जा सकता है और बाद में सबूतों की जाँच की जा सकती है।
आइडेंटिटी बाउंड्री का मतलब है कि कौन सा प्रिंसिपल (यूज़र या सिस्टम) किस परमिशन के साथ API को कॉल कर सकता है। इस बाउंड्री में वर्कलोड क्रेडेंशियल्स, सेशन का दायरा और हर टूल कॉल पर ऑथराइज़ेशन की जाँच शामिल होती है।
नेटवर्क बाउंड्री का मतलब है कि पैकेट लेवल पर ट्रैफ़िक कहाँ से कहाँ जा सकता है। इस बाउंड्री में प्राइवेट कनेक्टिविटी, बाहर जाने वाले ट्रैफ़िक (egress) पर रोक और यह बात शामिल है कि क्या कोई सर्विस पब्लिक इंटरनेट से एक्सेस की जा सकती है।
डेटा बाउंड्री का मतलब है कि कौन से स्टोरेज सिस्टम और लॉग्स प्रॉम्प्ट, निकाले गए कॉन्टेक्स्ट और आउटपुट को सेव करके रख सकते हैं। इस बाउंड्री में डेटा को कितने समय तक रखना है (retention), एक्सेस कंट्रोल और लॉगिंग से पहले संवेदनशील जानकारी को छिपाना (redaction) शामिल है।
मॉडल आर्टिफैक्ट बाउंड्री का मतलब है कि मॉडल फ़ाइलें, एडॉप्टर और कंटेनर कैसे बिल्ड और रनटाइम में आते हैं। इस बाउंड्री में लोड और डिप्लॉयमेंट के दौरान सोर्स की जानकारी (provenance), इंटीग्रिटी और डिपेंडेंसी एक्सपोज़र शामिल होता है।
टूल बाउंड्री का मतलब है कि मॉडल कनेक्टर, फ़ंक्शन या एजेंट के ज़रिए कौन से एक्शन शुरू कर सकता है। इस बाउंड्री में हर एक्शन के लिए ऑथराइज़ेशन और टूल तक कौन से आर्ग्युमेंट पहुँच सकते हैं, इस पर लगी सीमाएँ शामिल होती हैं।
एक्सटर्नल इग्रेस बाउंड्री का मतलब है कि कौन सा डेटा थर्ड पार्टी, प्लगइन या ओपन इंटरनेट तक जा सकता है। यह बाउंड्री बहुत ज़रूरी है क्योंकि डेटा को बाहर भेजने (exfiltration) के लिए एक आउटबाउंड रास्ते की ज़रूरत होती है।
अब हम यह देख सकते हैं कि प्रॉम्प्ट, डेटा निकालना (retrieval), टूल, लॉग और बाहर जाने वाला डेटा (egress) इन बाउंड्रीज़ को कैसे पार करते हैं।