आप अपनी शिफ्ट शुरू कर रहे हैं और अलर्ट कतार में पहले से ही AI से जुड़े तीन अलर्ट हैं, जिनके साथ AI ट्राइएज स्कोर भी जुड़ा है। इस चरण में आपका काम हर अलर्ट पर एक तेज़ और सही ठहराने लायक शुरुआती राय बनाना है। इसका मतलब है - एक काम का वर्गीकरण, टेलीमेट्री में वे ज़रूरी सबूत जिनकी आपको पुष्टि करनी है, और एक साफ़ बयान कि आप किन चीज़ों के बारे में अभी पक्के तौर पर नहीं जानते। यह कोर्स AI को एक एनालिस्ट के इनपुट के तौर पर देखता है, न कि किसी अथॉरिटी के तौर पर। मामले के निपटारे के लिए आप ही ज़िम्मेदार रहेंगे।
इस कोर्स के बारे में सोचने का एक उपयोगी तरीका यह है कि आप AI सिस्टम की घटनाओं के लिए एक ऐसा मानसिक मॉडल बनाएंगे जिसे बार-बार इस्तेमाल किया जा सके। यह मॉडल एक खास रिस्क कैटेगरी से शुरू होता है, उसे सिस्टम के उस हिस्से से जोड़ता है जिसमें खराबी हो सकती है, और उन सबूतों के साथ खत्म होता है जो उस खराबी की पुष्टि कर सकते हैं या उसे गलत साबित कर सकते हैं। हम अभी धीरे-धीरे आगे बढ़ेंगे क्योंकि कोर्स का बाकी हिस्सा इसी बात पर निर्भर करता है कि जब कतार में बहुत सारे अलर्ट हों, तब भी यह तरीका एक जैसा बना रहे।
हम हर अलर्ट के लिए शुरुआती ट्राइएज कदम का अभ्यास करके शुरुआत करेंगे। इस बात पर ध्यान दें कि आप सबसे पहले क्या जांचेंगे और AI द्वारा सुझाए गए रास्ते को मानने से पहले आपको किन सबूतों की ज़रूरत होगी। फिर हम उन विकल्पों को LLM Applications 2026 के लिए OWASP Top 10 कैटेगरी से जोड़ेंगे ताकि हमारी टीम में सभी के लिए हमारे लेबल का मतलब एक ही हो। आइए, मिलकर ट्राइएज के फैसलों का पहला सेट तैयार करें।
OWASP Top 10 for LLM Applications 2026 उन एप्लीकेशन के लिए दस सबसे अहम रिस्क कैटेगरी की कम्युनिटी-आधारित लिस्ट है जो बड़े लैंग्वेज मॉडल (LLM) का इस्तेमाल करते हैं। यह घटना के जवाब (incident response) में मददगार है क्योंकि यह आपको गड़बड़ी के लिए पक्के नाम देता है, भले ही लक्षण अलग-अलग दिखें। जब आपके टिकट में LLM02 या LLM06 लिखा हो, तो सभी को तुरंत एक ही तरह की खराबी और एक ही तरह के सबूतों के बारे में सोचना चाहिए।
यहाँ वे दस कैटेगरी दी गई हैं जिनका इस्तेमाल हम पूरे कोर्स में करेंगे, साथ ही उनकी सही नंबरिंग और नाम भी दिए गए हैं।
यह कोर्स घटना के जवाब (incident response) के लेवल पर सभी दस कैटेगरी को कवर करता है। आप सीखेंगे कि ट्राइएज (triage) के दौरान संभावित कैटेगरी की पहचान कैसे करें, कौन सी टेलीमेट्री (telemetry) आमतौर पर मुख्य सवालों के जवाब देती है, और जब सिस्टम में LLM और सपोर्टिंग कंपोनेंट जैसे कि रिट्रीवल, टूल्स और मेमोरी शामिल हों, तो रोकथाम (containment) और सुधार (remediation) आमतौर पर कैसे होते हैं। इसके बाद, हम हर कैटेगरी को घटना के जवाब के उन टचपॉइंट से जोड़ेंगे जहाँ आपसे सबूत देने की उम्मीद की जाती है। लेबल को वर्कफ़्लो से जोड़ने के लिए मैप का इस्तेमाल करें।