आप Bluebird Health SaaS के CareOps Copilot को ऑपरेट करते हैं, जो एक ‘रिट्रीवल-ऑगमेंटेड जनरेशन’ (RAG) एप्लीकेशन है। यह स्टाफ के सवालों का जवाब देने से पहले मंजूर किए गए क्लिनिकल और Microsoft 365 कंटेंट को पढ़ता है। एक ‘रेड-टीम’ एक्सरसाइज के दौरान, रिट्रीव किए गए डॉक्यूमेंट में एक खतरनाक (malicious) निर्देश मिलता है। असिस्टेंट उस निर्देश का पालन करता है और तय काम से हटकर कनेक्टर डेटा भेजने की कोशिश करता है। यह घटना दो सीमाओं को पार करती है: एप्लीकेशन का AI व्यवहार और एंटरप्राइज़ की अनुमतियाँ (permissions) जिन्होंने डेटा तक पहुँच मुमकिन बनाई। इस कोर्स के आखिर तक, आप इस तरह के सिस्टम के लिए एक मज़बूत रेड-टीम और डिटेक्शन-कवरेज प्लान तैयार कर लेंगे।
MITRE ATLAS AI-इनेबल्ड सिस्टम के खिलाफ हमलावर के व्यवहार के लिए एक नॉलेज बेस है। MITRE ATT&CK एंटरप्राइज़ सिस्टम के खिलाफ हमलावर के व्यवहार के लिए एक नॉलेज बेस है। ATLAS टैक्टिक्स हर चरण में हमलावर के मकसद को बताती हैं। इसकी पब्लिश की गई टैक्टिक्स हैं: रेकॉनिसेंस (Reconnaissance), रिसोर्स डेवलपमेंट (Resource Development), शुरुआती एक्सेस (Initial Access), AI मॉडल एक्सेस (AI Model Access), एग्जीक्यूशन (Execution), पर्सिस्टेंस (Persistence), प्रिविलेज एस्केलेशन (Privilege Escalation), डिफेंस इवेजन (Defense Evasion), क्रेडेंशियल एक्सेस (Credential Access), डिस्कवरी (Discovery), लेटरल मूवमेंट (Lateral Movement), कलेक्शन (Collection), AI अटैक अडैप्टेशन (AI Attack Adaptation), कमांड और कंट्रोल (Command and Control), एक्सफिल्ट्रेशन (Exfiltration), और इम्पैक्ट (Impact)। यह कोर्स इन सभी को कवर करता है ताकि AI घटनाओं को एंट्री से लेकर उनके नतीजों तक ट्रेस किया जा सके। अब हम एक ही घटना में AI सीमा और एंटरप्राइज़ सीमा का पता लगा सकते हैं:
तकनीक (technique) वह डॉक्यूमेंटेड तरीका है जिसका इस्तेमाल कोई हमलावर किसी टैक्टिकल मकसद को पाने के लिए करता है। केस स्टडी तकनीकों को किसी रिपोर्ट किए गए या दिखाए गए सिनेरियो से जोड़ती है। पब्लिश की गई मैपिंग (published mapping) केस स्टडी, टैक्टिक और तकनीक के बीच MITRE का डॉक्यूमेंटेड संबंध है। यह टीम को एक कॉमन रेफरेंस पॉइंट देता है, बजाय इसके कि स्थानीय स्तर पर बनाए गए लेबल को थ्रेट इंटेलिजेंस माना जाए।
जब हमलावर किसी AI कंपोनेंट को टारगेट करता है या उसका गलत इस्तेमाल करता है, तो ATLAS का इस्तेमाल करें। जब उसी घटना में एंटरप्राइज़ का स्थापित व्यवहार शामिल हो, जैसे कि आइडेंटिटी का गलत इस्तेमाल, क्लाउड डिस्कवरी या डेटा मूवमेंट, तो ATT&CK का इस्तेमाल करें। एक ही घटना के लिए दोनों नज़रियों की ज़रूरत पड़ सकती है। मकसद हर एक्शन को एक ही मैट्रिक्स में जबरदस्ती फिट करना नहीं है। मकसद अटैक पाथ को सुरक्षित रखना और यह पहचानना है कि टेलीमेट्री, परमिशन और कंट्रोल को कहाँ इसे रोकना चाहिए। डॉक्यूमेंटेड मैपिंग और स्थानीय अनुमान के बीच अंतर करने के लिए इस रिकॉर्ड-कीपिंग नियम का इस्तेमाल करें: