सिक्योरिटी इंजीनियरिंग डिप्लॉयमेंट पाथ, API सुरक्षा और डिटेक्शन कवरेज की अखंडता (इंटीग्रिटी) के लिए ज़िम्मेदार होती है। मशीन लर्निंग इंजीनियरिंग ट्रेनिंग और मूल्यांकन के ऐसे फैसलों के लिए ज़िम्मेदार होती है जिन्हें दोहराया जा सके। डेटा गवर्नेंस डेटा के इस्तेमाल की मंज़ूरी, डेटा के ओरिजिन (लीनेज) की उम्मीदों और डेटा को कितने समय तक रखना है (रिटेंशन), इन नियमों के लिए ज़िम्मेदार होती है। जब मॉडल में बदलाव से क्लेम के नतीजों या संवेदनशील डेटा को संभालने के तरीके पर असर पड़ता है, तो साझा मंज़ूरी ज़रूरी होती है। ज़िम्मेदारियों का बंटवारा इसलिए ज़रूरी है क्योंकि मॉडल रिलीज़ तकनीकी रूप से सही हो सकता है, लेकिन हो सकता है कि उसका ओरिजिन या मंज़ूरी सही न हो।
एक मज़बूत कंट्रोल ऑब्जेक्टिव में उम्मीद के मुताबिक नतीजे, ज़िम्मेदार मालिक, मंज़ूरी की सीमा और सबूत के तौर पर रखी गई चीज़ (आर्टिफैक्ट) का ज़िक्र होता है। सबूत ऐसा होना चाहिए जो किसी घटना के बाद पूरी प्रक्रिया को फिर से समझने या बनाने में मदद करे, न कि सिर्फ़ यह दिखाए कि कोई प्रक्रिया मौजूद थी। हम उन रिकॉर्ड्स की जांच कर सकते हैं जो मॉडल के किसी फ़ैसले को उसके ज़िम्मेदार मालिकों से जोड़ते हैं:
Northbridge Health में, CareClaims Triage मॉडल API को चलाने वाली टीम को मॉडल अपडेट के क्लेम्स ऑपरेशन्स तक पहुँचने से पहले सही और तर्कसंगत निर्णय लेने की ज़रूरत होती है। काम यह है कि पूरे मॉडल लाइफ़साइकल को पॉइज़निंग, एक्सट्रैक्शन और इन्फ़रेंस जैसे जोखिमों से सुरक्षित बनाया जाए और साथ ही ऐसे सबूत तैयार किए जाएँ जो इंजीनियरिंग रिव्यू, प्राइवेसी रिव्यू और ऑडिट में खरे उतर सकें। अटैक सरफेस वह हर पॉइंट है जहाँ कोई एक्टर मॉडल सिस्टम को प्रभावित कर सकता है, उससे जानकारी माँग सकता है (क्वेरी), उसे देख सकता है या उस पर असर डाल सकता है। कंट्रोल का उद्देश्य उस सुरक्षा परिणाम को बताता है जिसे आर्किटेक्चर को हासिल करना है और उस सबूत को बताता है जो इसे साबित करता है।
मॉडल API केवल एक एक्सपोज़र पॉइंट है। ट्रेनिंग डेटा, फ़ाइन-ट्यूनिंग जॉब्स, मॉडल रजिस्ट्री एंट्रीज़, डिप्लॉयमेंट सेटिंग्स, API रिस्पॉन्स और ऑपरेशनल लॉग्स - इन सभी के सुरक्षा और गवर्नेंस से जुड़े परिणाम होते हैं। उद्देश्य हर संभव आर्टिफ़ैक्ट को इकट्ठा करना नहीं है। बल्कि, किसी महत्वपूर्ण निर्णय से लेकर स्वीकृत डेटा, मूल्यांकित मॉडल व्यवहार, अधिकृत डिप्लॉयमेंट और देखे गए API उपयोग तक ट्रेसिबिलिटी (पता लगाने की क्षमता) स्थापित करना है।
मॉडल अटैक चेन वहाँ शुरू हो सकती है जहाँ डेटा प्लेटफ़ॉर्म में प्रवेश करता है और मॉडल रिलीज़ और उपयोग के दौरान जारी रह सकती है। ट्रेनिंग-डेटा पॉइज़निंग, फ़ाइन-ट्यूनिंग पॉइज़निंग और बैकडोर इंसर्शन डिप्लॉयमेंट से पहले मॉडल के व्यवहार को प्रभावित करते हैं। मॉडल एक्सट्रैक्शन, मॉडल इनवर्ज़न और मेंबरशिप इन्फ़रेंस तब उत्पन्न होते हैं जब API का व्यवहार या आउटपुट सेवा द्वारा बताए जाने वाले स्तर से अधिक जानकारी उजागर कर देते हैं। प्रत्येक क्लास अलग-अलग ओनरशिप सीमाओं को पार करती है, इसलिए एक ही पेरिमीटर कंट्रोल पूरे लाइफ़साइकल को कवर नहीं कर सकता है।
CareClaims Triage के लिए, आर्किटेक्चर को यह स्पष्ट करना चाहिए कि कहाँ प्रोवेनेंस (स्रोत की प्रमाणिकता) की जाँच की जाती है, कहाँ मूल्यांकन रिलीज़ को रोकता है, कहाँ API अनुरोधों को सीमित किया जाता है, और कहाँ उपयोग के संकेतों (सिग्नल्स) को समीक्षा के लिए रखा जाता है। ये कंट्रोल निर्णय लेने के पॉइंट बनाते हैं, बिना यह माने कि कोई एक संकेत दुर्भावनापूर्ण गतिविधि को साबित करता है। हम अटैक सरफेस और इच्छित कंट्रोल सीमाओं को ट्रेस कर सकते हैं: