آپ Bluebird Health SaaS کی ‘CareOps Copilot’ ایپلی کیشن چلاتے ہیں، جو ایک ‘retrieval-augmented generation’ (RAG) ایپلی کیشن ہے اور عملے کے سوالات کا جواب دینے سے پہلے منظور شدہ طبی مواد اور Microsoft 365 کے مواد کو پڑھتی ہے۔ ایک ‘ریڈ ٹیم’ (red-team) مشق کے دوران، بازیافت شدہ (retrieved) دستاویز میں ایک نقصان دہ ہدایت (malicious instruction) کا پتہ چلتا ہے۔ اسسٹنٹ اس ہدایت پر عمل کرتا ہے اور مطلوبہ کام کے دائرہ کار سے باہر ‘کنیکٹر ڈیٹا’ بھیجنے کی کوشش کرتا ہے۔ یہ واقعہ دو حدود کو عبور کرتا ہے: ایپلی کیشن کا AI رویہ اور وہ کاروباری (انٹرپرائز) اجازتیں جن کی وجہ سے ڈیٹا تک رسائی ممکن ہوئی۔ اس کورس کے اختتام تک، آپ اس قسم کے نظام کے لیے ایک قابلِ دفاع ‘ریڈ ٹیم’ اور ‘ڈیٹیکشن کوریج’ (شناخت کی صلاحیت) کا منصوبہ تیار کر چکے ہوں گے۔
MITRE ATLAS AI سے چلنے والے نظاموں کے خلاف مخالفین (حملہ آوروں) کے رویے کے بارے میں معلومات کا ایک مجموعہ (knowledge base) ہے۔ MITRE ATT&CK کاروباری (انٹرپرائز) نظاموں کے خلاف مخالفین کے رویے کے بارے میں معلومات کا مجموعہ ہے۔ ATLAS کی حکمت عملیاں (tactics) ہر مرحلے پر حملہ آور کے مقصد کی وضاحت کرتی ہیں۔ اس کی شائع شدہ حکمت عملیوں میں شامل ہیں: Reconnaissance (جائزہ/معلومات کا حصول)، Resource Development (وسائل کی تیاری)، Initial Access (ابتدائی رسائی)، AI Model Access (AI ماڈل تک رسائی)، Execution (عمل درآمد)، Persistence (مستقل موجودگی)، Privilege Escalation (اختیارات میں اضافہ)، Defense Evasion (دفاع سے بچاؤ)، Credential Access (اسناد/لاگ ان معلومات تک رسائی)، Discovery (دریافت)، Lateral Movement (نظام کے اندر ایک حصے سے دوسرے حصے میں منتقلی)، Collection (ڈیٹا اکٹھا کرنا)، AI Attack Adaptation (AI حملے میں مطابقت پیدا کرنا)، Command and Control (کمانڈ اور کنٹرول)، Exfiltration (ڈیٹا کا غیر مجاز اخراج)، اور Impact (اثرات)۔ یہ کورس ان تمام پہلوؤں کا احاطہ کرتا ہے تاکہ AI واقعات کا سراغ ان کے آغاز (داخلے) سے لے کر نتائج تک لگایا جا سکے۔ اب ہم ایک ہی واقعے میں AI کی حد اور کاروباری (انٹرپرائز) حد کی نشاندہی کر سکتے ہیں:
تکنیک (Technique) ایک دستاویزی طریقہ کار ہے جسے حملہ آور کسی تزویراتی (tactical) مقصد کے حصول کے لیے استعمال کرتا ہے۔ کیس اسٹڈی (Case study) تکنیکوں کو کسی رپورٹ شدہ یا عملی طور پر ظاہر ہونے والے منظرنامے سے جوڑتی ہے۔ شائع شدہ میپنگ (Published mapping) کیس اسٹڈی، حکمت عملی (tactic)، اور تکنیک کے درمیان MITRE کا قائم کردہ دستاویزی تعلق ہے۔ یہ ٹیم کو ایک مشترکہ حوالہ جاتی نقطہ فراہم کرتا ہے، بجائے اس کے کہ مقامی طور پر وضع کردہ لیبل کو ‘تھریٹ انٹیلی جنس’ (threat intelligence) سمجھا جائے۔
جب حملہ آور کسی AI جزو (component) کو ہدف بنائے یا اس کا غلط استعمال کرے تو ATLAS کا استعمال کریں۔ جب اسی واقعے میں ادارے کے معروف رویے شامل ہوں—جیسے شناخت کا غلط استعمال (identity abuse)، کلاؤڈ ڈسکوری، یا ڈیٹا کی منتقلی—تو ATT&CK کا استعمال کریں۔ ایک ہی واقعے کے لیے دونوں نقطہ نظر درکار ہو سکتے ہیں۔ مقصد ہر عمل کو زبردستی ایک ہی میٹرکس میں فٹ کرنا نہیں ہے۔ بلکہ مقصد حملے کے راستے (attack path) کو محفوظ رکھنا اور یہ نشاندہی کرنا ہے کہ ٹیلی میٹری، اجازتیں (permissions)، اور کنٹرولز کو کہاں اس عمل میں رکاوٹ ڈالنی چاہیے۔ دستاویزی میپنگ اور مقامی مفروضے کے درمیان فرق کرنے کے لیے ریکارڈ رکھنے کے اس اصول کا استعمال کریں: