أنت تدير تطبيق “CareOps Copilot” المقدم كخدمة (SaaS) من شركة Bluebird Health؛ وهو تطبيق يعتمد على تقنية “التوليد المعزز بالاسترجاع” (RAG) لقراءة المحتوى السريري المعتمد وملفات Microsoft 365 قبل الإجابة على استفسارات الموظفين. خلال تمرين “الفريق الأحمر” (Red Team)، تم اكتشاف تعليمات خبيثة مضمنة في إحدى الوثائق المسترجعة. قام المساعد الذكي بتنفيذ تلك التعليمات وحاول إرسال بيانات عبر الموصلات (connectors) خارج نطاق المهمة المحددة. تتجاوز هذه الحادثة حدوداً فاصلة بين مجالين: سلوك الذكاء الاصطناعي الخاص بالتطبيق، وصلاحيات الوصول المؤسسية التي أتاحت الوصول لتلك البيانات. بنهاية هذه الدورة، ستتمكن من إعداد خطة متينة لعمليات الفريق الأحمر وتغطية آليات الكشف لهذا النوع من الأنظمة.
تُعد MITRE ATLAS قاعدة معرفية لسلوكيات الخصوم التي تستهدف الأنظمة المعتمدة على الذكاء الاصطناعي، بينما تُعد MITRE ATT&CK قاعدة معرفية لسلوكيات الخصوم التي تستهدف أنظمة المؤسسات. تصف تكتيكات ATLAS أهداف المهاجم في كل مرحلة من مراحل الهجوم. وتشمل التكتيكات المنشورة: الاستطلاع (Reconnaissance)، وتطوير الموارد (Resource Development)، والوصول الأولي (Initial Access)، والوصول إلى نموذج الذكاء الاصطناعي (AI Model Access)، والتنفيذ (Execution)، والاستمرارية (Persistence)، وتصعيد الصلاحيات (Privilege Escalation)، وتجاوز الدفاعات (Defense Evasion)، والوصول إلى بيانات الاعتماد (Credential Access)، والاكتشاف (Discovery)، والتحرك الجانبي (Lateral Movement)، والجمع (Collection)، والتكيف مع هجمات الذكاء الاصطناعي (AI Attack Adaptation)، والقيادة والسيطرة (Command and Control)، وتسريب البيانات (Exfiltration)، والتأثير (Impact). تغطي هذه الدورة جميع هذه التكتيكات بالقدر اللازم لتتبع حوادث الذكاء الاصطناعي بدءاً من مرحلة الاختراق الأولي ووصولاً إلى العواقب المترتبة عليه. يمكننا الآن تحديد الحدود الفاصلة بين نطاق الذكاء الاصطناعي ونطاق المؤسسة في حادثة واحدة:
تُعرَّف التقنية (Technique) بأنها الأسلوب الموثق الذي يستخدمه الخصم لتحقيق هدف تكتيكي. وتربط دراسة الحالة (Case study) بين التقنيات وسيناريو تم الإبلاغ عنه أو إثبات حدوثه. أما الربط المنشور (Published mapping) فهو العلاقة الموثقة من قِبَل مؤسسة MITRE بين دراسة الحالة والتكتيك والتقنية؛ حيث يوفر ذلك للفريق نقطة مرجعية مشتركة، بدلاً من التعامل مع تصنيف مُبتكر محلياً على أنه معلومات استخباراتية عن التهديدات.
استخدم إطار عمل ATLAS عندما يستهدف الخصم أحد مكونات الذكاء الاصطناعي أو يسيء استخدامه. واستخدم إطار عمل ATT&CK عندما تتضمن الحادثة نفسها سلوكاً مؤسسياً معروفاً، مثل إساءة استخدام الهوية، أو استكشاف بيئة السحابة، أو نقل البيانات. قد تتطلب الحادثة الواحدة الاستعانة بكلا الإطارين؛ فالهدف ليس إقحام كل إجراء قسراً في مصفوفة واحدة، بل الحفاظ على مسار الهجوم وتحديد النقاط التي ينبغي فيها لبيانات القياس عن بُعد (telemetry) والصلاحيات وعناصر التحكم أن تعترض هذا المسار. استخدم قاعدة التسجيل هذه للتمييز بين الربط الموثق والفرضية المحلية: