عند بدء مناوبتك، ستجد في قائمة التنبيهات ثلاثة تنبيهات متعلقة بأنظمة الذكاء الاصطناعي، ومرفقاً بها درجة تصنيف أولية (triage score) حددها النظام. تتمثل مهمتك في هذه المرحلة في تكوين رأي أولي سريع وقابل للتبرير بشأن كل تنبيه؛ ويشمل ذلك تحديد تصنيف مبدئي، وتحديد الحد الأدنى من الأدلة التي يجب التحقق منها في بيانات القياس عن بُعد (telemetry) الأساسية، وتوضيح الجوانب التي لا تزال غير مؤكدة بالنسبة لك. يتعامل هذا المسار التدريبي مع الذكاء الاصطناعي كأداة مساعدة للمحلل وليس كمرجع نهائي؛ إذ تظل أنت المسؤول عن القرار النهائي بشأن التنبيه.
من المفيد النظر إلى هذا المسار التدريبي باعتباره وسيلة لبناء نموذج ذهني قابل للتكرار للتعامل مع حوادث أنظمة الذكاء الاصطناعي. يبدأ النموذج بتحديد فئة الخطر، ثم يربطها بجزء النظام المحتمل تعرضه للفشل، وينتهي بتحديد الأدلة القادرة على تأكيد هذا الاحتمال أو استبعاده. سنتقدم ببطء في هذه المرحلة، لأن بقية المسار تعتمد على اتساق هذه البنية المنهجية حتى في ظل كثافة التنبيهات وتداخلها.
سنبدأ بممارسة عملية التصنيف الأولي لكل تنبيه، مع التركيز على العناصر التي ستتحقق منها أولاً والأدلة المطلوبة قبل قبول التوجه الذي يقترحه الذكاء الاصطناعي. بعد ذلك، سنقوم بمطابقة هذه الخيارات مع فئات قائمة OWASP لأهم 10 مخاطر في تطبيقات نماذج اللغة الكبيرة (إصدار 2026)، لضمان توحيد دلالات التصنيفات لدى جميع أعضاء الفريق. لنقم معاً بإجراء المجموعة الأولى من عمليات التصنيف.
تُعد قائمة OWASP Top 10 for LLM Applications 2026 (أهم 10 مخاطر لتطبيقات النماذج اللغوية الكبيرة لعام 2026) قائمةً مدعومة من المجتمع، وتحدد فئات المخاطر العشر الأكثر أهمية وحرجاً للتطبيقات التي تستخدم النماذج اللغوية الكبيرة (LLMs). وتكتسب هذه القائمة أهميتها في مجال الاستجابة للحوادث لأنها توفر مسميات ثابتة للمشكلات التي قد تحدث، حتى وإن بدت الأعراض مختلفة. فعندما تشير تذكرة البلاغ إلى الرمز LLM02 أو LLM06، ينبغي أن يتبادر إلى ذهن الجميع فوراً نفس نوع الفشل ونوع الأدلة التي يجب البحث عنها.
فيما يلي الفئات العشر التي سنستخدمها طوال الدورة التدريبية، مع أرقامها ومسمياتها الدقيقة.
تغطي هذه الدورة الفئات العشر جميعها من منظور الاستجابة للحوادث. ستتعلم كيفية تحديد الفئة المحتملة للمشكلة أثناء مرحلة الفرز الأولي (triage)، وما هي بيانات القياس عن بُعد (telemetry) التي تجيب عادةً على الأسئلة الجوهرية، وكيف تبدو إجراءات الاحتواء والمعالجة (remediation) عندما يشتمل النظام على نموذج لغوي كبير ومكونات داعمة مثل آليات الاسترجاع والأدوات والذاكرة. بعد ذلك، سنربط كل فئة بنقاط التماس في عملية الاستجابة للحوادث حيث يُتوقع منك تقديم أدلة؛ لذا استخدم الخريطة المرفقة للربط بين تصنيف الخطر وسير العمل.