تدير شركة متوسطة الحجم متخصصة في التكنولوجيا المالية (Fintech) روبوت محادثة لدعم العملاء يعتمد على تقنية “التوليد المعزز بالاسترجاع” (RAG)، حيث يمكنه استخلاص مقتطفات من أدلة التشغيل الداخلية وسجلات تذاكر الدعم السابقة. يقوم أحد العملاء بإدخال رسالة تبدو وكأنها استفسار عادي حول الفواتير، لكنها تتضمن أمراً مضمّناً يوجه النموذج للكشف عن إرشادات التصعيد الداخلي ثم تلخيصها للمستخدم. يستجيب النموذج للأمر، فيقوم الروبوت بعرض محتوى لم يكن مخصصاً للكشف عنه لأطراف خارجية. هذا هو نوع الفشل الذي نسعى لمنعه في هذه الدورة التدريبية، حيث تمثل ثغرة LLM01 (حقن الأوامر - Prompt Injection) نقطة الدخول، بينما يمثل LLM02 (الكشف عن معلومات حساسة - Sensitive Information Disclosure) الأثر المترتب عليها.
تتمثل المخرجات المباشرة للدرس الأول في اكتساب عادة موثوقة للتصنيف؛ فبناءً على سجل محادثة واحد للروبوت، يجب أن نكون قادرين على تحديد السبب الجذري وتصنيفه ضمن فئة LLM01 أو فئة مشابهة، ومن ثم توقع فئات OWASP الأخرى التي قد تكون متضمنة في سلسلة الحادثة نفسها، مما يتيح لنا تصميم ضوابط أمنية متعددة الطبقات بدلاً من الاكتفاء بحلول أحادية النقطة. وتُظهر الأداة التفاعلية التالية مسار الانتقال من عملية الحقن (Injection) إلى الكشف عن المعلومات (Disclosure) على مستوى النظام، وذلك لتمكيننا من بناء تدابير التخفيف اللاحقة استناداً إلى تدفق عملي وملموس.
تُعد قائمة “OWASP Top 10” لتطبيقات النماذج اللغوية الكبيرة (LLM) لعام 2026 قائمة مصنفة تضم عشرة أنماط شائعة للفشل في التطبيقات التي تعتمد على هذه النماذج. سنعتمد هذه القائمة كلغة مشتركة لتحديد المتطلبات، ونمذجة التهديدات، والاختبار، وإعداد التقارير طوال فترة هذا البرنامج. تشمل القائمة الكاملة: LLM01 (حقن الأوامر/المطالبات - Prompt Injection)، وLLM02 (الكشف عن معلومات حساسة)، وLLM03 (الصلاحيات المفرطة - Excessive Agency)، وLLM04 (مخاطر سلسلة التوريد)، وLLM05 (تسميم البيانات والنموذج)، وLLM06 (الاستهلاك غير المحدود للموارد)، وLLM07 (المعلومات المضللة)، وLLM08 (كشف السياق المخفي)، وLLM09 (نقاط الضعف في المتجهات والتمثيلات الرقمية/Embeddings)، وLLM10 (المعالجة غير السليمة للمخرجات).
تغطي هذه الدورة التدريبية بشكل مباشر ومفصل (من البداية إلى النهاية) الثغرة LLM01 (حقن الأوامر)، بما في ذلك الحقن المباشر وغير المباشر، وضوابط الدفاع متعدد الطبقات، وطرق اختبارها. كما تتناول الدورة بشكل مباشر الثغرات LLM02 (الكشف عن معلومات حساسة)، وLLM03 (الصلاحيات المفرطة)، وLLM08 (كشف السياق المخفي)، وLLM10 (المعالجة غير السليمة للمخرجات)؛ نظراً لكونها غالباً ما تمثل تأثيرات لاحقة أو عوامل تزيد من حدة المخاطر في البنى التقنية الواقعية. أما بقية البنود في القائمة، فيتم التعامل معها باعتبارها “اعتماديات مرتبطة”؛ أي أننا سنشير إليها عندما يؤدي اختيار إجراء وقائي معين للثغرة LLM01 إلى خلق ثغرة أو انكشاف أمني في جانب آخر، أو عندما يحتاج برنامجك إلى تحديد نطاق واضح لما يقع خارج حدود عملية مراجعة أمنية معينة. استخدم الأداة التفاعلية التالية للاطلاع على القائمة الكاملة ومعرفة الجوانب التي يركز عليها هذا البرنامج بشكل معمق.