التخطيط لاختبارات "الفريق الأحمر" (Red Team) المصرح بها لنماذج اللغة الكبيرة (LLM) وإجراؤها وإعداد تقارير عنها، مع ربطها بقائمة مخاطر OWASP العشرة الأبرز.
٤ أقسام · ٨ دروس
حدد طبيعة الحالة (أو السيناريو)، وقواعد الاشتباك، وخطة الاختبار التي تضمن أن تكون جهود "الفريق الأحمر" (Red Team) المخصصة للنماذج اللغوية الكبيرة (LLM) مصرحاً بها، وقابلة للتدقيق، ومرتبطة بنطاق تغطية معايير OWASP.
٣ دروساستخدم garak وPyRIT وpromptfoo لإجراء اختبارات حقن الأوامر (prompt injection) المباشرة وغير المباشرة، مع الحفاظ على الأدلة وضمان السلامة.
١ درستقييم المخاطر المتعلقة بالاسترجاع، والذاكرة، والسياق، والوكيل (Agent)، واستخدام الأدوات، واستنزاف الموارد، مع توثيق الأدلة على فئات الإخفاق المصنفة وفقاً لمعايير OWASP.
٢ دروسافحص آلية معالجة المخرجات وحالات اختراق التبعيات، ثم حوّل النتائج إلى تقرير شامل يتضمن مستوى الخطورة، وإجراءات المعالجة، وخطوات إعادة الاختبار، وتوجيهات الإصدار.
٢ دروستبدأ هذه الدورة المتقدمة في مجال "الفريق الأحمر" (Red Teaming) بتصنيف حادثة فعلية تتعلق بنماذج اللغة الكبيرة (LLM) وفقاً لمعايير OWASP. وتركز الدورة على الاختبارات الهجومية المصرح بها والموجهة لفرق الأمن ومختبري الاختراق (أعضاء الفريق الأحمر) الذين يحتاجون إلى تحديد نطاق واضح، وجمع الأدلة، واتخاذ قرارات بشأن طرح تطبيقاتهم. وفي ختام الدورة، سيكون المتدربون قادرين على تصميم برنامج للاختبار، وتنفيذ هجمات مضبوطة باستخدام أدوات شائعة، وتحويل النتائج إلى تقرير تنفيذي يتضمن توصيات المعالجة وتوجيهات حاسمة بشأن المضي قدماً في الإطلاق أو التوقف.
تغطي الدورة تخطيط الاختبارات وفقاً لمعايير OWASP، وقواعد المشاركة، وحالات الاختبار القابلة للتنفيذ لتطبيق محدد يعتمد على النماذج اللغوية الكبيرة (LLM). كما تتناول اختبارات حقن الأوامر (Prompt Injection) باستخدام أدوات مثل garak وPyRIT وpromptfoo، بالإضافة إلى فئات الإخفاق المتعلقة بالاسترجاع (Retrieval)، والذاكرة، والوكلاء (Agents)، ومعالجة المخرجات، وسلسلة التوريد.
من مديري المشاريع والعاملين في التشغيل إلى المؤسسين والمحللين والفرق التي تتبنى الذكاء الاصطناعي، Fenzo لكل من يريد أن يتحسّن في العمل الذي يقوم به بالفعل.
أي شيء، من استخدام الذكاء الاصطناعي في تخطيط المشاريع والتحليل إلى تحسين سير العمل واتخاذ القرار والتواصل والتنفيذ. إذا استطعت وصف المهارة أو المهمة، يستطيع Fenzo أن يبني حولها دورة.
نعم. أخبر Fenzo بما تعمل، وما تحاول تحقيقه، وأين تواجه صعوبة، وسيصمّم الدورة حول دورك وأهدافك والعمل الذي عليك إنجازه فعلًا.
لا. يتكيّف Fenzo مع نقطة انطلاقك، فيمكنك البدء بالأساسيات أو الانتقال مباشرةً إلى عمل أكثر تقدمًا.
نعم. يجمع Fenzo للأعمال الفريق كله في خطة واحدة: مقاعد مشتركة، ودورات يمكنك إسنادها، وتقارير توضّح من أنهى ماذا.
تعرّف على Fenzo للأعمالتبدأ بوصف هدفك أو بإجراء تقييم قصير للمهارات. يستخدم Fenzo هذا السياق لتحديد الفجوات وتشكيل تجربة التعلم حولها.
نعم، يعمل Fenzo في متصفح هاتفك.
شيء تتفاعل معه في كل قسم.
ثلاث نتائج من عقود من أبحاث التعلّم شكّلت طريقة بناء كل درس في Fenzo.
متوسط معدل النجاح · Freeman et al., PNAS 2014
ماذا يقول العلم
الطلاب في الصفوف القائمة على المحاضرات فقط أكثر عرضة للرسوب بمقدار ١.٥ مرة.
كيف يطبّقه Fenzo
كل درس في Fenzo تفاعلي. لا قراءة أو مشاهدة سلبية، أبدًا.
تنجزه بنفسكينجزه الذكاء الاصطناعي عنك
الاحتفاظ بالمهارة مع الوقت · مع الممارسة وبدونها
ماذا يقول العلم
إيكال التفكير إلى الذكاء الاصطناعي يُضعف المهارات التي تحاول بناءها.
كيف يطبّقه Fenzo
يجعلك Fenzo تقوم بالتفكير بنفسك، بتوجيه، لكن دون أن يُنجَز عنك.
التذكّر النشطإعادة القراءة
التذكّر طويل المدى · التذكّر النشط مقابل إعادة القراءة
ماذا يقول العلم
استرجاع المعلومات يتفوّق على إعادة قراءتها في بناء فهم راسخ.
كيف يطبّقه Fenzo
تتخلل الدروسَ اختباراتٌ وأسئلة للتذكّر، فيثبت ما تتعلّمه.