ربط تهديدات النماذج اللغوية الكبيرة (LLM) بآليات التحكم والاختبار والمراقبة ضمن قائمة OWASP لأهم 10 مخاطر، وذلك لدعم المدافعين.
٤ أقسام · ٩ دروس
حدد مؤشرات اختراق تطبيقات النماذج اللغوية الكبيرة (LLM) واربطها بقائمة OWASP لأهم عشر مخاطر أمنية (OWASP Top 10)، مع تحديد هدف الاحتواء الفوري.
١ درسقارن بين هجمات حقن الأوامر (Prompt Injection) والمخاطر المرتبطة بها، ثم اختر آليات التحكم والاختبار والمراقبة المناسبة لجوانب الكشف عن المعلومات، والسياق الخفي، والقدرة على اتخاذ إجراءات نيابة عن المستخدم (Agency)، ومعالجة المخرجات.
٣ دروستتبَّع التهديدات عبر النماذج، والمطالبات (prompts)، ومجموعات البيانات، والإضافات البرمجية، وبيئات التشغيل، ومراحل التدريب والضبط الدقيق، وتقنية التوليد المعزز بالاسترجاع (RAG)، وحلقات التغذية الراجعة؛ ثم حدِّد آليات التحقق، والتحقق من الصلاحية، ومراقبة الانحراف.
٢ دروسقيِّم حالات إساءة الاستخدام، ونقاط الضعف في أنظمة RAG، والمعلومات المضللة، ثم أجرِ مراجعةً متوافقة مع معايير OWASP تتضمن اختباراتٍ ودلائلَ إجرائية للمراقبة.
٣ دروسنادراً ما يقتصر اختراق نماذج اللغة الكبيرة (LLM) أثناء تشغيلها الفعلي على ثغرة واحدة؛ بل هو عبارة عن سلسلة من المؤشرات التي يجب ربطها بسرعة بفئة OWASP المناسبة. تمنح هذه الدورة فرق الأمن ومهندسي الذكاء الاصطناعي وتعلم الآلة منظوراً دفاعياً حول أنماط التهديدات الرئيسية التي تواجه تطبيقات نماذج اللغة الكبيرة والذكاء الاصطناعي، مع تقديم أساليب عملية للتعامل مع جوانب الاحتواء، وتعزيز الحماية (Hardening)، والتحقق، والمراقبة. وفي ختام الدورة، سيكون المتدربون قادرين على تصنيف الهجمات، واختيار الضوابط الأمنية اللازمة للتصدي لها، ومراجعة أنظمة نماذج اللغة الكبيرة وفق منهجية أمنية قابلة للتكرار.
تغطي الدورة موضوعات حقن الأوامر (Prompt Injection)، والكشف عن المعلومات الحساسة، وانكشاف السياق المخفي، والصلاحيات المفرطة (Excessive Agency)، والمعالجة غير السليمة للمخرجات، ومخاطر سلسلة التوريد، وتسميم البيانات والنماذج، والاستهلاك غير المحدود للموارد، ونقاط الضعف المتعلقة بالمتجهات (Vectors) والتضمينات (Embeddings)، والمعلومات المضللة. كما تتناول الدورة عمليات التحقق والاختبار ومؤشرات المراقبة، بالإضافة إلى سير عمل للمراجعة يتوافق مع معايير OWASP لإجراء تقييمات أمنية لنماذج اللغة الكبيرة (LLMs).
من مديري المشاريع والعاملين في التشغيل إلى المؤسسين والمحللين والفرق التي تتبنى الذكاء الاصطناعي، Fenzo لكل من يريد أن يتحسّن في العمل الذي يقوم به بالفعل.
أي شيء، من استخدام الذكاء الاصطناعي في تخطيط المشاريع والتحليل إلى تحسين سير العمل واتخاذ القرار والتواصل والتنفيذ. إذا استطعت وصف المهارة أو المهمة، يستطيع Fenzo أن يبني حولها دورة.
نعم. أخبر Fenzo بما تعمل، وما تحاول تحقيقه، وأين تواجه صعوبة، وسيصمّم الدورة حول دورك وأهدافك والعمل الذي عليك إنجازه فعلًا.
لا. يتكيّف Fenzo مع نقطة انطلاقك، فيمكنك البدء بالأساسيات أو الانتقال مباشرةً إلى عمل أكثر تقدمًا.
نعم. يجمع Fenzo للأعمال الفريق كله في خطة واحدة: مقاعد مشتركة، ودورات يمكنك إسنادها، وتقارير توضّح من أنهى ماذا.
تعرّف على Fenzo للأعمالتبدأ بوصف هدفك أو بإجراء تقييم قصير للمهارات. يستخدم Fenzo هذا السياق لتحديد الفجوات وتشكيل تجربة التعلم حولها.
نعم، يعمل Fenzo في متصفح هاتفك.
شيء تتفاعل معه في كل قسم.
ثلاث نتائج من عقود من أبحاث التعلّم شكّلت طريقة بناء كل درس في Fenzo.
متوسط معدل النجاح · Freeman et al., PNAS 2014
ماذا يقول العلم
الطلاب في الصفوف القائمة على المحاضرات فقط أكثر عرضة للرسوب بمقدار ١.٥ مرة.
كيف يطبّقه Fenzo
كل درس في Fenzo تفاعلي. لا قراءة أو مشاهدة سلبية، أبدًا.
تنجزه بنفسكينجزه الذكاء الاصطناعي عنك
الاحتفاظ بالمهارة مع الوقت · مع الممارسة وبدونها
ماذا يقول العلم
إيكال التفكير إلى الذكاء الاصطناعي يُضعف المهارات التي تحاول بناءها.
كيف يطبّقه Fenzo
يجعلك Fenzo تقوم بالتفكير بنفسك، بتوجيه، لكن دون أن يُنجَز عنك.
التذكّر النشطإعادة القراءة
التذكّر طويل المدى · التذكّر النشط مقابل إعادة القراءة
ماذا يقول العلم
استرجاع المعلومات يتفوّق على إعادة قراءتها في بناء فهم راسخ.
كيف يطبّقه Fenzo
تتخلل الدروسَ اختباراتٌ وأسئلة للتذكّر، فيثبت ما تتعلّمه.