تقييم سلامة النماذج اللغوية الكبيرة: اختبار الذكاء الاصطناعي وقياس أدائه

يركز تقييم سلامة النماذج اللغوية الكبيرة (LLM) على تحديد مدى أمان النظام للاستخدام المقصود، بدلاً من الاكتفاء بإنتاج مخرجات عالية الجودة. وتعمل هذه الدورة على بناء مسار عملي للتقييم يغطي جوانب متعددة، تشمل تحليل المخاطر، وتصميم الاختبارات، ومجموعات البيانات، والمقاييس، وآليات التقييم، والاختبارات العدائية (Adversarial Testing)، والتنفيذ الآلي. وفي ختام الدورة، ستكون قد اكتسبت المهارات اللازمة لتفسير حالات الفشل، وتقييم المخاطر المتبقية، ودعم قرارات النشر بأدلة موثقة.

تغطي الدورة تحديد نطاق المخاطر، ومعايير الاختبار، ومجموعات بيانات السلامة، والمقاييس التي تراعي الموثوقية، والتقييم الآلي، والمقارنة المرجعية باستخدام أدوات مثل HELM Safety وHarmBench، والاختبارات العدائية، ومسارات التقييم القابلة للتكرار. كما تتناول الدورة تصنيف حالات الفشل، وتقييم أنظمة RAG والوكلاء (Agents)، واختبارات الانحدار، والتقييم المستمر، وإعداد التقارير، وضوابط النشر.