حدد الهجمات والقيود وآليات التحكم التي تحول دون تسريب البيانات، أو اتخاذ إجراءات ضارة، أو استنزاف الميزانية من قِبَل روبوتات الدردشة.
٥ أقسام · ١٤ دروس
وضّح كيفية معالجة ShopEasy للرسائل واستدعاءات الأدوات وسجل المحادثات، ثم حدّد مخاطرها الأمنية الرئيسية باستخدام نموذج بسيط للتهديدات.
٢ دروسقارن بين الطرق الرئيسية التي يستخدمها المهاجمون لتحريف كلمات روبوت الدردشة، وسياقه الخفي، وبياناته، وأدواته، واستخدامه للموارد، وذلك بهدف إلحاق الضرر.
٦ دروسطبّق ضوابط تتعلق بالأوامر (prompts) وأخرى تتعلق بالكود البرمجي للحد من عمليات الحقن، وتسريب البيانات، وسوء الاستخدام، والاستغلال الضار، مع مراعاة ما تعجز كل أداة تحكّم عن منعه بمفردها.
٤ دروسقيِّم السجلات والتنبيهات وفحوصات "الفريق الأحمر" التي تكشف حالات التفويض التي لم تُكتشف، واختبر المعالجات بعد إجراء التغييرات.
١ درساربط التهديدات بإجراءات الحماية المناسبة، واستخدم قائمة مراجعة موجزة لـ ShopEasy قبل الشحن.
١ درسيمكن لروبوتات الدردشة المدعومة بالذكاء الاصطناعي الإجابة عن الأسئلة واستخدام الأدوات، إلا أنها قد تكشف معلومات تفوق الحدود المسموح بها في حال ضعف التدابير الأمنية. تستعرض هذه الدورة آلية عمل روبوتات الدردشة وحدود الثقة المرتبطة بها، وتوضح كيف يمكن للهجمات الشائعة تحويل المحادثات العادية إلى وسيلة لسرقة البيانات، أو توليد مخرجات ضارة، أو إساءة استخدام الأدوات، أو التسبب في ارتفاع هائل في التكاليف. وهي موجهة للمبتدئين الراغبين في فهم المخاطر المرتبطة بهذه الروبوتات بشكل كافٍ لتقييم آليات الدفاع، ومراجعة التصاميم، واكتشاف الثغرات الأمنية قبل طرحها للاستخدام.
تتناول الدورة كيفية استخدام روبوتات الدردشة القائمة على النماذج اللغوية الكبيرة (LLM) لكل من توجيهات النظام (system prompt)، وسجل المحادثة، ومدخلات المستخدم، والأدوات ضمن حلقة معالجة الطلبات، بالإضافة إلى نموذج الأمن الأساسي المتمثل في السرية والسلامة والتوافر. كما تغطي الدورة موضوعات: حقن الأوامر (prompt injection)، وكسر القيود (jailbreaking)، وتسريب توجيهات النظام، ومخاطر الخصوصية، وإساءة استخدام الأدوات، وهجمات حجب الخدمة، وآليات الحماية (guardrails)، وحماية البيانات، والصلاحيات، وحدود معدل الطلبات، والمراقبة، واختبارات الاختراق الاستباقية (red teaming).
من مديري المشاريع والعاملين في التشغيل إلى المؤسسين والمحللين والفرق التي تتبنى الذكاء الاصطناعي، Fenzo لكل من يريد أن يتحسّن في العمل الذي يقوم به بالفعل.
أي شيء، من استخدام الذكاء الاصطناعي في تخطيط المشاريع والتحليل إلى تحسين سير العمل واتخاذ القرار والتواصل والتنفيذ. إذا استطعت وصف المهارة أو المهمة، يستطيع Fenzo أن يبني حولها دورة.
نعم. أخبر Fenzo بما تعمل، وما تحاول تحقيقه، وأين تواجه صعوبة، وسيصمّم الدورة حول دورك وأهدافك والعمل الذي عليك إنجازه فعلًا.
لا. يتكيّف Fenzo مع نقطة انطلاقك، فيمكنك البدء بالأساسيات أو الانتقال مباشرةً إلى عمل أكثر تقدمًا.
نعم. يجمع Fenzo للأعمال الفريق كله في خطة واحدة: مقاعد مشتركة، ودورات يمكنك إسنادها، وتقارير توضّح من أنهى ماذا.
تعرّف على Fenzo للأعمالتبدأ بوصف هدفك أو بإجراء تقييم قصير للمهارات. يستخدم Fenzo هذا السياق لتحديد الفجوات وتشكيل تجربة التعلم حولها.
نعم، يعمل Fenzo في متصفح هاتفك.
شيء تتفاعل معه في كل قسم.
ثلاث نتائج من عقود من أبحاث التعلّم شكّلت طريقة بناء كل درس في Fenzo.
متوسط معدل النجاح · Freeman et al., PNAS 2014
ماذا يقول العلم
الطلاب في الصفوف القائمة على المحاضرات فقط أكثر عرضة للرسوب بمقدار ١.٥ مرة.
كيف يطبّقه Fenzo
كل درس في Fenzo تفاعلي. لا قراءة أو مشاهدة سلبية، أبدًا.
تنجزه بنفسكينجزه الذكاء الاصطناعي عنك
الاحتفاظ بالمهارة مع الوقت · مع الممارسة وبدونها
ماذا يقول العلم
إيكال التفكير إلى الذكاء الاصطناعي يُضعف المهارات التي تحاول بناءها.
كيف يطبّقه Fenzo
يجعلك Fenzo تقوم بالتفكير بنفسك، بتوجيه، لكن دون أن يُنجَز عنك.
التذكّر النشطإعادة القراءة
التذكّر طويل المدى · التذكّر النشط مقابل إعادة القراءة
ماذا يقول العلم
استرجاع المعلومات يتفوّق على إعادة قراءتها في بناء فهم راسخ.
كيف يطبّقه Fenzo
تتخلل الدروسَ اختباراتٌ وأسئلة للتذكّر، فيثبت ما تتعلّمه.