تطرح على روبوت المحادثة الخاص بقسم الموارد البشرية في شركتك سؤالاً بسيطاً حول إجازة الوالدية. فيجيب الروبوت بسرعة وبنبرة واثقة، مع إدراج مراجع ومصادر للمعلومات. ومن بين هذه المراجع، يظهر عنوان صفحة يبدو عشوائياً ولا يتطابق مع أي سياسة للموارد البشرية سبق لك الاطلاع عليها. إذا كنت أنت من يقوم ببناء هذا الروبوت أو تشغيله، فهذه هي اللحظة التي تحتاج فيها إلى تكوين تصور ذهني واضح حول كيفية تجميع الإجابة ومصدر النص المُشار إليه.
تبدأ أمنية أنظمة RAG بفهم بنيتها التقنية (Architecture)، لأن هذه البنية توضح كلاً من القيمة والمخاطر المرتبطة بها. وفي هذه الدورة، سنستخدم تلك البنية لتحليل المشكلات المحتملة، وتحديد البيانات المعرضة للخطر، ومعرفة تدابير الحماية التي تؤثر فعلياً في النتائج. ولكن قبل ذلك، دعونا نرسخ فهمنا لمسار العمل الأساسي الذي يتبعه تطبيق RAG، بدءاً من طرح السؤال ووصولاً إلى تقديم الإجابة.
يُعد التوليد المعزز بالاسترجاع (RAG) أسلوباً يتيح لروبوتات المحادثة تقديم إجابات بالاعتماد على معلومات تُستمد من مجموعة من المستندات لحظة طرح السؤال. يقوم التطبيق باسترجاع النصوص ذات الصلة وإدراجها ضمن مدخلات النموذج، مما يتيح للنموذج صياغة إجابة تعكس محتوى تلك النصوص. وتتمثل الفكرة الجوهرية في بساطتها: إذ أن النصوص المسترجعة تؤثر بشكل مباشر وقوي على ما يطرحه النموذج من إجابات.
عادةً ما يتكون نظام RAG من عدة أجزاء ستتعرف عليها خلال هذه الدورة. يُعد المُسترجِع (Retriever) المكون المسؤول عن البحث عن النصوص ذات الصلة. أما قاعدة بيانات المتجهات (Vector DB) فهي نظام تخزين يساعد المُسترجِع في العثور بسرعة على نصوص مشابهة. وتُعرف الكتل (Chunks) بأنها أجزاء صغيرة من المستندات يتم تخزينها لغرض الاسترجاع. ويشير مصطلح Top-k إلى قيام المُسترجِع بإرجاع أفضل k من الكتل التي عثر عليها استجابةً للسؤال. وأخيراً، تُعد الاقتباسات (Citations) مراجع يعرضها التطبيق لتوضيح الكتل التي استُخدمت في صياغة الإجابة. دعنا نستعرض كيفية ترابط هذه الأجزاء معاً.
قد تبدو حالتان شائعتان من حالات الفشل متشابهتين بالنسبة للمبتدئين، إذ تنتج كلتاهما إجابةً مصاغةً بطلاقة. تتمثل الحالة الأولى في “الهلوسة” (Hallucination)، وهي أن يذكر النموذج معلومةً لا تدعمها النصوص المسترجعة التي قُدِّمت إليه. أما فيما يتعلق بالأمان، فتنشأ مشكلة أخرى عندما توجّه النصوص المسترجعة النموذج نحو نتيجة خاطئة أو غير آمنة، وذلك لأن النص المسترجع بحد ذاته مضلل فيما يخص نية المستخدم. وتكمن المهارة العملية في تعلم طرح سؤال واحد حول أي ادعاء: أين يوجد الدليل المؤيد لهذه الجملة داخل النص المسترجع؟
عندما تتمكن من تتبع الإجابة وإرجاعها إلى أجزاء محددة من النصوص المسترجعة، يصبح بوسعك التمييز بين الادعاءات المدعومة بأدلة وتلك التي تفتقر إلى أي أساس. كما تتيح لك عادة التتبع هذه ملاحظة الحالات التي يكون فيها جزءٌ مشبوهٌ من النص هو المحرك لتوجيه الإجابة؛ لذا قارن بين إجابتين وتحقق مما يستند منهما إلى النصوص المسترجعة وما لا يستند إليها.