يعني الإشراف على وكلاء الذكاء الاصطناعي في بيئة العمل الحفاظ على مبدأ المساءلة البشرية، حتى عندما تقوم البرمجيات بأداء مهام نيابةً عن شخص ما. تستند هذه الدورة التدريبية إلى “إطار عمل حوكمة الذكاء الاصطناعي للوكلاء الذكيين” (Model AI Governance Framework for Agentic AI) الصادر عن هيئة تطوير تكنولوجيا المعلومات والاتصالات والإعلام (IMDA)، والذي يوصي بأساليب عملية لتوزيع المسؤوليات وضمان فعالية الإشراف. إن القرار الذي يدعمه هذا الإطار بسيط من حيث المفهوم، ولكنه صعب التنفيذ بشكل متسق؛ إذ يتعين عليك تحديد متى يمكن للوكيل المضي قدماً في العمل، ومتى يجب عليه التوقف لإجراء فحص، ومتى يجب تسليم المهمة إلى مسؤول محدد. وتتجلى هذه العملية في مواقف يومية، مثل الموافقة على تغيير في سير العمل، أو الاعتماد على مخرجات الوكيل في رسالة بريد إلكتروني موجهة للعملاء، أو السماح له بتحديث سجل مشترك. ولا تكمن الصعوبة في فهم الأداة فحسب، بل في تتبع الجهة المسؤولة (أو الشخص المسؤول) عندما تؤثر تصرفات الوكيل على أشخاص وأنظمة أخرى.
وفقاً لمنظور هيئة (IMDA)، تختلف “الوكلاء” (Agents) عن أنظمة الذكاء الاصطناعي السابقة في مكان العمل؛ فهي قادرة على اتخاذ إجراءات، والتكيف مع المعلومات الجديدة، والتفاعل مع الأنظمة لإنجاز المهام نيابةً عن البشر. وهذا التحول هو السبب في أن الإشراف لم يعد مجرد مراجعة لمرة واحدة، بل أصبح أسلوب عمل مستمراً، حتى عندما يكون الوكيل مفيداً ويعمل بنوايا سليمة. كما تشير الهيئة إلى ضرورة تحقيق التوازن، نظراً لأن الإشراف البشري المستمر على كل خطوة في سير العمل يصبح أمراً غير عملي عند التوسع في العمليات. لذا، فإن نقطة الانطلاق لا تكمن في مراقبة كل شيء، بل في تحديد الإجراءات الأكثر أهمية، ومواقع نقاط التحقق، ومن يمكنه التدخل عند ظهور أي خلل أو أمر غير معتاد. وتعمل بقية أجزاء هذه الدورة على توضيح خريطة القرارات هذه وتفصيلها جزءاً تلو الآخر؛ فلنستعرض معاً طبيعة هذه القرارات قبل الخوض في مزيد من التفاصيل.
وكيل الذكاء الاصطناعي (AI agent) هو برنامج قادر على تخطيط الخطوات واتخاذ إجراءات عبر مراحل متعددة لتحقيق هدف حددته أنت، مثل البحث عن معلومات، أو إنشاء ملفات، أو تحديث نظام ما. في المقابل، تقتصر أدوات الدردشة المألوفة لديك غالباً على اقتراح نصوص لتستخدمها؛ أما الوكيل فيتجاوز ذلك بقدرته على تنفيذ مهام فعلية في بيئة العمل، وليس مجرد اقتراحها. وتُعد هذه النقطة جوهرية حتى وإن بدت واجهة المستخدم متشابهة، لأن تأثير الوكيل قد يمتد لما بعد انتهاء المحادثة.
إن السؤال الأهم الذي يجب التركيز عليه ليس مدى ذكاء الوكيل، بل ما يمكنه الوصول إليه وتغييره بناءً على الصلاحيات الممنوحة له. فإذا كان الوكيل قادراً على قراءة التقويم، وصياغة رسالة بريد إلكتروني، ثم إرسالها، فإننا نكون بصدد ثلاثة إجراءات مختلفة تترتب عليها عواقب متباينة. وتبدأ عملية الرقابة من خلال التعامل مع هذه الصلاحيات الممنوحة باعتبارها قرارات مقصودة، وليس مجرد إعدادات افتراضية تأتي مع الأداة.
إذا كنت تشرف على عمل وكيل ذكاء اصطناعي أو كنت المدير المسؤول عنه، فإن دورك يكمن في ضمان بقاء المسؤولية مرتبطة بشخص محدد حتى عند تفويض العمل لبرمجيات. يوضح إطار عمل IMDA صراحةً أن النشر الموثوق للتقنية لا يعتمد على المطورين وحدهم، إذ يتعين على المستخدمين النهائيين أيضاً استخدام هذه الوكلاء بمسؤولية. وهذا يعني أنه يجب عليك معرفة المهام الموكلة للوكيل، وما يُحظر عليه القيام به، والإجراءات الواجب اتخاذها عند خروجه عن تلك الحدود. ولست بحاجة لأن تكون أنت من قام ببناء الوكيل لتتمكن من الحصول على إجابات لهذه الأسئلة.
لا تزال تقع على عاتق المطورين والموردين وفرق تكنولوجيا المعلومات مسؤوليات جوهرية، لا سيما فيما يتعلق بتصميم الوكيل واختباره ومراقبته وربطه بالأدوات المختلفة. أما دورك فيختلف عن ذلك؛ إذ يقع على عاتقك تحديد معايير الاستخدام المقبول ضمن سير العمل، والتحقق من أن آليات الرقابة المعتمدة تُطبق فعلياً، ورفع الأمر للجهات الأعلى في حال عدم وجود مسؤول واضح. فعندما يعجز الفريق عن تحديد الشخص المسؤول عن الوكيل في سياق سير العمل، فإن المشكلة لا تكمن في نقص المستندات أو الإجراءات الورقية، بل في وجود خلل في منظومة الرقابة والتحكم.
[المصادر][/المصادر]