يعني تصميم استقلالية الوكيل الذكي (Agent) والإشراف عليها تحديد متى يمكن للبرمجيات التصرف نيابةً عنك، ومتى يجب عليها التوقف وطلب التوجيه. تستند هذه الدورة التدريبية إلى “إطار عمل حوكمة الذكاء الاصطناعي للوكلاء الذكيين” (Model AI Governance Framework for Agentic AI) الصادر عن هيئة تطوير تكنولوجيا المعلومات والاتصالات والإعلام (IMDA)، والذي يوصي بممارسات لنشر تقنيات الوكلاء الذكيين بمسؤولية. يكمن الخطأ الشائع في التعامل مع الوكيل الذكي باعتباره مجرد “روبوت محادثة” (chatbot) متطور، نظراً لأن كلاهما يتحدث بلغة طبيعية ويمكن أن يبدو واثقاً في أدائه. لكن التحدي الحقيقي يكمن في أن الوكيل الذكي يُحدث تغييراً في العالم الواقعي عبر الأدوات والأنظمة، بينما يقتصر تأثير روبوت المحادثة غالباً على تغيير ما تراه على الشاشة. وهذا الاختلاف الجوهري هو ما يجعل الاستقلالية قراراً تصميمياً، وليست مجرد إعداد يتم اختياره لمرة واحدة.
في سياق العمل اليومي، تظهر الوكلاء الذكيون في المهام الروتينية المعتادة، مثل صياغة الردود على العملاء، أو إعداد التقارير، أو تحديث تذاكر الدعم الفني. وغالباً ما تبدأ فرق العمل بمنح الوكيل صلاحية استخدام الأدوات نفسها التي يستخدمها البشر، ثم تكتشف أن القرارات الصغيرة تتراكم لتنتج نتائج ملموسة، نظراً لقدرة الوكيل على تنفيذ خطوات متعددة ومتتالية دون توقف. إن الخريطة الأهم هنا ليست جودة النموذج بحد ذاته، بل هي العوامل المتعلقة بمستوى الاستقلالية، ونطاق العمليات المتاحة، والقيود، ونقاط التحقق، والاختبار، والمراقبة، والشفافية مع المستخدم، وآليات التصعيد؛ فهذه هي العناصر الحاسمة التي تحدد ما يمكن للوكيل فعله عملياً. وتوضح الخريطة الذهنية أدناه هيكلية هذه القرارات قبل الخوض في التفاصيل.
الوكيل هو برنامج قادر على التخطيط واتخاذ إجراءات عبر خطوات متعددة لتحقيق هدف حددته أنت، وغالباً ما يتم ذلك باستخدام أدوات مثل البحث، أو إنشاء الملفات، أو تحديث الأنظمة. قد يبدو “المساعد” (Assistant) شبيهاً بالوكيل أثناء المحادثة، لكنه لا يُعد وكيلاً في سياق هذه الدورة التدريبية ما لم يكن قادراً على القيام بأعمال تتجاوز مجرد توليد النصوص أو تقديم الاقتراحات. تشير “الاستقلالية” (Autonomy) إلى مدى قدرة الوكيل على اتخاذ القرارات بنفسه بمجرد تزويده بالهدف والسياق. أما “نطاق الإجراءات” (Action space) فيشير إلى الحدود المتاحة للوكيل، أي الأدوات والبيانات والأنظمة التي يمكنه التعامل معها. وهذان قراران منفصلان؛ ولهذا السبب تختلف عبارة “منحناه صلاحية القراءة فقط” عن عبارة “اختار القيام بذلك بنفسه”.
لست بحاجة إلى تولي مسؤولية برنامج الحوكمة بأكمله لاستخدام الوكلاء بأمان، لأن خياراتك هي التي تحدد الحدود اليومية التي يعمل ضمنها الوكيل. تقع على عاتقك مسؤولية القرارات العملية عند نقطة الاستخدام، مثل تحديد المهام التي ستفوضها، وما ستتحقق منه، وما لن تسمح للوكيل بفعله دون الرجوع إليك. يتولى المطورون هندسة الوكيل واختباره، بينما يتولى مسؤولو الأمن إدارة التحكم في الوصول، وتسجيل السجلات (logging)، والاستجابة للحوادث. ويضع مسؤولو الحوكمة توقعات المؤسسة، لكنهم يظلون بحاجة إلى مدخلاتك لأنهم لا يستطيعون الإلمام بكل سير عمل سيُستخدم فيه الوكيل. عندما تتداخل الأدوار، تتداخل معها المسؤولية أيضاً؛ ولهذا السبب يشدد الإطار التنظيمي على ضرورة تحديد المسؤوليات بوضوح طوال دورة حياة الوكيل.
اختر الخيار الذي ستبادر بتنفيذه أولاً، لأن ذلك يكشف عن نموذجك الذهني التلقائي.