تتناول هذه الدورة كيفية تحديد الإجراءات المسموح لوكيل الذكاء الاصطناعي (AI Agent) بتنفيذها في بيئة العمل، وذلك بالاستناد إلى توصيات “إطار عمل حوكمة الذكاء الاصطناعي للوكلاء الذكيين” الصادر عن هيئة تطوير الإعلام والمعلومات (IMDA). بنهاية الدورة، سيكون القارئ -حتى المبتدئ في هذا المجال- قادرًا على اتخاذ قرار محدد وواضح: هل يُسمح للوكيل بالقراءة أو الكتابة أو التنفيذ داخل النظام دون الرجوع إلى عنصر بشري أولاً؟ غالبًا ما تتعامل فرق العمل مع صلاحيات الوكيل وكأنها مجرد شاشة إعدادات يمكن تعديلها أو ترتيبها لاحقًا؛ إلا أن التحدي يكمن في أن خيارات الصلاحيات تحدد قدرات الوكيل وإجراءاته قبل ظهور أي مخرجات فعلية. وينشأ هذا الخطأ نتيجة نقل عادات مألوفة من أدوات الدردشة التقليدية، حيث يكتفي النظام باقتراح النصوص دون اتخاذ إجراءات تنفيذية.
لا يقتصر دور الوكيل الذكي على الاستخدام اليومي فحسب، بل يبرز بوضوح في مراحل الإعداد والموافقة؛ إذ يقوم شخص ما بربطه بأدوات مثل البريد الإلكتروني، أو أنظمة إدارة التذاكر (الدعم الفني)، أو بوابات الموردين، بينما يتولى شخص آخر الموافقة على هذه الروابط والشروط المرتبطة بها. ورغم أن هذه الخطوات قد تبدو مشابهة لعمليات التكامل التقني المعتادة، إلا أن طبيعة القرار تختلف؛ فالوكيل قادر على اتخاذ إجراءات فعلية قد يصعب التراجع عنها بمجرد تنفيذها. ولهذا السبب، تركز الدورة باستمرار على تمييز بسيط وجوهري: “روبوت الدردشة (Chatbot) يقترح، بينما الوكيل الذكي (Agent) ينفذ”. وفيما يلي لمحة عامة عما تغطيه الدورة:
وكيل الذكاء الاصطناعي (AI agent) هو برنامج قادر على تخطيط الخطوات واستخدام أدوات متصلة لإنجاز مهمة ما بأقل قدر من التفاعل المتبادل. عادةً ما يكتفي “المساعد” (Assistant) بإنشاء نص ليقوم المستخدم بنسخه، بينما يستطيع “الوكيل” (Agent) تنفيذ التغيير بنفسه في نظام آخر. وتكمن أهمية هذا الفرق في أن الإجراء المُنفَّذ قد يستمر أثره لما بعد انتهاء المحادثة التي أطلقته؛ إذ يمكنك حذف رسالة، لكن لا يمكنك دائمًا التراجع عن بريد إلكتروني تم إرساله أو تذكرة دعم فني تم إغلاقها.
حتى في الحالات التي يمكن فيها التراجع عن إجراء ما، فإن عملية التراجع غالبًا ما تكلف وقتًا وتؤثر على الثقة. فتذكرة الدعم التي يُعاد فتحها بعد رد العميل تظل تعطي انطباعًا بأن أحدهم قد أهمل متابعة المحادثة، وسجل المورّد الذي يتم تصحيحه بعد تحديث ما قد يترك قيمة خاطئة في ملف بيانات قام شخص ما بتصديره. لذا، فإن البداية القوية تعني التعامل مع الأذونات كخيار تصميم أولي، وليس كمجرد شبكة أمان أخيرة.
تعود قرارات منح الأذونات للأشخاص الذين يقومون بإعداد الوكيل واعتماده، وليس للشخص الذي قد يقوم بتشغيله في يوم عمل مزدحم. يمكن للمستخدم اختيار موعد بدء المهمة، لكنه لا يستطيع رؤية كل أداة يمكن للوكيل الوصول إليها. ويمكن للمورّد توفير إعدادات افتراضية، لكنه لا يعلم أي الإجراءات ستقبلها مؤسستك. كما يمكن لقسم تكنولوجيا المعلومات (IT) توفير صلاحيات الوصول، لكن لا ينبغي أن يكون هذا القسم هو المكان الوحيد الذي تُتخذ فيه القرارات التجارية.
تتعامل هذه الدورة التدريبية أيضًا مع المسؤولية باعتبارها مسؤولية شخصية ومحددة الهوية؛ فـ المالك البشري المُسمَّى (Named human owner) هو شخص محدد يكون مسؤولاً عما يُسمح للوكيل بفعله وعن كيفية الإشراف عليه. ولا تزول هذه المسؤولية لمجرد أن الوكيل “داخلي” أو لأنه يعمل كحساب خدمة (service account). فعندما يتخذ الوكيل إجراءً ما، يجب أن يكون هناك شخص قادر على تحديد من وافق على نطاق هذا الإجراء وما هي الشروط التي تحكمه.
سنستخدم اختبارًا موجزًا للتمييز بين الإعدادات التي تبدو آمنة وبين الإعدادات الآمنة بالفعل.