تكمن خطورة “الوكيل” (البرمجية الذكية التي تنفذ مهاماً) في جانب محدد للغاية: عندما يُحدث إجراءٌ ما تغييراً خارج نطاق نافذة المحادثة. فإذا قدم “روبوت المحادثة” (chatbot) ملخصاً خاطئاً، يمكنك تجاهله؛ أما إذا أرسل الوكيل رسالة بريد إلكتروني، أو أغلق تذكرة دعم، أو وافق على صلاحيات وصول، أو نشر محتوى في قناة عامة، فقد تنتشر تبعات ذلك قبل أن يتمكن أي شخص من مراجعتها. لذا، فإن أكثر الممارسات أماناً هي طرح سؤالين قبل تشغيله: ما هي الأنظمة التي يمكنه الوصول إليها؟ وما هي الإجراءات التي يمكنني التراجع عنها بسرعة؟
يتمثل دورك في استخدام الوكيل وفقاً للغرض الذي صُمم لأجله، والتوقف عند الوصول إلى خطوة تتطلب حكماً بشرياً. يتولى مالكو الأداة والمديرون تحديد صلاحيات الوصول، والمهام المسموح بها، وبيانات السجل التي يتم حفظها، بينما يوفر الموردون المنتج ويحددون قيوده. وينطبق هذا التقسيم أيضاً عند إسناد العمل لجهات خارجية؛ إذ غالباً ما تتمتع فرق الدعم الخارجية بصلاحيات وصول واسعة، مما يستلزم وضع حدود واضحة، ومسارات تصعيد، وتحديد للمسؤولية الفردية، تماماً كما هو الحال مع الموظفين الداخليين.
يعتمد الاستخدام الآمن إلى حد كبير على خيارات صغيرة وسريعة، لا سيما عندما يجعل الوكيل الخطوة التالية تبدو وكأنها تتم تلقائياً. لا تهدف هذه المراجعة إلى تحقيق نتائج مثالية، بل تهدف إلى تنبيهك للمواقف التي تتعامل معها وكأنها مجرد محادثة عادية مع روبوت، في حين أنها في الواقع تمثل طلباً لتنفيذ إجراء فعلي داخل نظام العمل.
تتناول هذه الدورة الاستخدام الآمن لوكلاء الذكاء الاصطناعي في مهام العمل اليومية، معتمدةً على “إطار عمل حوكمة الذكاء الاصطناعي للوكلاء” (Model AI Governance Framework for Agentic AI) الصادر عن هيئة تطوير الإعلام والمعلومات (IMDA) كمرجع أساسي. تساعد الدورة الموظفين والمتعاقدين وفرق العمل الخارجية على اتخاذ قرارات أفضل بشأن المهام التي يمكن تفويضها للوكيل، وتلك التي يجب تقييدها، ومتى يتعين إشراك عنصر بشري. يكمن الخطأ الشائع في التعامل مع الوكيل باعتباره مجرد “روبوت محادثة” (chatbot) أكثر ذكاءً، نظراً لأن كلاهما يتواصل عبر النصوص ويبدو واثقاً في ردوده؛ إلا أن هذا الافتراض يحجب الاختلاف الجوهري بينهما. فعلى الرغم من أن العمل قد يبدو وكأنه مجرد صياغة لطلبات جيدة، إلا أن النتيجة النهائية تتحدد بناءً على الصلاحيات الممنوحة للوكيل بعد تقديمه للرد. [المصادر][/المصادر]
يُعرَّف وكيل الذكاء الاصطناعي بأنه برنامج قادر على تنفيذ إجراءات نيابةً عنك —مثل إنشاء تذكرة دعم، أو تحديث سجل، أو إرسال رسالة، أو تشغيل مسار عمل (workflow)— وذلك باستخدام صلاحيات الوصول الممنوحة له. فبينما يقتصر دور مساعد روبوت المحادثة على تقديم الإجابات والاقتراحات، يمتلك الوكيل القدرة على التنفيذ الفعلي للمهام. يبدأ الاستخدام الآمن من خلال المهام الروتينية العادية، مثل طلب مسودة لرسالة بريد إلكتروني، أو الحصول على ملخص لتقرير، أو السماح للوكيل بفتح الطلبات وتوجيهها؛ إذ تُمثّل هذه اللحظات المواقف التي تتحول فيها الصلاحيات البسيطة، وبشكل غير ملحوظ، إلى تغييرات حقيقية في الأنظمة. ولا تكمن الصعوبة في رصد إجابة خاطئة واحدة، بل في إدراك اللحظة التي تنتقل فيها المهمة من مرحلة تقديم المشورة إلى مرحلة التنفيذ الفعلي، مما يتيح ممارسة الرقابة قبل حدوث أي إجراء يصعب التراجع عنه. [المصادر][/المصادر]
يتجلى الاستخدام الآمن في التعامل مع الوكيل باعتباره زميلاً في العمل يحمل “بطاقة تعريفية” (تحدد صلاحياته)، وليس مجرد “مربع بحث”؛ فهذه البطاقة هي التي تتحكم في نطاق صلاحياته وما يمكنه الوصول إليه أو تعديله. وعندما تكون على دراية بحدود هذه الصلاحيات، يمكنك اختيار المستوى المناسب للتدقيق والمراجعة، وتحديد المهام التي تتطلب موافقة مسبقة، وضمان عدم تسرب البيانات الخاصة إلى أماكن غير مخصصة لها. يوصي إطار عمل IMDA بضرورة وجود مساءلة بشرية واضحة وضوابط عملية تحكم ما يمكن للوكلاء القيام به في العمليات اليومية؛ ولهذا السبب، تركز هذه الدورة على القرارات التي تتخذها أنت في اللحظة التي تستخدم فيها هؤلاء الوكلاء. وفيما يلي استعراض لطبيعة المهام التي ستساعدك هذه الدورة على تمييزها وفهمها في سياق عملك اليومي: [المصادر][/المصادر]