تتناول هذه الدورة وكلاء الذكاء الاصطناعي القادرين على اتخاذ إجراءات في بيئة عملك، وتعتمد “إطار عمل حوكمة الذكاء الاصطناعي للوكلاء المستقلين” (الخاص بـ IMDA) مرجعاً للممارسات الموصى بها. صُممت الدورة للمشرفين والمديرين المسؤولين الذين يتعين عليهم تحديد الصلاحيات الممنوحة للوكيل، وآليات مراقبته، ومتى يجب أن يتدخل العنصر البشري. يكمن الخطأ الشائع في التعامل مع الوكيل وكأنه مجرد مساعد محادثة والتركيز فقط على ما يقوله، في حين أن التأثير الحقيقي يكمن فيما يمكنه فعله باستخدام الأدوات المتاحة له. وتظهر هذه الفجوة في سياق العمل اليومي من خلال إجراءات بسيطة—مثل إغلاق الوكيل لتذكرة دعم فني، أو إرسال بريد إلكتروني، أو تحديث سجل ما—حيث تكون الأضرار الناتجة عملية وملموسة قبل أن تتفاقم لتصبح كارثية. إن التحدي الحقيقي لا يكمن في فهم مصطلحات الذكاء الاصطناعي، بل في وضع حدود وضوابط تظل فعالة حتى في أوقات انشغال الوكيل واستعجال الموظفين.
في سيناريو النشر المعتاد، يقوم فريق العمل بتفعيل عدد محدود من عمليات التكامل، وتحديد هدف للوكيل، وإضافة ملاحظة تتيح للإنسان مراجعة العمل. قد يبدو هذا الوضع خاضعاً للسيطرة، لكن فعالية هذه السيطرة تعتمد على جدية عملية المراجعة، وإمكانية إيقاف الإجراء، وقابلية التراجع عنه. تركز الدورة بشكل أساسي على هذه الخيارات، باعتبارها قرارات يمكن للمدير اتخاذها فعلياً دون الحاجة لكتابة أكواد برمجية أو الاطلاع على نصوص قانونية. وتوضح الخريطة أدناه الصورة الشاملة للنظام قبل الخوض في تفاصيل مكوناته.
الوكيل المدعوم بالذكاء الاصطناعي (AI agent) هو برنامج قادر على تحديد الخطوات ثم تنفيذ إجراءات باستخدام أدوات تتيحها له، مثل نظام إدارة التذاكر، أو البريد الإلكتروني، أو التقويم، أو قاعدة بيانات داخلية. في المقابل، مساعد المحادثة (chat assistant) هو برنامج يُنتج نصوصاً ليقرأها المستخدم ويستفيد منها، حتى وإن كانت تلك النصوص عالية الجودة. وتكمن أهمية هذا الفرق في أن تنفيذ الإجراءات يترتب عليه آثار جانبية خارج نطاق المحادثة؛ مما يعني ضرورة إدارة الصلاحيات، وعمليات الموافقة، وإمكانية التراجع عن الإجراءات (rollback)، وليس مجرد التركيز على دقة المحتوى. وعندما يُقال إن الوكيل آمن لأنه يوضح أسباب قراراته، فإن ذلك لا يعدو كونه سرداً مرئياً لما قام به، وليس تحققاً فعلياً مما غيّره في الواقع. [المصادر][/المصادر]
بصفتك مشرفاً أو مديراً مسؤولاً، يجب عليك الإصرار على الحصول على إجابات واضحة حول: الجهة المالكة للوكيل، والأدوات المتاحة لاستخدامه، والحالات التي يتعين عليه فيها الرجوع إلى العنصر البشري. ينبغي عليك التعامل مع نطاق الإجراءات (action space) باعتباره يمثل الحدود التي يمكن للوكيل الوصول إليها، ومع الاستقلالية (autonomy) باعتبارها تمثل مدى قدرته على اتخاذ القرارات بمفرده؛ لأن توسيع كلا الجانبين في آن واحد يؤدي إلى فقدان الفرق القدرة على تتبع إمكانيات الوكيل وحدود عمله. وقبل الإطلاق، يمكنك طلب بيان موجز للقدرات يوضح ما لا يستطيع الوكيل القيام به، بالإضافة إلى مسار التصعيد المتبع عند بلوغ تلك الحدود. وأثناء التشغيل الفعلي، عليك الانتباه للحظات التي يتوقف فيها الأشخاص عن التحقق من النتائج لمجرد أن الوكيل يبدو واثقاً في ردوده؛ إذ إن تلك هي اللحظات التي قد تتسرب فيها إجراءات خاطئة دون ملاحظتها. [المصادر][/المصادر]
ستوضح لك الإجابة عن الأسئلة التالية مدى ملاءمة ممارساتك الحالية المتعلقة بالوكيل، والجوانب التي تتطلب تغييراً. [المصادر][/المصادر]