يتمثل الإشراف البشري في سياق الاستخدام اليومي للذكاء الاصطناعي في عملية التحقق مما تنتجه الأداة قبل أن تُحدث تلك المخرجات أي تغيير في العالم الواقعي. وتندرج هذه العملية ضمن مهام اعتيادية مثل صياغة النصوص، وتصنيف الحالات (الفرز)، والمراجعة، ودعم اتخاذ القرار؛ وهي مهام تفرض فيها السرعة وكثافة العمل ضغوطاً تدفع الأفراد لقبول أول إجابة تبدو مقبولة. يربط هذا البرنامج التدريبي ممارسات الإشراف اليومية هذه بـ “قانون الذكاء الاصطناعي للاتحاد الأوروبي”، ويهدف إلى تمكين المشارك من اتخاذ قرار عملي محدد؛ إذ يصبح قادراً -بعد إتمام البرنامج- على تحديد متى يعتمد على مخرجات الذكاء الاصطناعي، ومتى يشكك فيها، ومتى يوقف الأداة عن العمل. ومن الأخطاء الشائعة التعامل مع الإشراف باعتباره مجرد نظرة أخيرة لاكتشاف الأخطاء المطبعية، بدلاً من اعتباره خياراً واعياً ومدروساً يتعلق بالتأثير وإمكانية التراجع عن القرار. وينشأ هذا الخطأ بسبب تصميم سير العمل، حيث تظهر الأداة والعمل نفسه على الشاشة ذاتها.
قد يتوخى الفريق أقصى درجات الحذر، ومع ذلك يفوته اللحظة الحاسمة؛ فقد يراجع الفريق ملخصاً أعده النموذج، ويلصقه في رسالة بريد إلكتروني موجهة للعميل، ويرسلها باسم أحد الأشخاص دون التحقق من المستند الأصلي. كما قد يقبل الفريق نفسه “درجة الثقة” (confidence score) ويوجّه حالةً ما إلى المسار الخاطئ، ولا يدرك ذلك إلا لاحقاً عند تلقي شكوى من العميل. وفي كلتا الحالتين، تمت عملية المراجعة بالفعل، ولكنها حدثت في وقت متأخر جداً لا يسمح بتغيير القرار. تكمن الصعوبة هنا ليس في إدراك أهمية الحذر، بل في تحديد تلك النقاط القليلة ضمن سير العمل السريع التي لا يزال فيها التوقف أو التشكيك أو إيقاف العمل أمراً ممكناً وغير مكلف. وتوضح الخريطة أدناه قرارات الإشراف التي يركز عليها هذا البرنامج التدريبي ويعود إليها باستمرار.
في هذه الدورة التدريبية، يُعرَّف نظام الذكاء الاصطناعي بأنه أي أداة تتلقى مدخلات وتنتج مخرجات تشكّل طريقة عمل الأشخاص أو سلوك الخدمة. ويشمل ذلك الأنظمة التي تولّد النصوص، أو ترتّب الخيارات، أو تصنّف المحتوى، أو تستخرج البيانات من الحقول، أو تقترح إجراءات، حتى وإن كانت مدمجة في منتج مألوف. على سبيل المثال، يمكن التنبؤ بنتيجة معادلة في جدول بيانات بمجرد معرفتها، بينما يمكن لأداة الذكاء الاصطناعي تغيير مخرجاتها بناءً على تغييرات طفيفة في الصياغة؛ ولهذا السبب تتمحور مسألة الرقابة حول “الاعتمادية والموثوقية” وليس فقط “الصحة والدقة”.
يواجه فريقك بالفعل أنظمة الذكاء الاصطناعي في سياقات العمل الروتينية، إذ غالباً ما يُستخدم مصطلح “الذكاء الاصطناعي” للإشارة إلى ميزة معينة وليس كتطبيق مستقل. فقد تقترح لوحة تحكم خدمة الدعم الفني ردوداً، أو تقوم أداة معالجة المستندات بإعادة صياغة فقرات، أو يرتّب طابور المراجعة العناصرَ وفقاً للأولوية المتوقعة. تبدو كل أداة منها وكأنها وسيلة مساعدة، كما أنها تدفع العمل قدماً، مما يعني أن المخرجات قد تتحول إلى قرار فعلي دون أن يطلق عليها أحد هذا المسمى صراحةً.
تقع مسؤولية الرقابة اليومية على عاتق الشخص الأقرب للحظة الاستخدام؛ لأن هذا الشخص هو الوحيد الذي يرى “الأمر” (أو المدخلات)، والسياق، والغرض الذي ستُستخدم فيه المخرجات. أنت من يقرر استخدام المخرجات، أو تعديلها، أو طلب أدلة داعمة، أو التوقف وتصعيد الأمر، لأنك تمثل الحلقة البشرية الأخيرة قبل أن تستقر المخرجات في تذكرة دعم، أو ملف، أو رسالة، أو قرار نهائي. وهذا ما يجعل عملك مختلفاً عن مهام الحوكمة، التي تعنى بوضع القواعد والتحقق من الأنماط عبر حالات استخدام متعددة.
تستخدم الدورة أيضاً مصطلحات محددة للأدوار الواردة في “قانون الذكاء الاصطناعي للاتحاد الأوروبي”، نظراً لاختلاف الواجبات باختلاف الجهة القائمة بالعمل:
يتحقق النشاط التالي مما إذا كانت الخطوة التالية الأكثر أماناً هي بالفعل الإجراء الذي تتخذه تلقائياً (بشكل افتراضي) عند العمل تحت ضغط الوقت؛ فهذا هو الجانب الذي تتحدد فيه فعالية الرقابة أو فشلها.