يسعى قسم المطالبات في شركة “Northbridge Mutual” إلى نشر أداة مساعدة (Copilot) تعتمد على الذكاء الاصطناعي التوليدي لتلخيص ملاحظات مسؤولي تسوية المطالبات. وقبل الموافقة على ذلك، يتعين على فريق الحوكمة تحديد الجهة المالكة لحالة الاستخدام، ونوع البيانات التي ستتم معالجتها، والمخاطر التي تتطلب معالجة، والأدلة التي تدعم القرار. سنقوم ببناء الهيكل التشغيلي لبرنامج يحوّل طلبات اعتماد الذكاء الاصطناعي إلى قرارات قابلة للتتبع، وضوابط رقابية، وتقارير تُرفع إلى مجلس الإدارة.
يُستخدم سجل أنظمة الذكاء الاصطناعي لتوثيق كل نظام وحالة استخدام، بما في ذلك الجهة المالكة، والغرض، والبيانات، والمورّد، ومستوى المخاطر. كما يُستخدم سجل مخاطر الذكاء الاصطناعي لتوثيق كل خطر تم تحديده، والجهة المسؤولة عنه، وتصنيفه، وإجراءات معالجته، وتاريخ مراجعته. وتعمل هذه المخرجات التوثيقية مجتمعةً على تعزيز شفافية البرنامج وتوفير نقطة انطلاق موثوقة للمراجعين. ويربط النموذج التشغيلي لشركة “Northbridge Mutual” بين مراحل تلقي الطلبات، والتصنيف، والرقابة، والمتابعة، وإعداد التقارير:
يُظهر البرنامج القابل للتبرير الجهة التي امتلكت صلاحية الموافقة على قرار ما أو الاعتراض عليه أو إيقافه، كما يحتفظ بالأدلة الداعمة لذلك القرار. وتعمل حقوق اتخاذ القرار على توزيع هذه الصلاحيات بين أصحاب الأعمال، وفرق إدارة المخاطر والامتثال، والأمن، والشؤون القانونية، والمشتريات، والقيادة العليا؛ مما يمنع تحول عملية الموافقة إلى مجرد سلسلة رسائل بريد إلكتروني غير رسمية تفتقر إلى وجود مسؤول محدد عنها.
يتطلب البرنامج أيضاً آليات للتنفيذ والالتزام؛ حيث يتحقق مسؤول حوكمة الذكاء الاصطناعي من اكتمال سجلات النظام ومتابعة المراجعات المتأخرة وفقاً للجدول الزمني الذي حددته المؤسسة، بينما يقدم المسؤولون عن الضوابط الأدلة اللازمة. وتؤدي أي مخالفة إلى بدء تحقيق واتخاذ إجراءات تصحيحية، وقد تصل الأمور -عند الاقتضاء- إلى تعليق حالة الاستخدام المعنية. أما في حالات الاستثناء، فيتم توثيق المبرر التجاري، والجهة المخولة بقبول المخاطر، وتاريخ انتهاء الصلاحية، وشروط استمرار الاستخدام.
الأدلة أمر جوهري لا تتحول السياسة إلى أداة حوكمة فعلية إلا عندما يقوم المسؤولون المعينون بمراجعتها وتسجيل النتائج والتعامل مع أي مخالفات.
تضمن إجراءات التحكم في التغيير تحديث السجلات باستمرار عند حدوث تغيير في الغرض من النظام، أو مصادر البيانات، أو المورد، أو النموذج، أو الفئة المتأثرة. ويتماشى هذا النهج مع إطار عمل إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني للمعايير والتقنية (NIST AI RMF)؛ حيث تغطي وظيفة “الحوكمة” (Govern) جوانب المساءلة والسياسات المؤسسية، بينما تعمل وظائف “الرسم البياني/التحديد” (Map) و"القياس" (Measure) و"الإدارة" (Manage) على ربط تلك القرارات بالمخاطر المحددة وإجراءات المعالجة المقابلة لها.
يعمل البرنامج كدورة تشغيلية متكررة، وليس كمحطة موافقة تُنفذ لمرة واحدة فقط. يقع على عاتق “خط الدفاع الأول” -أي فريق العمل المسؤول عن تشغيل حالة الاستخدام- مسؤولية ضمان الاستخدام الآمن وتوفير الأدلة. بينما يتولى “خط الدفاع الثاني” وضع السياسات، ومراجعة قرارات المخاطر والاعتراض عليها عند اللزوم، ومراقبة الامتثال. أما “خط الدفاع الثالث” فيقدم ضمانات مستقلة من خلال التدقيق الداخلي. وتنتقل المسألة إلى مستوى القيادة العليا (التصعيد) عندما تتجاوز المخاطر المتبقية، أو حالات عدم الامتثال المتكررة، أو التغييرات الجوهرية حدود الصلاحيات المفوضة.
يمكن لشركة “Northbridge Mutual” اعتماد دورة عمل شهرية للحفاظ على دقة سجلاتها وكشف الفجوات قبل أن تتحول إلى ملاحظات تدقيق رسمية. ويمكننا تتبع كيفية دعم كل نشاط للقرار التالي: