ستقوم بإنشاء برنامج لحوكمة الذكاء الاصطناعي وإدارة المخاطر -بصيغة مبسطة وقابلة للتدقيق- بحيث يمكن توسيع نطاقه ليشمل مؤسستك بأكملها بحلول عام 2026.
سنعتمد نموذج تشغيل واحداً ومؤسسة نموذجية واحدة (وهي “NorthBridge Credit Union”)، لضمان أن يبني كل درس لاحق على الهيكل نفسه بدلاً من البدء من الصفر في كل مرة.
بنهاية هذه الدورة، ستكون قادراً على تحديد مجموعة محدودة من الوثائق والسجلات الحية (المتجددة)، وتحديد الجهة المسؤولة عن كل منها، ومكان حفظ الأدلة، وتواتر مراجعتها.
يسأل مدير المخاطر في “NorthBridge Credit Union” فريق الدعم الفني عن كيفية تعاملهم مع تراكم طلبات الدعم (التذاكر) المعلقة.
يجيب أحد الموظفين بأنهم ينسخون محادثات العملاء ويلصقونها في برنامج دردشة آلي (chatbot) مجاني عبر الويب لصياغة الردود، وأن قسم الموارد البشرية يستخدم أداة أخرى لفرز السير الذاتية بشكل أسرع.
لا أحد يستطيع تحديد الجهة التي وافقت على هذه الأدوات، أو نوع البيانات التي تمت مشاركتها، أو ما إذا كانت المخرجات تُستخدم لاتخاذ قرارات، أو حتى ما إذا كانت هناك سجلات توثق ما حدث.
ابدأ بالأدلةقبل وضع السياسات والأطر التنظيمية، قم برصد ما يحدث، ومكان حدوثه، والبيانات المستخدمة فيه.
يُعرَّف استخدام الذكاء الاصطناعي غير المعتمد بأنه أي استخدام لنظام ذكاء اصطناعي في مهام العمل دون وجود مالك مسجل، أو غرض موثق، أو ضوابط متفق عليها.
يتحول هذا الاستخدام إلى خطر لأنه يخلق حالة من “التعرض للمخاطر” (exposure) لا يمكنك رؤيتها أو إثبات إدارتك لها.
في مؤسسة “NorthBridge”، تتمثل المسارات الشائعة لذلك في خروج البيانات من الأنظمة المعتمدة، ووجود اتصالات غير رسمية تسحب البيانات أو ترسلها، واستخدام الموظفين لمخرجات الذكاء الاصطناعي وكأنها قرارات موثقة ومتحقق من صحتها.
دعونا نحدد أماكن تواجد نقاط التعرض هذه عادةً ضمن سير العمل اليومي.
الحوكمة القابلة للتدقيق تعني القدرة على تتبع المسار بدءاً من متطلب أو سياسة، ومروراً بعملية قابلة للتكرار وسجلات تثبت تنفيذ تلك العملية، ووصولاً إلى مالك مسؤول يتولى مراجعتها بمرور الوقت.
بالنسبة لشركة NorthBridge، تبدو المخرجات القابلة للدفاع عنها أشبه بحلقة عمل محكمة ومترابطة، بدلاً من مجرد تكديس كميات ضخمة من الوثائق.
بعد ذلك، سنستعرض كيف تبدو هذه المخرجات والوثائق عند تطبيقها عملياً في شركة NorthBridge.