تتناول هذه الدورة التدريبية عملية فحص نظام الذكاء الاصطناعي قبل شرائه، مما يتيح للجهة التي ستطبقه اتخاذ قرار شراء يمكن تبريره والدفاع عنه. تستند الدورة إلى “قانون الذكاء الاصطناعي للاتحاد الأوروبي” باعتباره الإطار القانوني الرئيسي، وتعتبر فرق المشتريات والامتثال هي الجهات المنوط بها تحديد ما يجب طلبه وما يجب رفضه. تتعامل العديد من الفرق مع شراء أنظمة الذكاء الاصطناعي كما تتعامل مع شراء البرمجيات التقليدية، حيث يُنظر إلى العرض التوضيحي (Demo) والمراجعة الأمنية على أنهما الجزء الأصعب؛ إلا أن التحدي الحقيقي يكمن في تقييم سلوك النظام أثناء الاستخدام الفعلي، نظراً لأن مخرجاته قد تتغير بتغير المدخلات (مثل الأوامر والبيانات) والسياق. وغالباً ما يمر هذا التغير دون أن يُلاحظ بسهولة، إذ يظل بإمكان المورّد عرض سير عمل مصقول ومثالي، بينما يقع على عاتق المشتري تحديد الأدلة الكافية للحكم على النظام.
في سياق هذه الدورة، يُقصد بنظام الذكاء الاصطناعي ذلك البرنامج الذي يُنتج مخرجات - مثل النصوص أو الدرجات أو التوصيات أو القرارات - بناءً على مدخلات معينة، بحيث يمكن لهذه المخرجات التأثير على الخطوات التالية التي يتخذها الأشخاص. وتكتسب هذه النقطة أهمية بالغة في عمليات الشراء، لأن الميزة نفسها قد يكون لها تأثير محدود في حالة استخدام معينة وتأثير كبير في حالة أخرى، وذلك يعتمد على الجهات التي تتأثر بالمخرجات وطريقة استخدامها. وتتم هذه العملية من خلال خطوات روتينية مثل مراجعة ملفات المورّد، واعتماد حالة الاستخدام، وتحديد شروط الطرح والتشغيل. وتزداد الأمور تعقيداً عندما لا يقتصر السؤال عند الشراء على “هل يعمل النظام؟” فحسب، بل يمتد ليشمل “ما الذي يمكن أن يفعله النظام في بيئتنا الخاصة مما لم يظهره العرض التوضيحي؟”. لذا، فإن الاطلاع على سير العمل بالكامل منذ البداية يُعد أمراً مفيداً، لأن كل خطوة فحص ترتبط بمرحلة محددة من عملية الشراء. وفيما يلي نظرة عامة على شكل سير العمل هذا.
عادةً ما تؤدي أدوات البرمجيات التقليدية المهام نفسها عند تلقي المدخلات ذاتها، مما يتيح لك اختبارها مرة واحدة واعتماد النتائج كجزء من المتطلبات. في المقابل، قد يتميز نظام الذكاء الاصطناعي باستقرار الأداء التشغيلي (وقت التشغيل) مع تباين في المحتوى؛ وذلك لأنه يولد المخرجات أو يستنبطها بدلاً من اتباع قواعد ثابتة. وهذا يعني أنه لا يمكنك الاكتفاء باختبار قبول واحد لضمان جودة الاستخدام المستمر، حتى لو وصفه المورّد بأنه “جاهز للتشغيل الفعلي”. لذا، يجب ربط عملية التقييم بطبيعة الاستخدام المحددة التي تشتري النظام لأجلها، بما في ذلك تحديد الجهة التي ستطلع على المخرجات والإجراءات التي قد تترتب عليها. [المصادر][/المصادر]
تتمثل إحدى عقبات الشراء في اعتبار “النموذج” (Model) هو المنتج بحد ذاته، في حين أن المنتج الحقيقي هو النظام المتكامل المحيط به. ويشمل هذا النظام واجهة المستخدم، والمطالبات (Prompts)، وآليات استرجاع المعلومات من وثائقك، وعمليات الربط التقني (Integrations)، وأي خطوات للمراجعة البشرية. وتحدد هذه المكونات مسار تدفق البيانات ومواضع تسجيلها، كما تحدد مدى سهولة اكتشاف الأخطاء قبل وصولها إلى العميل أو المرشح للوظيفة أو الموظف. [المصادر][/المصادر]
لا يشترط أن تتولى إدارتا المشتريات والامتثال مسؤولية التنفيذ الفعلي لإجراء عملية فحص دقيق (Due Diligence) فعالة؛ فأنت صاحب القرار بشأن الشراء والشروط المحددة، مما يتيح لك طلب وثائق محددة وإجابات واضحة قبل توقيع العقد. وعادةً ما تتولى فرق المنتج وتكنولوجيا المعلومات تفاصيل الربط التقني، بينما تتولى فرق الخصوصية جوانب حماية البيانات، ومع ذلك يمكنك مطالبة كل منها بتقديم معلومة ملموسة تدعم قرار الشراء. ويكمن السر في طرح أسئلة تفضي إلى الحصول على وثائق موثقة، لا مجرد عبارات طمأنة. [المصادر][/المصادر]
من المفيد تقسيم المهام من خلال الفصل بين ادعاءات المورّد، وما تؤكده فرقك الداخلية، وما يمكنك رصده بنفسك أثناء التجربة العملية. وتتمثل ادعاءات المورّد في وثائق مثل صحائف البيانات، أو التقارير الأمنية، أو أدلة الاستخدام. أما التأكيدات الداخلية فتظهر في وثائق مثل ملاحظات الربط التقني، أو مسودات إجراءات التشغيل، أو اعتمادات تقييم المخاطر. وأخيراً، تستند الملاحظات المباشرة إلى سجلات الاختبار، وملاحظات “الفريق الأحمر” (Red-team notes)، ولقطات الشاشة التي توثق أداء النظام عند التعامل مع مطالباتك وبياناتك. [المصادر][/المصادر]
لا جدوى من إجراء هذه المراجعة إلا إذا كانت ستغير تركيزك في الخطوات التالية. فقد يبدو النظام آمناً أثناء العرض التوضيحي، لكنه قد يثير تساؤلات جوهرية بمجرد تحديد حالة الاستخدام والأشخاص المتأثرين به. لذا، حدد أول مصدر للقلق يتبادر إلى ذهنك عند قراءة كل حالة، لأن ذلك هو ما سيحدد طبيعة الطلب التالي الذي ستوجهه للمورّد. [المصادر][/المصادر]