تتمثل حوكمة شراء أنظمة الذكاء الاصطناعي في عملية تحديد ما ستقبله وتطلبه وتوثقه قبل التوقيع على عقد للحصول على نظام ذكاء اصطناعي. تقع هذه العملية عند نقطة التقاء بين الشراء والمخاطر والاستخدام الفعلي، وتستند هذه الدورة التدريبية في أحكامها إلى “قانون الذكاء الاصطناعي للاتحاد الأوروبي” (EU AI Act) بدلاً من الاعتماد على ادعاءات الموردين. يكمن الخطأ الشائع في التعامل مع شراء أنظمة الذكاء الاصطناعي باعتباره مجرد عملية شراء برمجيات عادية مضافاً إليها مراجعة أمنية؛ فالجزء الأصعب لا يتعلق بالترخيص أو خطة الاستضافة، بل بكيفية سلوك النظام وتفاعله عند التعامل مع موظفيك وبياناتك وقراراتك. ومن الناحية العملية، يحدد قرار الشراء إعدادات افتراضية يصعب تغييرها لاحقاً، مثل طبيعة البيانات التي يتم تسجيلها، ومن يملك صلاحية تجاوز مخرجات النظام، والأدلة التي يمكنك مطالبة المورد بتقديمها. تهدف هذه الدورة إلى جعل مرحلة ما قبل الشراء ملموسة وواضحة، مما يتيح للقارئ تحديد ما يجب طلبه وما يجب رفضه قبل إبرام أي التزام نهائي.
تتم هذه الأعمال بالفعل من خلال إجراءات ووثائق روتينية، مثل طلب تقديم العروض (RFP)، والعرض التوضيحي للمورد، وعملية تقييم أثر حماية البيانات (DPIA)، والاستبيان الأمني، وطلب الموافقة ضمن كتالوج الأدوات. ومع ذلك، قد يُنجز الفريق كل هذه الخطوات دون التطرق للسؤال الجوهري: ما هي فئة استخدام الذكاء الاصطناعي التي بصدد نشرها؟ وما هي الجوانب التي تستوجب التحقق منها بناءً على تلك الفئة؟ وتكون النتيجة قائمة مرجعية تبدو شاملة ولكنها لا تؤثر فعلياً في القرار، لأنها تغفل الربط بين الاستخدام المقصود للنظام وبين الأدلة الفعلية المطلوبة. يوضح المخطط التالي للدورة نقاط اتخاذ القرار التي ستعود إليها مراراً، مما يتيح لك تكوين صورة شاملة للموضوع قبل الخوض في تفاصيله الجزئية.
في هذه الدورة التدريبية، يُعرَّف نظام الذكاء الاصطناعي بأنه برنامج يُنتج مخرجات - مثل التوقعات أو المحتوى أو التوصيات أو القرارات - بناءً على مدخلات، وذلك بطريقة تتيح التكيف أو التعميم بما يتجاوز القواعد الثابتة. [المصادر][/المصادر]
تكتسب هذه الاختلافات أهمية بالغة في عمليات الشراء؛ لأنك لا تشتري مجرد ميزات تقنية، بل تشتري سلوكاً للنظام في ظل ظروف واقعية، بما في ذلك أنماط الخطأ والحالات الاستثنائية (edge cases). عادةً ما تفشل البرمجيات التقليدية عند فقدان أحد المتطلبات أو وجود خلل برمجي (bug)، بينما قد يفشل نظام الذكاء الاصطناعي حتى لو استوفى المواصفات المحددة؛ لأن مخرجاته تعتمد على سياق البيانات، والأوامر المُدخلة (prompts)، وكيفية استخدام الأشخاص للنظام. والنتيجة العملية لذلك هي أن العروض التوضيحية وقوائم الميزات تُعد أدلة ضعيفة بمفردها؛ لذا ينبغي عليك الاستفسار عن البيانات التي اختُبر النظام عليها، والسجلات التي يحتفظ بها، وضوابط الرقابة المطبقة عند استخدام مخرجاته في اتخاذ القرارات. [المصادر][/المصادر]
تنجح حوكمة شراء أنظمة الذكاء الاصطناعي عندما يتولى شخص واحد أو مجموعة صغيرة مسؤولية التنسيق بين الوظائف المختلفة؛ أي الربط بين قرار الشراء وبين جوانب الاستخدام والرقابة وحفظ السجلات وإجراءات التصعيد عند الحاجة. [المصادر][/المصادر]
يمكن للمشترين إدارة العملية التجارية، ولفرق تكنولوجيا المعلومات تقييم التكامل والأمن، وللإدارة القانونية مراجعة الشروط، ولمالكي المنتج تحديد النتائج المرجوة، ولكن لا أحد من هؤلاء يمتلك بطبيعته المسؤولية الشاملة عن الإجابة على السؤال الجوهري: هل تستطيع المؤسسة تشغيل النظام بأمان بمجرد دخوله حيز التنفيذ الفعلي؟ غالباً ما تفشل عمليات تسليم المهام بين الأقسام عندما يفترض كل طرف أن طرفاً آخر سيتولى معالجة الأسئلة الصعبة، مثل: من المخوّل بالاعتماد على مخرجات النظام؟ وماذا يحدث إذا أخطأ النموذج؟ وما هي الأدلة التي تدعم الادعاء بمطابقة النظام للمعايير؟ إذا توليت دور المسؤول عن الحوكمة، فيجب عليك صياغة رؤية موحدة قبل الشراء تحدد بوضوح الغرض من الاستخدام، والأشخاص المتأثرين بالنظام، والحد الأدنى من الأدلة المطلوبة للمضي قدماً في الموافقة على الشراء. [المصادر][/المصادر]
تختبر الحالات المذكورة أدناه ما إذا كانت ممارساتك الحالية تساهم بالفعل في تجنب المخاطر الشائعة المرتبطة بشراء أنظمة الذكاء الاصطناعي. [المصادر][/المصادر]