تتناول هذه الدورة القرارات المتعلقة ببناء أنظمة ذكاء اصطناعي مسؤولة، وهي موجهة للمهندسين المسؤولين عن طرح هذه الأنظمة، وذلك استناداً إلى “قانون الذكاء الاصطناعي للاتحاد الأوروبي” (اللائحة رقم 2024/1689). ينصب التركيز هنا على مهام “المُزوِّد” (Provider)، أي الخيارات التي تحوّل نموذجاً أو مسار عمل (pipeline) إلى منتج يمكن الدفاع عنه وتبريره. وفي سياق هذه الدورة، يعني الذكاء الاصطناعي المسؤول: التصميم والتوثيق والحوكمة والطرح، بحيث تكون حدود النظام واضحة وسلوكه قابلاً للضبط والتحكم. يكمن الخطأ الذي تقع فيه الفرق في التعامل مع التزامات المُزوِّد على أنها مجرد أعمال ورقية تُنجز عند الإطلاق؛ فرغم أن العمل قد يبدو وكأنه مجرد كتابة وثائق في مرحلة متأخرة، إلا أن القرارات الجوهرية تُتخذ في وقت أبكر بكثير من خلال خيارات التصميم والبيانات. ولهذا السبب، تعود الدورة باستمرار إلى “المخرجات” أو الوثائق الملموسة التي يمكن تسميتها وتحديد إصداراتها؛ فنحن نبني الخريطة العامة قبل الخوض في التفاصيل، ليتسنى لك وضع كل واجب في مكانه الصحيح.
غالباً ما يقوم فريق المُزوِّد بالفعل بمعظم هذا العمل، ولكن في أماكن متفرقة: وثيقة البنية التقنية، وبطاقة النموذج (model card)، ودفتر ملاحظات التقييم، وقائمة التحقق الخاصة بالإصدار، ولوحة معلومات المراقبة. وتكمن المشكلة في أن هذه المخرجات لا تتماشى دائماً مع غرض واحد محدد، مما يؤدي إلى نشوء فجوات خفية بين الفرق. وبمجرد وجود هذه الفجوات، يعجز الجهات التي تتولى التشغيل لاحقاً (deployers) عن تشغيل النظام بأمان؛ لعدم قدرتهم على معرفة الغرض الذي بُني من أجله النظام أو كيفية أدائه تحت ظروف الضغط. تعالج الدورة التزامات المُزوِّد ضمن هيكلية “البناء والطرح” التي تتألف من ثلاث مراحل: التصميم والبيانات، ومحطات الموافقة على الإصدار والأدلة الداعمة، ثم المراقبة ما بعد الطرح في السوق والتعامل مع الحوادث. وهذه الهيكلية هي التي تجعل الدروس اللاحقة قابلة للتطبيق العملي. إليك نظرة سريعة على هذا النموذج:
في هذه الدورة التدريبية، يُعرَّف نظام الذكاء الاصطناعي بأنه نظام قائم على الآلة ومصمم للعمل بمستويات متفاوتة من الاستقلالية، حيث يستنتج كيفية توليد مخرجات - مثل التوقعات أو المحتوى أو التوصيات أو القرارات - بناءً على المدخلات التي يتلقاها. أما المزوّد فهو الشخص أو المؤسسة التي تطور نظام ذكاء اصطناعي (أو تتولى تطويره) وتطرحه في السوق أو تضعه قيد التشغيل تحت اسمها أو علامتها التجارية، سواء كان ذلك بمقابل مادي أو مجانًا. وتكتسب هذه التعريفات أهمية للمهندسين؛ إذ يمكنك أن تصبح “المزوّد” دون الحاجة لتدريب الأوزان الأساسية للنظام، وذلك ببساطة من خلال امتلاك النظام المُطروح والغرض المقصود منه. أنت تتجاوز هذه العتبة عندما يتعامل المستخدمون مع نظامك باعتباره المنتج النهائي، وعندما يمتلك فريقك السيطرة على وظائف هذا النظام.
إن استخدام نموذج تابع لجهة خارجية لا يجعل تلك الجهة تلقائيًا “المزوّد” لكل ما تطرحه؛ ففريقك لا يزال يحدد البيانات الداخلة، ومعاني المخرجات، وضوابط الأمان (guardrails) الموجودة في الواجهة. وتُحدد هذه الخيارات “الغرض المقصود” من الناحية العملية، حتى وإن لم يستخدم قسم التسويق هذا المصطلح صراحةً. فعندما يسأل أحد الشركاء: “من هو المزوّد هنا؟”، فإنه يسأل في الواقع عمن يستطيع تقديم سجل الأدلة والإثباتات، وليس عمن كتب السطر الأول من كود النموذج.
يتولى المهندسون مسؤولية الجوانب المتعلقة بعمل “المزوّد” التي لا يمكن تحقيقها إلا من خلال عملية البناء الفعلي للنظام. ورغم أن أقسام الامتثال والشؤون القانونية يمكنها المساعدة في تفسير “قانون الذكاء الاصطناعي” (AI Act)، إلا أنها لا تستطيع إضافة آليات التسجيل (logging)، أو نقاط المراقبة (oversight hooks)، أو تغطية التقييم بأثر رجعي بعد طرح النظام. وتكمن الصعوبة المتكررة في ترجمة الالتزام القانوني إلى عنصر ملموس يمكن الإشارة إليه في مستودع الكود (repo)، أو في نتائج الاختبارات، أو في معايير الموافقة على الإطلاق (release gate). وهنا عادةً ما يحدث انحراف في مسار المشاريع، لأن هذه العملية تتطلب تنسيقًا يمتد عبر فرق وجداول زمنية متعددة. وعندما تسير الأمور على ما يرام، تكون المخرجات الهندسية روتينية (غير مثيرة للجدل) وقابلة للتحقق والمراجعة.
يتبع الفريق الذي ينجح في هذا الأمر نهجًا ثابتًا ومتكررًا: فهم يحددون “الغرض المقصود” في مرحلة مبكرة، ثم يربطون خيارات التصميم والوثائق الفنية بهذا الغرض. وهم يتعاملون مع الوثائق باعتبارها مرآة لعملية البناء - وليست مجرد سرد يُكتب لاحقًا - مما يضمن بقاءها متوافقة مع إصدارات النظام. كما أنهم يميزون بوضوح بين المتطلبات التي يجب استيفاؤها قبل طرح المنتج في السوق وبين تلك التي يجب أن تظل فعالة بعد الإطلاق؛ لأن طرح المنتج يغير طبيعة ما يمكن إصلاحه بتكلفة منخفضة. فإذا أمكنك تحديد العنصر أو المخرج (artifact) المرتبط بالتزام معين، فسيمكنك حينها تحديد المسؤول عنه وتعيين موعد لإنجازه.