معلومات واضحة ومستندة إلى المصادر عن برامج ذكاء اصطناعي خاضعة للمساءلة.

ابحث في استراتيجية الذكاء الاصطناعي أو الأتمتة أو الحوكمة...
فتح القائمة أو إغلاقها

عمليات الذكاء الاصطناعي ومراقبته

إدارة الموجّهات والنماذج ومنطق سير العمل كإصدار ذكاء اصطناعي واحد

منهج عملي يجمع الموجّه والنموذج والأدوات والسياسات ومنطق سير العمل في إصدار واحد قابل للتقييم والترقية المرحلية والاستعادة الآمنة بسجل واضح.

يمسك رجل بمشبكي حقيبة سوداء صلبة ومفتوحة على طاولة عمل خشبية، وداخلها وحدات هندسية مثبتة في تجاويف مخصصة.

إصدار الذكاء الاصطناعي ليس اسم النموذج ولا نص الموجّه منفردًا؛ إنه الحزمة الكاملة التي تحدد ما يراه النظام، وما يستطيع فعله، وكيف يقرر ويتصرف داخل الخدمة. قد يعيد الفريق النموذج السابق بعد عطل، لكنه يترك في الإنتاج موجّهًا جديدًا أو عقد أداة مختلفًا أو صلاحية موسعة أو مسار إعادة محاولة متغيرًا. عندها لا تكون الاستعادة قد أعادت السلوك الذي اختُبر أصلًا. الحل العملي هو منح التكوين الفعلي كله هوية إصدار واحدة، ثم تقييم المرشح نفسه وترقيته ومراقبته واستعادته من دون تبديل مكوناته في الطريق.

الخلاصة التنفيذية

  • وحدة الإصدار هي كل تكوين يؤثر في السلوك التشغيلي، لا الموجّه أو النموذج وحده.
  • يثبّت بيان المرشح المعرّفات المحلولة والإعدادات الفعلية، بينما تحفظ سجلات مرتبطة أدلة التقييم وتغيرات التعرض.
  • يُقيّم المرشح نفسه خارج الإنتاج ثم داخل تعرض مقيس، مع مقارنته بالإصدار الحالي على مستوى الحالات المهمة.
  • تُعلن شروط الإيقاف مسبقًا، وتستعيد الحركة حزمة سابقة كاملة ثبت توافقها.
  • التراجع يمنع الطلبات اللاحقة من استخدام المرشح، ولا يعكس الإجراءات الخارجية التي اكتملت بالفعل.

ما الذي ينبغي اعتباره إصدار ذكاء اصطناعي واحدًا؟

تمتد آلة مجمعة باللونين الفضي والأسود على منضدة ورشة نظيفة، وتضم أسطوانات شبيهة بالعدسات وكابلات وخراطيم وكتل أمان.

يُعد إصدارًا واحدًا كل تكوين مترابط يستطيع تغيير السلوك المقدم أو سلطة النظام أو مخاطره أو كلفته أو زمن استجابته أو قابليته للرصد. يعامل إطار NIST أنشطة دورة حياة الذكاء الاصطناعي وأطرافها باعتبارها مترابطة، ويدعو إلى جرد المكونات واختبارها قبل النشر ومراقبتها أثناء التشغيل. وتوضح Google Cloud أن نظام التعلم الآلي الإنتاجي يشمل الإعداد والأتمتة والتحقق والاختبار وإدارة البيانات الوصفية والبنية التحتية للخدمة والمراقبة، لا شفرة النموذج وحدها. لهذا ينبغي رسم حدود الإصدار من مسار الطلب الفعلي، لا من هيكل فريق التطوير.

  • الموجّه بجميع رسائله وقوالبه والمتغيرات التي تُحقن فيه.
  • معرّف النموذج المحلول ومعلمات الاستدلال الفعلية، لا اسم العائلة أو الاسم البديل فقط.
  • مخططات الأدوات وصلاحياتها وسياسات الموافقة والحواجز وقواعد الرفض والتصعيد.
  • إعدادات الاسترجاع والسياق والمصادر ومسارات التوجيه ورايات الميزات المؤثرة في معالجة الطلب.
  • شفرة سير العمل ومخططات الإدخال والإخراج واعتماديات وقت التشغيل والروابط البيئية المعتمدة.
  • نسخ مجموعات التقييم والمقيمين والقواعد والحدود بوصفها أصول ضمان تؤثر في قرار السماح، ولو لم تعمل داخل مسار الخدمة.

لا يعني ذلك وضع كل أصل تقني في الحزمة بلا تمييز. يدخل المكوّن، سواء كان داخليًا أو من طرف ثالث، عندما يستطيع إحداث فرق جوهري في الخدمة أو في القرار الذي يجيز إطلاقها. أما لوحة متابعة لا تغير التنفيذ، فيمكن ربطها بسجل التشغيل بدل عدّها جزءًا من المرشح. تحتفظ المكونات بسجلاتها الفردية المفيدة، لكن هوية الإصدار الموحدة تمنع الفريق من إعادة تركيب الصورة يدويًا بعد الحادث. وكل تغيير في موجّه أو لقطة نموذج أو إعداد فعال أو أداة أو صلاحية أو سياسة أو مخطط أو ارتباط بيئي مؤثر يبدأ مرشحًا جديدًا.

كيف تُربط طبقة السلوك في بيان إصدار ثابت؟

يرفع رجل قطعة معدنية متعددة الأضلاع من حقيبة مفتوحة مبطنة بالإسفنج، وبداخلها أنابيب عينات وقطع معدنية ذات تعشيق مميز.

يُربط المرشح ببيان ثابت يحمل هوية إصدار ويحل كل مؤشر متحرك إلى مرجع دقيق وإعداد فعلي. توثق MLflow نسخًا ثابتة لقوالب الموجّهات وأسماء بديلة متحركة وإعدادات نموذج قد تتغير بعد إنشاء نسخة الموجّه. ويمكن فيها ربط النموذج بعنوان يشير إلى نسخة محددة من الموجّه، بما يجعل نسب الموجّه والنموذج صريحًا وقابلًا للاستعلام. وتنبه OpenAI إلى أن سلوك الموجّهات قد يتغير بين لقطات النموذج، وتوصي بتثبيت اللقطة وإجراء تقييمات خاصة بالتطبيق. لذلك لا تكفي تسمية مثل «الإنتاج» أو «الأحدث» في سجل قابل للتدقيق.

  • هوية الإصدار، ووقت الإنشاء، والمالك، والخدمة المستهدفة، والحالة، وشروط الإيقاف، ومالك التراجع.
  • نسخة أو بصمة أو معرّف ثابت لكل موجّه ونموذج وأداة وسياسة وسير عمل ومخطط واعتمادية، مع الإعدادات الفعلية.
  • راية الميزة وقاعدة التوجيه ومرجع البيانات أو الاسترجاع والاتصالات المعتمدة، من دون تخزين الأسرار نفسها.
  • قيود التوافق والترحيلات المطلوبة والإصدار السابق المعروف بسلامته ونتيجة فحص إمكان استعادته.
  • روابط بناء المرشح ونتائج العقود والتقييمات والموافقات وخطة التدرج وسجل معالجة الآثار الخارجية.

في مثال مساعد دعم داخلي، يربط المرشح support-assistant-r18 الموجّه p-42 ولقطة النموذج m-2026-07 وإعداداتها ومخطط أداة إدارة العملاء t-9 وسياسة الصلاحية policy-12 والتزام سير العمل wf-a71 ومخطط الإخراج reply-6 وقفل اعتماديات التشغيل. وترتبط به، في سجل ضمان منفصل، حزمة التقييم eval-23 ونسخ المقيمين. يبقى البيان ثابتًا؛ أما نسبة التعرض ووقت النشر وقرار كل مرحلة فتحفظ كأحداث ترقية مرتبطة. لا يُسمى support-assistant-r17 هدفًا للتراجع إلا بعد التأكد من تقبله حقول تاريخ الاستحقاق وسبب التصعيد الجديدة أو الاختيارية.

كل ما يغيّر السلوك المقدم، أو الدليل الذي يجيز ذلك السلوك، يحتاج إلى هوية محلولة في سجل الإصدار.

ما الأدلة التي تقرر انتقال المرشح إلى المرحلة التالية؟

يفرز زملاء قطعًا خضراء وصفراء وحمراء في صوانٍ مطابقة، بينما تمسك امرأة بمظروف بني مغلق بإحكام.

يتقدم المرشح عندما تنتهي بواباته المطبقة بقرار موثق: ترقية أو تعليق أو رفض، مع مالك واضح للقرار. يدعو NIST إلى أساليب موثقة وقابلة للتكرار للاختبار والتقييم والتحقق، وإلى قرار صريح بشأن المضي في التطوير أو النشر. وتؤكد إرشادات OpenAI أن التقييم العام للنموذج لا يلتقط كل تفاصيل سير عمل بعينه، وتوصي بأمثلة واقعية وحالات نادرة عالية الكلفة ومشاركة خبراء المجال وتدقيق المقيمين الآليين. لذلك تبدأ ملاحظات الإصدار بالنية السلوكية والتبعيات المتغيرة والسيناريوهات المتأثرة، لا بقائمة تذاكر تقنية مبهمة.

  • اشرح ما يفترض أن يتغير للمستخدم أو للعملية، وما الذي ينبغي أن يبقى ثابتًا.
  • سمِّ الواجهات والصلاحيات ومسارات الأدوات والمراقبة المتأثرة، مع القيود المعروفة والمخاطر المتبقية.
  • اربط نتائج المرشح بمقارنة واضحة مع الإصدار الحالي، وبالحالات متعددة اللغات أو ناقصة السياق أو مرتفعة الكلفة ذات الصلة.
  • سجل نسخة بيانات التقييم والمقيم والقواعد والحدود؛ فتغيير البوابة قد يغير معنى النتيجة من دون تغيير المرشح.
  • حدد مالك التدرج وهدف التراجع المتوافق والاستجابة المطلوبة إذا ظهر فعل خارجي غير مأذون أو غير سليم.
مصفوفة مختصرة لبوابات قرار الإصدار
البوابةالدليل المراجعمالك القرارالاستجابة عند الإخفاق
البناء والعقودحل جميع المراجع، وتوافق مخططات الإدخال والإخراج والأدوات، وتحميل الاعتماديات وصحة الروابط البيئيةمالك المنصة أو الخدمةرفض المرشح وإصلاح الخلل تحت هوية جديدة إذا تغير السلوك
السلوك والجودةنجاح مهام سير العمل، والتصعيد أو الرفض المدعوم، والشرائح المهمة والحالات الطرفية مقارنة بالإصدار الحاليمالك المنتج وخبير المجالتعليق القرار وتحليل الفروق؛ لا تُخفى المشكلة داخل متوسط عام
السلامة والسلطةقواعد السياسة وحدود البيانات وصلاحيات الأدوات والموافقات ومنع الأفعال المحظورةمالك المخاطر أو الصلاحية المعينإيقاف صارم ورفض التعرض حتى إزالة المخالفة وإعادة التقييم
جاهزية الخدمةالأخطاء وزمن الاستجابة واستهلاك الحوسبة وكلفة المهمة واكتمال الآثار وجاهزية التنبيهمالك الخدمة المناوبتعليق الترقية أو التراجع وفق الحدود المعتمدة للخدمة

توصي Google Cloud بمقارنة المرشح بالنسخة الحالية أو بخط أساس، وفحص الشرائح المهمة وواجهات الخدمة، وتسجيل نتائج التقييم مع بيانات خط المعالجة. ولا يمنح نجاح المتوسط العام إعفاءً من إخفاق عقد مادي أو صلاحية أو سلامة أو شريحة مهمة. توثق GitHub وسائل حماية للنشر يمكن أن تشترط مراجعين وفحوص جودة أو رصد خارجية، وأن تمنع صاحب بدء النشر من اعتماد نشره بنفسه. هذه آلية ممكنة وليست وصفة إلزامية؛ قد تجمع الفرق الصغيرة الأدوار، لكن عليها إبقاء الدليل والقرار والاستثناء قابلًا للمراجعة.

كيف ينتقل المرشح نفسه إلى الإنتاج بأمان محسوب؟

تستقر حقيبة معدات سوداء مغلقة داخل حجرة اختبار معزولة في قاعة صناعية، بجوار مسارات محاطة بالحبال وأضواء حمراء وصفراء وخضراء.

ينتقل المرشح نفسه عبر سلم تعرض متدرج، فيما تحفظ كل خطوة كحدث نشر مرتبط به. يوصي NIST باختبار النظام قبل النشر ومراقبته أثناء التشغيل وإظهار سلوكه في ظروف تشبه ظروف الاستخدام المقصود. وتوضح إرشادات OpenAI أن تقييمات سير العمل تحتاج إلى الصيانة مع تغير النماذج والبيانات والأهداف، وأن الإصدارات الخارجية تظل بحاجة إلى تجارب متصلة بالإنتاج. يجمع هذا بين الدليل غير المتصل والملاحظة الحية، لكنه لا يجعل الظل أو العينة المحدودة برهانًا على تغطية كل الظروف أو الأعطال النادرة.

  1. شغّل إعادة ظل أو إعادة غير منفذة حيث تكون مجدية، مع تعطيل أدوات الكتابة والآثار التبعية أو وضعها في بيئة معزولة.
  2. انقل المرشح إلى مجموعة داخلية تعرف سير العمل، وأبقِ الموافقة البشرية على كل إجراء خارجي ذي أثر.
  3. استخدم مجموعة إنتاجية ثابتة العضوية كي لا يتنقل المستخدم أو الطلب بين المرشح والإصدار الحالي بلا تفسير.
  4. وسّع التعرض بعد تحقق متطلبات العينة والمراقبة المعتمدة، وقارن إشارات المهمة والسلامة والأداة والاعتمادية والزمن والكلفة.
  5. انتقل إلى كامل الحركة مع استمرار القياس المرتبط بالإصدار والإبقاء على هدف الاستعادة للفترة التي تحددها سياسة الخدمة.

ينبغي أن تنتقل الهوية المحلولة نفسها بين مراحل الإطلاق؛ وأي تعديل في مكوّن مؤثر في السلوك ينشئ مرشحًا جديدًا بأدلته الخاصة. أما زيادة تعرض مخططة ومعتمدة مسبقًا فتظل حدث نشر للمرشح نفسه إذا لم تغير طريقة معالجة الطلب أو سلطته أو سياقه. تصف إرشادات Google Cloud الفحص في بيئة مرحلية واختبارات الدخان والتعرض المحدود لتيار حي والمقارنة المتصلة، من دون تحديد نسب حركة أو مدد مراقبة عالمية. تختار الخدمة قيمها وفق مستوى الخطر وحجم الحركة وسرعة اكتشاف الضرر وقدرة الفريق على التدخل.

متى يتوقف الإصدار، وما الذي يجب أن تعيده الاستعادة؟

يوجه فني راكع درج خادم فضيًا داخل حامل مفتوح، بينما تفرز فنية أخرى قطعًا معدنية في صندوق مبطن بالإسفنج.

يتوقف الإصدار فورًا عند خرق سلامة أو سياسة، أو سلوك أداة غير مأذون، أو فشل عقد مادي، أو انهيار شديد في الاعتمادية؛ أما التراجعات الأخرى فتخضع لحدود خاصة بالخدمة أعلنت قبل بدء التعرض. يعامل NIST النشر بوصفه قرار مخاطر بشأن المضي أو التوقف، مع استمرار المراقبة وإدارة المخاطر عبر أنشطة دورة الحياة المترابطة. وقد تستدعي الإشارة الملتبسة تعليقًا وتحقيقًا بدل تراجع آلي، لكن لا يجوز أن تبقى بلا مالك أو مهلة قرار أو نتيجة مسجلة.

  • أوقف توسيع التعرض وثبّت بيانات المرشح والمجموعة والوقت والمسارات المتأثرة.
  • تحقق من توافق الإصدار المعروف بسلامته مع المخططات والحالة والترحيلات وعقود الأدوات وتوافر المزود.
  • أعد توجيه الحركة إلى الحزمة المتوافقة كاملة، ثم نفذ فحوص استعادة قصيرة على السلوك والواجهات والقياس.
  • اعزل الإجراءات الخارجية المتأثرة بمعرّفات الطلبات والأدوات، وشغّل مسار المعالجة المخول بصورة مستقلة.
  • سجل سبب القرار ووقت الاستعادة والنتيجة والمالك والتعديلات المطلوبة في التقييم أو المراقبة.

هدف الاستعادة هو الحزمة السابقة الكاملة المتوافقة، لا نموذج سابق موضوع بجانب موجّه وسياسة وسير عمل أحدث. توصي Google Cloud باختبار إمكان استعادة نسخة الخدمة السابقة بسرعة وأمان، والاحتفاظ بمؤشر إليها ضمن بيانات النشر. لذلك يُتدرب على الاستعادة قبل الحاجة إليها، ويُفحص توافق الحالة ومخططات البيانات وعقود الأدوات وقواعد التوجيه والترحيلات. عبارة «معروف بسلامته» تصف ما ثبت في نطاق أدلته السابقة؛ ولا تعني أن النسخة محصنة من كل ظرف أو أنها ستظل متاحة ومتوافقة بلا فحص.

التراجع عن الإعدادات يغير توجيه الطلبات اللاحقة، لكنه لا يحذف رسالة أرسلت ولا يعكس كتابة بيانات أو موافقة أو إجراءً اكتمل في نظام خارجي. يستطيع تتبع OpenAI Agents SDK تسجيل استدعاءات الأدوات والمسارات المرتبطة بها، بما يوفر دليلًا تشغيليًا يمكن ربطه بالإصدار الذي خدم الطلب. بعد استعادة الحركة، يحتاج الفريق إلى مسار مخول مستقل للاحتواء والمطابقة والتصحيح والإشعار أو الإجراء التعويضي، بحسب طبيعة الأثر وسلطة المؤسسة. لا ينبغي أن تنفذ أداة الإطلاق تلك الخطوات تلقائيًا لمجرد حدوث التراجع.

ما السجل الذي يجعل الإصدار قابلًا لإعادة البناء لاحقًا؟

تضع موظفة أرشيف صندوقًا رماديًا مقفلًا على رف بجوار صفوف من الحقائب المختومة ولفائف الورق، وبالقرب منها خزانة شبكية مفتوحة.

السجل الكافي هو سلسلة مترابطة تعيد بناء التكوين الفعلي والدليل والقرار الذي سمح له بخدمة الحركة. توصـي Google Cloud بتسجيل نسخ خط المعالجة ومكوناته، وأوقات التنفيذ، والمنفذين، والمعلمات، والمخرجات، ونتائج التقييم، ومؤشر إلى النموذج السابق. ويضاف إلى ذلك بيان المرشح الثابت، والروابط البيئية، ونتيجة فحص التوافق، والموافقات، وأحداث النشر وتوزيع الحركة والملاحظات وقرارات التعليق أو الاستعادة. الغرض ليس جمع أكبر كمية بيانات، بل الإجابة بدقة: ماذا شغّل هذا الطلب، وبأي دليل سُمح له، وماذا حدث بعد ذلك؟

  • معرّفات المكونات وإعداداتها الفعلية ووقت حل الأسماء البديلة أو المؤشرات المتحركة.
  • نسخ أصول التقييم ونتائجها والمراجع ومالك قرار كل بوابة وأي استثناء معتمد.
  • قواعد المجموعة ونسب التعرض وأوقات المراقبة ونتائج المقارنة وأحداث التراجع أو الإيقاف.
  • معرّف الإصدار وأثر التطبيق ومعرّف طلب المزود ومعرّفات استدعاءات الأدوات عند توافرها.
  • سياسة الاحتفاظ المطبقة، وما استُبعد من الحمولات الحساسة، ومكان حفظ العينات المحكومة إن وجدت.

إضافة معرّف الإصدار إلى الأثر تتيح إسناد التوليد واستدعاءات الأدوات والتحويلات والحواجز والتوقيت والنتائج إلى المرشح الذي خدم الطلب. ويمكن لتتبع OpenAI Agents SDK التقاط بنية سير العمل والتوليد واستدعاءات الأدوات والتحويلات والحواجز والمهام والتوقيت والبيانات الوصفية، مع إمكان استبعاد المدخلات والمخرجات الحساسة. كما توصي OpenAI بتسجيل معرّفات طلبات المزود لأغراض استكشاف الأعطال في الإنتاج، وبالجمع بين اللقطات المثبتة وتقييمات التطبيق. لا تتطلب قابلية المراجعة الاحتفاظ بكل موجّه أو إدخال أداة أو مخرج نموذج أو حمولة عميل؛ تحدد سياسات المؤسسة ما يجوز جمعه ومدة بقائه.

السجل المتين يحقق قابلية إعادة بناء الإعداد وقرار النشر، لكنه لا يَعِد بإعادة إنتاج المخرجات نفسها حرفيًا من خدمة احتمالية أو مستضافة. قد تبقى اللقطة والمعلمات والموجّه ثابتة، فيما تؤثر العشوائية أو البنية المستضافة أو ظروف المزود في إعادة التشغيل. لذلك تكون الصياغة الدقيقة هي «قابلية إعادة بناء التكوين» و«قابلية إعادة بناء القرار». ابدأ بأصغر حزمة إصدار ما زالت تحدد المرشح وأدلة ضمانه ومراحل ترقيته وهدف استعادته. واستعن بالمتخصصين المؤهلين داخل المؤسسة عندما يغير الإصدار معالجة بيانات حساسة أو صلاحيات مؤثرة أو التزامات حفظ أو معالجة أفعال خارجية.

أسئلة شائعة عن إصدارات الذكاء الاصطناعي

ما المكونات التي يجب إصدار نسخ منها في نظام ذكاء اصطناعي؟

أصدر نسخة من الموجّه، ومعرّف النموذج المحلول ومعلماته، والأدوات والصلاحيات والسياسات والاسترجاع ومنطق سير العمل والمخططات واعتماديات التشغيل والروابط البيئية المؤثرة. واحفظ أيضًا نسخ بيانات التقييم والمقيمين والقواعد والحدود ضمن دليل القرار، حتى إن لم تعمل هذه الأصول في مسار الطلب الإنتاجي.

هل يكفي ترقيم الموجّه والنموذج في تطبيق يعتمد على نموذج لغوي؟

لا، لأن عقد الأداة أو صلاحيتها أو سياسة الموافقة أو إعداد الاسترجاع أو مخطط الإخراج أو منطق إعادة المحاولة قد يغير السلوك من دون تغيير الموجّه أو اسم النموذج. اجمع كل مكوّن ذي أثر تحت هوية إصدار واحدة، مع الاحتفاظ بسجل النسخ الفردي لكل مكوّن.

كيف تعمل بوابات تقييم إصدار الذكاء الاصطناعي؟

تختبر المرشح الكامل مقابل الإصدار الحالي في العقود وجودة المهمة والشرائح المهمة والسلامة والسلطة وسلوك الأدوات والاعتمادية والزمن والكلفة. تنتهي كل بوابة بقرار ترقية أو تعليق أو رفض يملكه دور مسمى، ولا يجوز لمتوسط عام أن يخفي إخفاقًا ماديًا.

هل زيادة حركة النسخة المحدودة تنشئ إصدارًا جديدًا؟

لا تنشئ الزيادة المعتمدة مسبقًا إصدارًا جديدًا إذا تغير حجم التعرض فقط وبقي المرشح المحلول كما هو. أما تعديل الموجّه أو النموذج أو الأداة أو الصلاحية أو السياسة أو السياق أو سير العمل أو أي ارتباط يغير معالجة الطلب، فينشئ مرشحًا جديدًا.

ماذا يعني التراجع في سير عمل يستدعي أدوات خارجية؟

يعني إعادة الحركة اللاحقة إلى حزمة سابقة كاملة ثبت توافقها. لا يعكس التراجع رسالة أو كتابة أو موافقة أو مهمة اكتملت خارجيًا؛ لذلك تُحدد الطلبات والأفعال المتأثرة من الآثار، ثم يُطبق مسار مخول للاحتواء أو المطابقة أو التصحيح أو التعويض.

ModelFold logo

هيئة تحرير ModelFold

نرصد كيف يستقر الذكاء الاصطناعي فعليًا داخل الشركات. نبدأ من مصادر معلومة، ونفصل ما توصّلنا إليه عمّا نراه، ونستعين بالذكاء الاصطناعي في البحث والصياغة ضمن ضوابط تحريرية موثّقة. ولسنا بديلًا عن مراجعة خبير مختص.