معلومات واضحة ومستندة إلى المصادر عن برامج ذكاء اصطناعي خاضعة للمساءلة.

ابحث في استراتيجية الذكاء الاصطناعي أو الأتمتة أو الحوكمة...
فتح القائمة أو إغلاقها

الذكاء الاصطناعي التوليدي للعمل

كيف تصمم مسار صياغة بالذكاء الاصطناعي مستندًا إلى المصادر

دليل عملي لبناء مسار صياغة يفصل الأدلة المعتمدة عن النص المولّد، ويوزع قرارات المراجعة بوضوح، ويحفظ التعديلات المؤثرة حتى الاعتماد.

تختار امرأة ملفًا من صندوق أرشيف وترتب بطاقات الأدلة على طاولة مكتب مضيئة بجوار حافظة فارغة وعدسة مكبرة وختم اعتماد.

الصياغة المستندة إلى المصادر ليست مطالبة أطول ولا تدقيقًا نهائيًا سريعًا؛ إنها سلسلة مضبوطة تفصل المصدر والدليل والنثر المولّد وقرارات المراجعة والاعتماد. تخيل موجزًا يقول: «أثبتت التجربة أن المسار سيوفر وقت المحللين»، بينما لا تسجل البيانات إلا أن مجموعة صغيرة اختارت المشاركة بنفسها أمضت وقتًا أقل في إعداد المسودات الأولى لمهام تجريبية مقاسة. العبارة المصقولة تجاوزت ما يثبته المصدر، حتى لو بدت معقولة وذُكر بجوارها مرجع. العلاج هو كشف حد الدليل قبل التوليد، ثم إبقاء الادعاءات المؤثرة قابلة للتتبع والاعتراض والتصحيح حتى لحظة الإصدار.

الخلاصة التنفيذية

  • الصياغة المستندة إلى المصادر سلسلة من آثار الأدلة والنص والمراجعة والاعتماد، وليست حيلة في كتابة المطالبة.
  • اعتمد حدود المصادر والمعلومات قبل التوليد، من دون اعتبار الاعتماد دليلًا تلقائيًا على الاكتمال أو الصحة أو الحداثة أو جواز الاستخدام.
  • اجعل نقص الدليل ظاهرًا، ولا تسمح للنموذج بسد الفجوات من معرفته العامة.
  • افصل قرار صحة الدليل عن التحرير والمراجعة التخصصية واعتماد الإصدار، ولو تولى شخص واحد أكثر من دور.
  • سجل التعديلات المؤثرة، وأحل استثناءات الحدود إلى مالك مسمى قبل استئناف الصياغة أو الإصدار.

ما الذي يجب حسمه قبل أن يبدأ الذكاء الاصطناعي الصياغة؟

يرتب رجل صواني مستندات ملونة في غرفة اجتماعات بجوار صندوق أرشيف مغلق وحاسوب محمول مطوي وختم اعتماد.

يجب حسم غرض المستند وحدوده وملكيته ومسار مراجعته قبل تزويد النموذج بأي مادة. تبدأ الحزمة بسؤال عملي: ما القرار أو الإجراء الذي سيخدمه المستند، ولمن يكتب، ومتى يستحق، وما عاقبة الخطأ؟ ثم تسمي مالكًا مسؤولًا، وتحدد شكل المخرج المقبول، والأداة المصرح بها، وحدود المعلومات التي يجوز إدخالها. هذا يحول المهمة من «اكتب موجزًا جيدًا» إلى عمل له نطاق وقرار نهائي ومسؤول يستطيع قبول النتيجة أو رفضها.

  • الغرض والجمهور والموعد والقرار المطلوب وعاقبة الخطأ.
  • الأداة المعتمدة وحد المعلومات المسموح بإدخالها، من دون تمرير معلومات سرية أو شخصية أو مقيدة إلى أداة غير مناسبة.
  • سجل المصادر وبنية بطاقات الأدلة وقالب المخرج.
  • خريطة المراجعين، وسلطة الاعتماد، ومسار التصعيد عند ظهور استثناء.
  • ما يجوز للنموذج إنتاجه، والاستنتاجات المحظورة، والعلامة المطلوبة عند غياب الدليل.
  • قاعدة متناسبة لحفظ الآثار والتعديلات المؤثرة.

تنسجم هذه الحزمة مع نتائج إطار NIST الذي يدعو إلى توثيق حدود معرفة النظام ونطاق تطبيقه وكيفية استخدام مخرجاته والإشراف عليها، مع تمييز أدوار الإنسان من أدوار الذكاء الاصطناعي. لكنها ليست شهادة امتثال ولا وصفة إلزامية لكل مستند. كذلك فإن عبارة «مصدر معتمد» لا تعني أن المصدر كامل أو صحيح أو حديث أو مناسب أو جائز الاستخدام بالضرورة؛ هي تعني فقط أن جهة مسماة أدخلته ضمن حد تشغيلي بعد الفحوص التي تراها المؤسسة ملائمة.

كيف تتحول المصادر المعتمدة إلى أدلة صالحة للصياغة؟

يمسك محلل يرتدي نظارة بمسطرة معدنية فوق تقرير مفتوح تحيط به علامات صفحات وصواني فرز تحت مصباح مكتب مضاء.

تتحول المصادر إلى أساس صالح عندما يسجل الفريق كل مصدر بهوية ثابتة، ثم يستخرج منه بطاقات أدلة محددة تحفظ المعنى والقيود معًا. يتضمن سجل المصدر مالكه أو ناشره، وتاريخه أو نسخته، ونطاقه ذي الصلة، وحالة اعتماده، وشروط الوصول، والقيود المعروفة، ومحفز إعادة فحصه. ولا يكفي أن يكون الملف متاحًا في مجلد مشترك؛ ينبغي تقييم سلطته وصلته وحداثته وملاءمته وأذوناته ضمن السياسة التي تحددها الجهة التنظيمية المختصة داخل المؤسسة.

  • معرف المصدر ومعرف بطاقة الدليل.
  • المقطع أو القياس كما ورد، مع صفحة أو قسم أو موضع دقيق.
  • النقطة التي يدعمها المقطع فعلًا، لا الموضوع العام للمصدر.
  • المؤهلات والقيود والسياق الذي قد يغير القراءة.
  • الاستخدام المسموح في المسودة والاستنتاج المحظور.
  • اسم المراجع الذي يستطيع الرجوع إلى المادة الأصلية.

في المثال التجريبي، تسمح البطاقة E-04 بقول إن المشاركين أمضوا وقتًا أقل في إعداد المسودات الأولى ضمن المهام المقاسة. لكنها تمنع توقع نسبة توفير للمحللين، لأن العينة صغيرة واختارت المشاركة بنفسها، ولم توجد مجموعة مقارنة، كما سُجل وقت المراجعة بصورة منفصلة. بهذه الصياغة يستطيع النموذج وصف الملاحظة وحدودها، ولا يستطيع تحويلها إلى وعد بإنتاجية عامة. ويوصي ملف NIST أصلًا بتوثيق الاعتماد على البيانات الأولية ومراجعة دقتها وتمثيلها وصلتها وملاءمتها؛ أما شكل البطاقة نفسه فهو تطبيق عملي لهذه الغاية.

كيف يصوغ النموذج النص من دون أن يملأ فجوات الأدلة بصمت؟

يرفع رجل بطاقة فارغة مثبتة بمشبك من طاولة مضيئة بين صفوف البطاقات وطاولة رسم تحمل ورقة شبه خالية.

يصوغ النموذج ضمن الدليل عندما يتلقى عقد توليد واضحًا يحدد البطاقات المسموح بها وبنية المخرج وسلوكه عند النقص. تطلب التعليمات منه كتابة سياق القرار والملاحظات المدعومة والمخاطر غير المحسومة والخيارات والتوصية التي تسمح بها البطاقات فقط. وإذا غاب الدعم، يضع علامة ثابتة مثل «[يلزم دليل]» بدل الاستعانة بمعرفته العامة أو بإحصاءات سوقية أو ادعاءات موردين أو تفسير غير منصوص عليه لسياسة داخلية. ظهور الفراغ مفيد؛ فهو يحول النقص إلى مهمة يمكن إسنادها بدل دفنه في عبارة واثقة.

  1. مرر معرفات بطاقات الأدلة وقالب المخرج، لا كومة وثائق غير مفهرسة.
  2. اطلب إسناد كل عبارة مؤثرة إلى بطاقة محددة مع إبقاء الإسناد خارج النثر الموجه للقارئ.
  3. احظر الاستشهادات المخترعة والإضافات من المعرفة العامة والتفسيرات غير المعتمدة.
  4. اجمع علامات نقص الدليل في قائمة عمل يراجعها مالك المصدر.
  5. أعد كل ادعاء مؤثر إلى المقطع الأصلي أو إلى مراجع مناسب قبل الاعتماد.

الاستشهاد أداة تتبع، وليس ختم صحة. يوصي ملف NIST بمراجعة مصادر المخرجات التوليدية واستشهاداتها والتحقق منها، ولذلك ينبغي للمراجع مقارنة العبارة بالمقطع المشار إليه وفحص ما إذا كانت الدرجة والسببية والنطاق والقيود قد بقيت كما هي. ولا يصح تكليف نموذج الصياغة بأن يكون المدقق الوحيد لمخرجاته المؤثرة. يمكنه اقتراح الربط أو كشف بطاقة مفقودة، لكن قرار قبول الادعاء يعود إلى إنسان يملك المصدر والسياق وسلطة التصعيد.

من يراجع كل جزء من المسودة المستندة إلى المصادر؟

يقف زملاء حول طاولة مكتب دائرية ويفحص كل منهم مجلدًا أو عدسة مكبرة أو قلم رصاص أو علامة بشكل درع أو ختم اعتماد.

يراجع كل جزء صاحب قرار مسمى، لأن «المراجعة البشرية» العامة لا توضح السؤال المطروح ولا من يملك الإجابة. يؤكد مالك المصدر أن المجموعة المعتمدة صحيحة وأن البطاقات أمينة لها. يقارن مراجع الأدلة العبارات المؤثرة بالبطاقات والمقاطع الأصلية. يحسن المحرر البنية والوضوح وملاءمة الجمهور من دون تغيير المعنى الدليلي بصمت. ويدخل مراجع مختص عند ظهور محفز سياسة أو مجال أو حساسية، ثم يقبل المعتمد النهائي التوصية وشروطها وعدم اليقين المتبقي.

  • مالك المصدر: هل دخلت المواد الصحيحة والنسخ المناسبة ضمن الحد؟
  • مراجع الأدلة: هل تثبت المقاطع كل عبارة مؤثرة بدرجتها ونطاقها؟
  • المحرر: هل النص مفهوم ومناسب للجمهور من دون تضخيم أو حذف قيد؟
  • المراجع المختص: هل ظهر سؤال سياسة أو خصوصية أو أمن أو سجلات أو مجال يحتاج صاحب اختصاص؟
  • المعتمد: هل يقبل القرار أو الرسالة والقيود والمخاطر المتبقية؟

يمكن لفريق صغير أن يسند أكثر من دور إلى الشخص نفسه، لكن عليه تسجيل القرارات منفصلة حتى لا تتحول «مراجعة واحدة» إلى انطباع عام. وفي المستند الطويل أو المؤثر، الأفضل عمليًا فحص الادعاءات أو العبارات المحددة بدل سؤال المراجع إن كان المستند يبدو دقيقًا إجمالًا. وجدت دراسة LongEval انخفاضًا في اختلاف المقيمين مع الأحكام الأدق ضمن مجموعتي بيانات للتلخيص الطويل؛ والاستفادة منها في صياغة الأعمال استدلال عملي مؤهل، وليست نتيجة مثبتة لكل مؤسسة أو نوع مستند.

المسودة المؤسَّسة ليست التي تسمي مصادر فحسب، بل التي يمكن تتبع ادعاءاتها المؤثرة ومناقشتها وتصحيحها واعتمادها عن علم.

أي تعديلات تحتاج إلى سجل صريح؟

يرفع مراجع مسن طبقة شفافة فوق مستندات منقحة ويمسك علامة حمراء بجوار ساعة نحاسية صغيرة.

يحتاج التعديل إلى سجل صريح عندما يغير حقيقة أو تفسيرًا أو توصية أو التزامًا أو واجبًا أو معالجة للمخاطر أو أساسًا مصدريًا أو حالة اعتماد. أما تحسين الإيقاع وتصحيح الخطأ اللغوي وتنسيق العناوين، فيمكن أن يبقى في سجل النسخ المعتاد ما لم تتطلب سياسة المؤسسة خلاف ذلك. الغرض ليس تسجيل كل ضغطة مفتاح، بل حفظ اللحظة التي تغير فيها ما سيعتقده القارئ أو يقرره أو يلتزم به، مع بيان من راجع التحول ومن وافق عليه.

  • النص قبل التعديل والنص بعده.
  • سبب التغيير ونوع الأثر الذي عولج.
  • بطاقات الأدلة أو المصادر التي تأثرت.
  • اسم المراجع واسم المعتمد.
  • وقت القرار وحالة الاعتماد الجديدة.

في المثال، تستبدل العبارة «أثبتت التجربة أن المسار سيوفر وقت المحللين» بعبارة: «في المهام التجريبية المقاسة، أمضى المشاركون وقتًا أقل في إعداد المسودات الأولى؛ ولا تثبت العينة الصغيرة التي اختارت المشاركة بنفسها الأثر على عمل المحللين». يبين السجل أن التغيير أزال استنتاجًا سببيًا وتعميمًا على فئة لم تقس، وأعاد القيد من البطاقة E-04 إلى النص. ويصف ملف NIST بيانات منشأ تشمل المنشئ والتاريخ والتعديل والمصدر، لكنه لا يفرض مدة حفظ عامة لكل مطالبة أو مسودة؛ تحدد المؤسسة ما يلزم حفظه وفق الغرض والمخاطر والسياسات والالتزامات المطبقة.

كيف يتغير المسار بين الموجز والتقرير والرسالة الروتينية؟

تعرض طاولة مكتب مضاءة بالشمس حافظة بنية ومجلد حلقات أزرق ومظروفًا ورقيًا مختومًا، وأمامها مساطر وفرجار قياس وختم اعتماد.

يتغير وزن المسار بحسب عواقب المستند، مع بقاء النمط الأساسي: حد للمعلومات والمصادر، وصياغة مقيدة، ومراجعة مسماة، واعتماد مناسب، وسجل متناسب. يحتاج موجز القرار إلى مالك وموعد وعواقب وخيارات وتوصية وعدم يقين. يحتاج التقرير التحليلي إلى سؤال ومنهج وفترات واستبعادات وفصل واضح بين الأدلة والتركيب. أما الرسالة الروتينية فتستطيع الاعتماد على حقائق وأسماء وتواريخ وروابط وعبارات ثابتة مع مراجعة المرسل، بشرط التصعيد عند ظهور التزام أو استثناء أو محتوى حساس أو ادعاء جديد.

الحد الأدنى للضبط بحسب نوع المستند
نوع المستندحزمة الصياغة الدنياالمراجعة المطلوبةمحفزات التصعيد
موجز قرارالمالك والموعد والعاقبة والأدلة والخيارات والتوصية وعدم اليقينفحص الادعاءات، ومراجعة مختصة عند المحفز، واعتماد نهائيالتزام جوهري أو دليل ناقص أو مخاطرة غير محسومة
تقرير تحليليالسؤال والمنهج والتواريخ والاستبعادات وسجل المصادر وبطاقات الأدلةفحص الأدلة على مستوى العبارات ومراجعة المنهج أو المجال واعتماد النسخةتغير المنهج أو المصدر أو تفسير النتائج أو القيود
رسالة روتينيةالمتلقي والغرض والمرسل والحقائق المعتمدة والإجراء والموعدمراجعة المرسل للأسماء والتواريخ والروابط والعبارات الثابتةالتزامات أو استثناءات أو بيانات حساسة أو ادعاءات جديدة

لا يحدد طول المستند عمق المراجعة وحده. قد تكون رسالة قصيرة توافق على استثناء أو تنشئ التزامًا أهم من تقرير طويل منخفض المخاطر، ولذلك تستحق تدقيقًا أعمق وسلطة اعتماد أعلى. وفي المقابل، لا يلزم تحميل كل رسالة داخلية سجلًا مماثلًا لتقرير تحليلي. القرار العملي هو سؤال: ما الذي يمكن أن يحدث إذا كانت هذه العبارة خاطئة أو تجاوزت الدليل، ومن يجب أن يراها قبل أن تصبح وعدًا أو سياسة أو أساسًا لقرار؟

كيف يبقى المسار موثوقًا مع تغير المصادر والعمل؟

يقف رجل بجوار رف أرشيف دائري ممسكًا بمجلد بالٍ بينما يُدخل بديلًا أبيض نظيفًا، وتظهر أمامه سلة تحتوي أوراقًا.

يبقى المسار موثوقًا عندما يملك الفريق دورة تشغيل خفيفة لتحديث المصادر وأخذ عينات من الآثار وتحليل التصحيحات وإدارة الاستثناءات. يعين لكل مصدر مالك ومحفز مراجعة عند تغير الحقائق أو النسخة أو الصلة أو الأذونات أو الحالة التنظيمية، بدل افتراض أن اعتماد الأمس صالح دائمًا. ويوصي ملف NIST بتحديد مسؤوليات المراجعة الدورية لمنشأ المحتوى وتوثيق أدوار الإشراف؛ أما توقيت المراجعة الفعلي فينبغي أن يناسب سرعة تغير المصدر وعواقب استخدامه.

  1. افحص عينة من الحزم المكتملة للتأكد من بقاء الادعاءات قابلة للتتبع والقيود ظاهرة.
  2. تحقق من تنفيذ المراجعات التي حفزتها الحساسية أو السياسة أو المجال.
  3. راجع ما إذا كانت التعديلات المؤثرة قد سجلت مع مصدرها وقرار اعتمادها.
  4. صنف التصحيحات والاستثناءات المتكررة بحسب السبب، لا بحسب الشخص فقط.
  5. عدّل بطاقة الدليل أو قالب المخرج أو حدود التوليد عندما يتكرر النمط نفسه.

إذا ظهر مصدر خارج الحد المعتمد، أو برز سؤال يتعلق بالسياسة أو الحساسية أو الأذونات أو المراجعة التخصصية، يوقف الفريق الجزء المتأثر ويحيله إلى المالك المسمى ويسجل قرار الحد أو الاستثناء. لا تستأنف الصياغة أو الإصدار حتى يعتمد المصدر الجديد أو يحسم الاستثناء صراحة. ويمكن البدء بنوع واحد متكرر من المستندات وإظهار حد أدلته ومسار مراجعته وسجل تعديلاته. وعند وجود معلومات حساسة أو أذونات غير واضحة أو التزامات تعاقدية أو أحكام تخصصية أو واجبات حفظ، يرجع القرار إلى مالك الحوكمة أو الخصوصية أو الأمن أو الشؤون القانونية أو السجلات أو السياسة أو المجال المناسب، لا إلى نموذج الصياغة.

أسئلة شائعة عن الصياغة المستندة إلى المصادر

ما المقصود بمسار صياغة توليدية مستند إلى المصادر؟

هو عملية مضبوطة تعتمد حد المصادر أولًا، وتحول المواد إلى أدلة مؤهلة، ثم تقيد التوليد بما تدعمه تلك الأدلة. بعد ذلك تقارن الادعاءات المؤثرة بالمقاطع الأصلية، وتسجل المراجعة والاعتماد والتعديلات التي تغير المعنى أو القرار.

كيف نراجع محتوى الأعمال الذي أنشأه الذكاء الاصطناعي؟

تفصل المراجعة بين صحة الدليل وجودة التحرير والمخاطر التخصصية وقرار الإصدار. في المحتوى المؤثر، يقارن مراجع مسمى كل ادعاء أو عبارة محددة ببطاقة الدليل والمقطع الأصلي، ثم يحسم المعتمد التوصية والقيود وعدم اليقين المتبقي.

هل تجعل الاستشهادات المحتوى المولد بالذكاء الاصطناعي موثوقًا؟

لا؛ فالاستشهاد يسهل التتبع لكنه لا يثبت أن المصدر صحيح أو كامل أو مناسب، ولا أن العبارة تستنتج منه فعلًا. يجب فحص المقطع المشار إليه والتأكد من بقاء النطاق والدرجة والقيود والتمييز بين الارتباط والسببية.

هل ينبغي للمؤسسات حفظ كل مطالبة ومسودة أنشأها الذكاء الاصطناعي؟

لا توجد قاعدة عامة واحدة تصلح لكل مؤسسة ومستند. يحدد الحفظ وفق غرض العمل وعواقبه والسياسات والالتزامات المطبقة، مع إعطاء الأولوية للآثار والتعديلات والقرارات اللازمة للتتبع؛ ويحدد أصحاب الاختصاص متطلبات السجلات الفعلية.

هل تستطيع فحوص الاستناد الآلية أن تحل محل المراجعة البشرية؟

يمكنها مساعدة الفرز وربط الادعاءات بالمصادر وكشف بعض حالات النقص، لكنها لا تتولى الاعتماد النهائي. يصف NIST هذه الأدوات ضمن عمل تجريبي للتقييم، ولذلك تبقى قرارات صحة الدليل والمخاطر التخصصية والإصدار لدى أشخاص مسؤولين.

ModelFold logo

هيئة تحرير ModelFold

نرصد كيف يستقر الذكاء الاصطناعي فعليًا داخل الشركات. نبدأ من مصادر معلومة، ونفصل ما توصّلنا إليه عمّا نراه، ونستعين بالذكاء الاصطناعي في البحث والصياغة ضمن ضوابط تحريرية موثّقة. ولسنا بديلًا عن مراجعة خبير مختص.