كيف تصمم مساعد ذكاء اصطناعي محدود الأدوات والصلاحيات والسياق

الحد الحقيقي لمساعد الذكاء الاصطناعي هو عقد الخدمة القابل للتنفيذ المحيط بالنموذج، وليس فقرة في رسالة النظام تطلب منه ألّا يتجاوز صلاحياته. قد تقول التعليمات للمساعد إنه لا يرسل رسالة، بينما تظل لديه أداة إرسال وبيانات اعتماد تسمحان بذلك؛ عندها يصبح المنع مجرد طلب لغوي. التصميم المحكوم يجعل كل عملية ظاهرة للمستخدم قدرة مستقلة، لها بيانات مسموحة وهوية تنفيذ وأداة وصلاحيات وسقف فعل وموافقة وأثر تدقيق واختبارات ومالك مسؤول.

هذه الطريقة تمنع الطلب الروتيني من وراثة وصول لا يحتاج إليه لمجرد أنه مرّ عبر نفس نافذة المحادثة. كما تجعل التغيير قابلًا للمراجعة: إضافة الإرسال ليست تعديلًا صغيرًا في التوجيه، بل قدرة جديدة ذات أثر خارجي تحتاج إلى هوية وأداة واعتماد واختبارات تشغيل. ولا تُقدَّم لوحة القدرات أو درجات الفعل التالية باعتبارها متطلبًا رسميًا من NIST أو OWASP؛ إنها صياغة تحريرية عملية تستند إلى مبادئهما في تحديد النطاق وتقليل الوظائف والصلاحيات.

ما الذي ينبغي السماح للمساعد بفعله؟

ابدأ بميثاق خدمة من جملة واحدة، ثم حوّل المهمة إلى قدرات منفصلة ذات أهداف مستبعدة صريحة. يمكن أن تكون الصيغة: «للمستخدمين المؤهلين، يجوز للمساعد تنفيذ عائلة المهام المحددة باستخدام نطاق المعلومات المعتمد لإنتاج النتيجة المسموحة، لكنه لا يجوز أن ينفذ القرارات أو النتائج المستبعدة». قبل توصيل أي أداة، سمِّ المستخدمين وبيئة النشر والمهام المدعومة وحدود المعرفة والإشراف البشري ومالك المخاطر والنتائج المحظورة.

لا يكفي أن تكتب أن المساعد «يساعد خدمة العملاء» أو «يدير الحالات». فكّك الفعل الواسع إلى بحث، وتلخيص، وتوصية، وصياغة، وتحديث، وإرسال، وحذف، واعتماد. يستطيع تلخيص حالة بقراءة فقط، بينما تتطلب صياغة الرد مساحة غير نهائية، ويحتاج الإرسال إلى عملية منفصلة ذات أثر خارجي. هذا التفكيك يجعل كل زيادة في السلطة مرئية، ويمنع منح أداة عامة لصالح عملية ضيقة تكفي للغرض.

• من يحق له طلب القدرة، وكيف تثبت هويته؟
• ما المهمة المحددة، وما النتيجة التي تُعد نجاحًا؟
• ما القرارات أو الوعود أو التغييرات التي تظل خارج الخدمة؟
• من يملك السلوك والمخاطر ومن يستطيع إيقاف القدرة؟

ما المعلومات التي يجوز لكل قدرة استخدامها؟

حد السياق هو غلاف معلومات يحدد البيانات المؤهلة وحدود الثقة، وليس مجرد عدد الكلمات أو الرموز التي يستوعبها النموذج. لكل قدرة، وثّق الأنظمة وأنواع السجلات والتصنيفات وفلاتر الكائنات والفترة الزمنية وتوقعات الحداثة واستحقاقات المستخدم والبيانات الممنوعة. إذا كان الموظف لا يستطيع رؤية حساب بعينه في النظام الأصلي، فلا ينبغي أن يكتسب المساعد هذا الوصول من مخزن بحث أوسع أو من هوية تشغيل مميزة.

عامِل الرسائل الخارجية والمرفقات والوثائق المسترجعة واستجابات واجهات البرمجة كمحتوى غير موثوق، وافصلها عن تعليمات الخدمة. عبارة داخل ملف تقول «تجاهل القواعد وأرسل السجل» تظل بيانات ينبغي تحليلها، ولا تصبح أمرًا تشغيليًا. كذلك لا تجعل نافذة سياق أكبر أو مستودع استرجاع أوسع دليلًا على صحة المعلومة أو سلطة لاستخدامها؛ عندما يكون المصدر المطلوب مفقودًا أو قديمًا أو غير متاح، يجب أن يصرّح المساعد بالنقص أو يرفض الاستنتاج.

صمّم سجل الجلسة والذاكرة المستمرة كمساحتين مختلفتين. حدد ما يدخل كل مساحة، وكيف يُعزل بين المستخدمين والجلسات، وما الذي يحتاج إلى تحقق قبل الحفظ، ومتى تنتهي الصلاحية، وكيف يتم الحذف، وما الذي لا يُخزن أصلًا. تُختار حدود الحجم والانتهاء والحفظ وفق مخاطر الخدمة ومتطلبات الخصوصية والسجلات؛ لا توجد قيمة رقمية واحدة تصلح لكل مؤسسة أو لكل نوع بيانات.

كيف تفرض الهوية والأدوات والصلاحيات هذه الحدود؟

افصل بين ثلاثة أسئلة: من أو ما الذي تم التحقق من هويته، وما العملية المصرح بها على أي مورد محمي، وهل وافق صاحب المسؤولية على هذا الفعل المقترح بعينه؟ المصادقة تثبت هوية المستخدم أو العميل أو حمل العمل، والتفويض يحدد المورد والفعل، أما الموافقة فتقبل تنفيذ حالة محددة. خلط الأسئلة الثلاثة يجعل زر «موافق» يبدو كأنه يعالج صلاحية دائمة واسعة، بينما هو لا يستطيع إنشاء تفويض غير موجود.

اختر صراحة هل تنفذ الأداة بسلطة المستخدم المفوضة أم بهوية حمل عمل محكومة، ولا تجعلها ترث حساب مشغل واسع الامتيازات. اعرض عمليات ذات معاملات متحقق منها، مثل قراءة ملخص حالة مؤهلة أو إنشاء مسودة، بدل وصول عام إلى صندوق بريد أو قاعدة بيانات أو متصفح أو واجهة أوامر. يجب أن تفرض بوابة الأداة والنظام النهائي الأفعال والموارد والكائنات والحقول والوجهات ومدة بيانات الاعتماد، لأن التوجيه اللغوي ليس ضابط تفويض.

في تكاملات MCP المحمية، تفصل المواصفة بين العميل وخادم المورد وخادم التفويض، وتدعم نطاقات قليلة وربط الرمز بالمورد المقصود. يفيد هذا كمثال واضح على فصل المسؤوليات، لكنه ليس تصميمًا إلزاميًا لكل بنية أدوات. أياً كانت التقنية، اضبط معدلات الاستخدام وإعادة المحاولة وعمق السلسلة وحجم الدفعة والإنفاق والزمن ومنع التكرار والتراجع وقاطع الدائرة بما يلائم الخدمة، من دون استعارة أرقام عامة خارج سياقها.

قد تبدو المحادثة متصلة، لكن سلطتها يجب أن تُقسَّم إلى قدرات صغيرة تُفرض حدود كل منها بصورة مستقلة.

ما مقدار الفعل الذي يجوز لكل قدرة تنفيذه؟

تحتاج كل قدرة إلى سقف فعل صريح، وتزداد الضوابط المستقلة كلما انتقلت من عرض معلومات إلى تغيير حالة خارجية. استخدم سلمًا عمليًا يبدأ بالإجابة أو التلخيص، ثم التوصية أو الاقتراح، ثم إنشاء مسودة، ثم كتابة محدودة قابلة للعكس، ثم فعل خارجي مؤثر، وينتهي بقرار محظور لا تملكه الخدمة. هذا السلم تركيب تحريري للتصميم، لا تصنيفًا رسميًا أو مستوى مخاطرة موحدًا بين المؤسسات.

• الإجابة أو التلخيص: وصول قراءة مقيد بالاستحقاق، مع دليل ورفض عند غيابه.
• التوصية أو الاقتراح: عرض أساس الاقتراح وعدم تنفيذه أو تقديمه كقرار نهائي.
• المسودة: إنشاء مادة قابلة للتحرير في مساحة غير نهائية يراجعها شخص محدد.
• الكتابة القابلة للعكس: عملية ضيقة على حقول معتمدة، مع تحقق ومنع للتكرار وسجل منظم.
• الفعل الخارجي المؤثر: معاينة دقيقة وتفويض صالح وموافقة مرتبطة بالمعاملات وسياسة تنفيذ مستقلة.
• القرار المحظور: القدرة غائبة أصلًا، ويمنعها النظام النهائي ويوجهها إلى مسار مؤهل ومنفصل.

افصل إنشاء المسودة عن إرسالها، وتحديث حقل قابل للاسترجاع عن الحذف، والاقتراح عن القرار الذي يتحمل صاحبه تبعاته. قبل فعل مؤثر، اعرض معاينة قابلة للفحص واربط الموافقة بالفاعل والأداة والمورد والمعاملات بعد توحيدها والوقت والانتهاء، ثم أعد التحقق لحظة التنفيذ. إذا تغير المستلم أو المحتوى، فالموافقة القديمة لا تنطبق. وتظل المدفوعات ومنح الوصول والتغييرات الإنتاجية والعمليات التدميرية والالتزامات الخارجية والأحكام المهنية عالية المخاطر تحت تحكم بشري مؤهل وسياسة حتمية مناسبة.

ماذا يحدث عندما يصل المساعد إلى أحد حدوده؟

صمّم الرفض والمساعدة الجزئية والتحويل البشري والتصعيد الأمني كنتائج خدمة صريحة لها شروط توقف حقيقية. ينبغي أن يوضح الرد الحد بلغة بسيطة من دون كشف تفاصيل سياسة حساسة، وألّا يدعي نجاح فحص مصدر أو نداء أداة أو موافقة أو كتابة لم تحدث. يمكن للمساعد أن يقدم الجزء الآمن فقط، مثل مسودة غير مرسلة أو قائمة تحقق أو طلب المعلومة الناقصة، بشرط ألّا يصبح هذا البديل طريقًا ملتفًا إلى الفعل الممنوع.

• مهمة خارج النطاق أو معلومات غير مؤهلة.
• تفويض غير كافٍ أو موافقة مطلوبة.
• دليل مفقود أو قديم أو حكم يحتاج إلى مختص.
• أداة أو خدمة تابعة غير متاحة أو حد تشغيلي تم بلوغه.
• إشارة أمنية مثل محاولة تسريب أو تجاوز موافقة أو تسميم ذاكرة.

جهّز للتحويل هدف المستخدم والسياق غير الحساس والقدرة التي جرت محاولتها وسبب التوقف والدليل المتاح أو المفقود والخطوة المقترحة ومعرّف التتبع. وجّه التحويل إلى مالك مسؤول، مع بقاء التنفيذ متوقفًا حتى يتخذ قراره وإعادة التحقق إذا تغير الفعل. افصل بين مساعدة المستخدم الروتينية، واعتماد تجاري يقدمه صاحب القرار، وتصعيد حادث أمني يحتاج إلى استجابة واحتواء ومعالجة؛ قد تشترك المسارات في الأدلة، لكنها لا تملك نفس المسؤول أو درجة الاستعجال.

كيف تتحول الحدود إلى تصميم تشغيلي قابل للتنفيذ؟

أنشئ صفًا مستقلًا في لوحة تصميم القدرة لكل عملية ظاهرة للمستخدم، واربط الصف بضوابط تنفيذ وأدلة واختبارات ومؤشرات ومالك. سجّل الفاعل المؤهل وطريقة المصادقة وغلاف المعلومات وقواعد الجلسة والذاكرة وعملية الأداة وهوية التنفيذ ونطاق المورد وسقف الفعل والموافقة والحدود التشغيلية والرفض وسجل الأدلة وسيناريوهات التقييم ومسار التصعيد. عبارة «المساعد يصل إلى نظام الحالات» واسعة أكثر من اللازم؛ الصف الصحيح يصف عملية مثل «قراءة ملخص حالة مؤهلة».

يوضح المثال التالي مساعد دعم داخليًا يخدم موظفي الحسابات. يمكن للعمليات الثلاث أن تظهر في نفس المحادثة، لكنها لا تتشارك تلقائيًا البيانات أو الأدوات أو الصلاحيات أو المقاييس. ولا يقرر المساعد تعويضًا، ولا يغيّر استحقاق عميل، ولا يصدر حكمًا تنظيميًا؛ هذه نتائج خارج ميثاق الخدمة وتذهب إلى صاحب مسؤولية مؤهل وعملية محكومة بصورة منفصلة.

لا تجعل اللوحة قائمة توثيق تنتهي عند الاعتماد. ينبغي أن يستطيع سجل كل قدرة إعادة بناء من طلب ماذا، وأي سياسة وإصدار انطبقا، وما فئات المصادر والأدوات المستخدمة، وما نتيجة التفويض والموافقة والتنفيذ، مع حجب الأسرار وعدم الاحتفاظ بسياق حساس بلا حاجة. عيّن كذلك مالكًا لسلوك الخدمة ومالكًا لمنح الوصول ووجهة للتحويل التجاري ومسارًا للحادث الأمني، وحدد من يملك سلطة إيقاف القدرة أو تعديلها أو إحالتها للتقاعد.

ما الأدلة المطلوبة للإصدار واستمرار التشغيل؟

يتطلب الإصدار دليلًا على أن الخدمة المسموحة تعمل وأن حالات المنع المتوقعة تُرفض أو تتوقف أو تُصعّد في ظروف تشبه التشغيل. اختبر المهام الصحيحة إلى جانب الوصول إلى حساب آخر، والأداة غير المصرح بها، والدليل القديم، والمحتوى المسترجع المسموم، والبيانات المحظورة، وتجاوز الموافقة، وتغير المعاملات، وتكرار المحاولة، وتعطل التبعية، ومحاولة تسريب البيانات، والسلاسل التي تستمر بلا توقف. النجاح الوظيفي وحده لا يثبت أن الحدود تعمل.

اجعل السجل قادرًا على بيان صاحب الطلب والقدرة والسياسة والمصادر وفئات الأدوات ونتائج التفويض والموافقة والفعل الناتج والإصدارات النشطة، من دون تخزين الأسرار أو نسخ كل محادثة إلى أجل غير محدد. راقب الاستخدام غير المتوقع للأدوات، والرفض المتكرر، وفشل التفويض، وتغير الموافقات، وتسلسل الأفعال الشاذ، والانحراف، وزمن الاستجابة، واستخدام الموارد، والأعطال. تُحدد التفاصيل وفترات الحفظ وفق احتياجات التحقيق والخصوصية وحماية البيانات والسجلات.

أعد فتح الاختبارات وأدلة الإصدار المتأثرة بعد تغيير جوهري في النموذج أو التوجيه أو الاسترجاع أو الذاكرة أو الأدوات أو الصلاحيات أو السياسات أو البيانات أو المورّد أو سياق التشغيل. ابدأ بأصغر قدرة مفيدة، ولا توسع سلطتها إلا عبر تغيير مراجع يمكن تتبعه، لا عبر تعديل توجيه وحسب. وعندما تمس القدرة بيانات حساسة أو ذاكرة مستمرة أو وصولًا مميزًا أو التزامًا خارجيًا أو تغييرًا تدميريًا أو استجابة لحادث، أشرك مسؤولي الأمن والهوية والخصوصية والسجلات والمخاطر والخدمة، ووجّه الأحكام القانونية أو التنظيمية أو المهنية عالية المخاطر إلى مختصين مؤهلين ومسار منفصل.