كيف تصمم مساعد ذكاء اصطناعي محدود الأدوات والصلاحيات والسياق؟

حدود مساعد الذكاء الاصطناعي لا يحددها سطر يقول له «لا ترسل» داخل تعليمات النظام، بل يحددها عقد خدمة قابل للتنفيذ: ما المعطيات التي يستطيع الوصول إليها، وبأي هوية، وأي أداة يمكنه استدعاؤها، وما الذي يسمح النظام المنفذ بفعله فعلا. قد تبدو المحادثة واحدة للمستخدم، لكن البحث وصياغة جواب وتعديل سجل وإرسال رسالة عمليات مختلفة في أثرها وصلاحياتها. لذلك ينبغي ضبط كل قدرة على حدة قبل ربط المساعد بأدوات العمل، ثم اختبار الحدود ومراقبتها طوال التشغيل.

ما الذي ينبغي السماح للمساعد بفعله؟

ينبغي أولا كتابة ميثاق خدمة من جملة واحدة، ثم تفكيكه إلى قدرات واضحة يطلبها المستخدم ويرى نتيجتها. يمكن اعتماد الصيغة الآتية: «بالنسبة إلى المستخدمين المؤهلين، يجوز للمساعد إنجاز عائلة المهام المحددة باستعمال نطاق المعلومات المعتمد لإنتاج النتيجة المسموح بها، لكنه لا يجوز أن ينجز الأفعال أو القرارات المستبعدة صراحة». قبل توصيل أي أداة، سمّوا المستخدمين وبيئة النشر والمهام المدعومة وحدود المعرفة والإشراف البشري ومالك المخاطر. وهذه العناصر منسجمة مع نتائج إطار NIST، من دون اعتبار الصيغة نفسها متطلبا صادرا عنه.

• استبدل «ساعد فريق الدعم» بعمليات منفصلة مثل البحث والتلخيص واقتراح الجواب وصياغته وإرساله.
• عرّف نتيجة النجاح لكل عملية، بما في ذلك المخرج المسموح وأي تغيير في حالة نظام خارجي.
• اكتب الأهداف غير المشمولة، مثل منح تعويض أو تغيير استحقاق زبون أو إصدار حكم مهني منظم.
• حدد صاحب الخدمة ومالك صلاحيات الولوج والجهة التي تستلم الحالات التي تحتاج قرارا بشريا.
• ابدأ بأصغر عملية مفيدة؛ فتوصيات OWASP تفضل الحد الأدنى من وظائف الأدوات على الامتدادات المفتوحة.

هذا التفكيك ليس لعبة لغوية. قدرة تلخيص ملف تحتاج قراءة مؤهلة، بينما إنشاء مسودة يحتاج وجهة غير نهائية، والإرسال يحتاج عملية مستقلة ذات أثر خارجي. إذا جمع الفريق هذه الأفعال تحت فعل واسع مثل «دبّر الملف»، يصبح من الصعب معرفة الصلاحية التي استعملت، والاختبار الذي ينبغي أن يفشل، والمالك الذي يجب أن يتدخل. منهج القدرة كوحدة للضبط هو تركيب تحريري عملي مستند إلى مبادئ NIST وOWASP، وليس معيارا إلزاميا تنص عليه الجهتان.

ما المعلومات التي يجوز لكل قدرة استعمالها؟

حد السياق هو غلاف معلومات يحدد ما يمكن أن يدخل إلى القدرة ولماذا، وليس فقط عدد الكلمات أو الرموز التي يستوعبها النموذج. لكل قدرة، سجّل الأنظمة والسجلات والتصنيفات المسموحة، وفلاتر الحسابات والكائنات والتواريخ، ومتطلبات حداثة المعطيات، وحقوق المستخدم، وما يجب استبعاده. تربط نتائج NIST بين حدود المعرفة ونطاق التطبيق وكيفية استعمال المخرجات؛ لذلك لا يمنح توسيع نافذة السياق سلطة إضافية، ولا يحول معلومة قديمة أو غير مدعومة إلى حقيقة موثوقة.

• المصادر المؤهلة: الأنظمة وأنواع السجلات والتصنيفات التي يمكن للقدرة قراءتها.
• نطاق الكائن: الحساب أو الملف أو الحقول والفترة التي يشملها الطلب الحالي فقط.
• الحداثة: متى تعد المعلومة قديمة، وكيف يصرح المساعد بأن السند ناقص أو متقادم.
• الثقة: تعامل مع الرسائل والوثائق والمرفقات ونتائج واجهات البرمجة والمحتوى المسترجع كمدخلات غير موثوقة لا كتعليمات.
• المحظورات: الأسرار وبيانات الاعتماد والسجلات غير المرتبطة والملاحظات الإدارية أو أي فئة يمنع إدخالها.

افصل أيضا تاريخ الجلسة عن الذاكرة الدائمة. حدّد ما يمكن أن يبقى داخل الجلسة، وما يستحق الحفظ بعد التحقق، وكيف يعزل بين المستخدمين والجلسات، ومتى تنتهي صلاحيته وكيف يحذف. تشمل إرشادات OWASP للذاكرة التحقق قبل الاستمرار والعزل وحدود الحجم والانتهاء ومراجعة الحساسية وحماية السلامة، لكنها لا تقدم أرقاما تصلح لكل خدمة. عند غياب الدليل المطلوب أو تعذر الوصول إليه، ينبغي للقدرة أن ترفض الاستنتاج أو تقدمه بصيغة مشروطة واضحة.

كيف تفرض الهوية والأدوات والصلاحيات هذه الحدود؟

تفرض الحدود عبر فصل ثلاثة أسئلة: من أو ما الذي أثبت هويته، وأي عملية على أي مورد مرخصة له، وهل وافق صاحب القرار على هذا الفعل المقترح بعينه. إثبات الهوية لا يمنح تلقائيا حق الكتابة، ووجود حق الكتابة لا يعني الموافقة على كل رسالة. اختاروا صراحة بين صلاحية مفوضة من المستخدم وهوية عمل مضبوطة، ولا تجعلوا المساعد يرث بصمت حساب مشرف واسع. يجب أن يتحقق بواب الأدوات والنظام المنفذ من المورد والفعل والحقول والوجهة عند كل محاولة.

• اعرض عملية ضيقة مثل «قراءة ملخص ملف مؤهل» بدل ولوج عام إلى قاعدة البيانات أو صندوق البريد.
• تحقق من نوع كل معلمة وقيمتها وعلاقتها بالطلب قبل تمريرها إلى النظام المنفذ.
• قيد الأفعال والموارد والكائنات والحقول والوجهات ومدة بيانات الاعتماد والجمهور المقصود للرمز.
• حافظ على سياق ترخيص المستخدم أو استعمل هوية عمل محددة النطاق؛ ولا تخزن الرموز داخل التعليمات أو الذاكرة.
• اضبط حدود المعدل وإعادة المحاولة وعمق السلسلة والحجم والكلفة والزمن والتراجع وقاطع الدائرة بحسب الخدمة.

تميز مواصفة ترخيص MCP بين العميل والمورد المحمي وخادم الترخيص، وتدعم نطاقات محدودة وربط الرمز بالمورد المقصود؛ غير أن هذه قواعد لتكاملات MCP المحمية وليست وصفة مفروضة على كل أداة. المبدأ الأوسع هو أن التعليمات الطبيعية ليست ضابط ترخيص. توصي OWASP بأقل صلاحيات تابعة وبالحفاظ على سياق ترخيص المستخدم والوساطة في النظام المنفذ، بينما يدعو NCSC إلى الإعدادات الآمنة وتقييد الأفعال ووسائل أمان خارجية عند الحاجة.

قد تبدو المحادثة متصلة، لكن سلطتها ينبغي أن تنقسم إلى قدرات صغيرة يفرض كل منها حدوده بصورة مستقلة.

ما مقدار الفعل الذي يمكن أن تنفذه كل قدرة؟

تحتاج كل قدرة إلى سقف فعل صريح، مع ضوابط مستقلة أقوى كلما انتقلت من تقديم معلومات إلى تغيير حالة خارجية. يمكن للفريق استعمال سلم عملي يبدأ بالجواب أو التلخيص، ثم التوصية، فالمسودة، فالكتابة المحدودة القابلة للعكس، ثم الفعل الخارجي ذي الأثر، وينتهي بالقرار المحظور. هذا السلم تركيب تحريري تدعمه مبادئ تقليل الصلاحيات وفصل القرار عن التنفيذ؛ وليس تصنيفا رسميا صادرا عن NIST أو OWASP أو NCSC.

• جواب أو تلخيص: قراءة مؤهلة مع إظهار السند، ومن دون تغيير أي نظام خارجي.
• توصية أو اقتراح: عرض خطوة أو حمولة قابلة للفحص من دون تنفيذها.
• مسودة: إنشاء مادة قابلة للتحرير داخل فضاء غير نهائي وباسم مراجع محدد.
• كتابة محدودة قابلة للعكس: تعديل حقول معتمدة عبر عملية ضيقة وسجل منظم وآلية لمنع التكرار أو التراجع.
• فعل خارجي ذو أثر: إرسال أو نشر أو حذف أو أداء أو منح ولوج أو تغيير إنتاجي بعد ضوابط مستقلة مناسبة.
• قرار محظور: القدرة غير موجودة، والنظام المنفذ يرفضه، ويوجه الطلب إلى مختص أو مسار محكوم منفصل.

عند الفعل ذي الأثر، اعرض معاينة مفهومة واربط الموافقة بالفاعل والأداة والمورد والمعلمات المطَبّعة والوقت والانتهاء، ثم أعد التحقق قبل التنفيذ. توصي OWASP بفصل القرار عن التنفيذ وبالموافقة البشرية على الأفعال المهمة مع استمرار الوساطة في النظام المنفذ. إذا تغير المستلم أو المحتوى أو المورد، فالموافقة القديمة لا تغطي الفعل الجديد. كما أن الموافقة لا تمنح ترخيصا مفقودا ولا تحول قرارا محظورا إلى قرار مسموح.

ماذا يحدث عندما يصل المساعد إلى حدوده؟

ينبغي تصميم الرفض والمساعدة الجزئية والإحالة البشرية والتصعيد الأمني كنتائج خدمة صريحة لها شروط توقف حقيقية. يشرح المساعد الحد بلغة بسيطة من دون كشف تفاصيل حساسة، ولا يدعي أن بحثا أو استدعاء أداة أو موافقة أو كتابة نجحت إذا لم تنجح. تتضمن نتائج القياس لدى NIST الفشل الآمن بعد تجاوز حدود المعرفة والاختبار في ظروف شبيهة بالنشر؛ لذلك يجب تقييم الرفض مثلما يقيّم الجواب الصحيح، لا تركه لعبارة اعتذار عامة.

• المهمة خارج النطاق.
• المعلومة غير مؤهلة أو الدليل مفقود أو متقادم.
• الترخيص غير كاف أو الموافقة مطلوبة.
• الحكم يحتاج مختصا أو سياسة مستقلة.
• الأداة أو الخدمة التابعة غير متاحة.
• وصل التشغيل إلى حد المعدل أو الزمن أو الكلفة أو السلسلة.
• ظهر مؤشر أمني مثل محاولة رفع الصلاحيات أو تسريب المعطيات أو تسميم الذاكرة.

بعد الرفض، قد يكون الجزء الآمن مسودة غير مرسلة، أو لائحة تحقق، أو طلبا للمعطيات الناقصة. ينبغي أن تحمل الإحالة الهدف الأصلي والسياق غير الحساس والقدرة التي جرت محاولتها وسبب التوقف والدليل المتاح أو المفقود والخطوة المقترحة ومعرف التتبع. افصل إحالة المستخدم العادية عن موافقة صاحب القرار وعن حادث أمني؛ فهي قد تتشارك الأدلة، لكن لها ملاك وأولويات مختلفة. يظل التنفيذ متوقفا، وأي تغيير في الفعل يفرض تحققا وموافقة جديدين.

كيف تتحول الحدود إلى تصميم تشغيلي قابل للتنفيذ؟

تتحول الحدود إلى تشغيل عندما يملأ الفريق صفا مستقلا لكل عملية يراها المستخدم، ويربط الصف بضوابط تنفيذية وسجل أدلة واختبارات ومؤشرات ومالك يملك سلطة الإيقاف أو التعديل. لا تكتبوا «المساعد يدخل إلى نظام الزبائن»؛ اكتبوا مثلا «يلخص ملف دعم مؤهلا» أو «ينشئ مسودة جواب» أو «يرسل جوابا تمت الموافقة عليه». يمكن للعمليات الثلاث مشاركة واجهة محادثة واحدة، مع احتفاظ كل منها بمعطيات وأداة وهوية وسقف فعل واختبارات ومسار إحالة منفصل.

• الفاعل المؤهل وطريقة إثبات هويته.
• غلاف المعلومات وقواعد الجلسة والذاكرة.
• عملية الأداة الضيقة وهوية التنفيذ ونطاق المورد.
• سقف الفعل والموافقة وشروط التوقف.
• سلوك الرفض والمساعدة الجزئية وجهة الإحالة.
• سجل الطلب والسياسة والمصادر والأداة والترخيص والموافقة والنتيجة والإصدارات.
• سيناريوهات النجاح والحدود والهجوم والعطل، والمؤشر التشغيلي المرتبط بها.
• مالك سلوك الخدمة ومالك الصلاحية وصاحب القرار التجاري ومسؤول الحادث الأمني.

ليس الغرض من اللوحة إنتاج وثيقة جميلة ثم نسيانها. ينبغي أن يجيب السجل عن أسئلة تشغيلية محددة من دون حفظ الأسرار أو سياق حساس غير محدود، وأن يربط كل رفض واستخدام أداة وموافقة بنتيجة وسياسة وإصدار. تشمل إرشادات OWASP هذه الأنواع من الأحداث مع تنقيح المعطيات الحساسة، بينما تدعو حكامة NIST إلى أدوار واضحة وفصل المسؤوليات والمراقبة والمراجعة. تحدد المؤسسة محتوى السجل والنفاذ إليه ومدة الاحتفاظ به وفق قواعدها.

ما الأدلة اللازمة لإطلاق المساعد واستمرار تشغيله؟

يتطلب الإطلاق دليلا على أن الخدمة المسموحة تعمل وأن حالات المنع المتوقعة ترفض أو تتوقف أو تتصاعد في ظروف تشبه التشغيل. اختبروا المهام الصحيحة إلى جانب الولوج إلى حساب آخر، والأداة غير المرخصة، والدليل المتقادم، والمحتوى المسترجع المسموم، والمعطيات المحظورة، وتجاوز الموافقة، وتغيير المعلمات، وتكرار المحاولة، وتعطل التبعية، ومحاولة تسريب المعطيات، والسلاسل المنفلتة. يدعو NIST إلى اختبار ممثل للنشر ومراقبة الإنتاج والفشل الآمن والتقييم المنتظم، بينما يوصي NCSC بتقييم أمني مناسب قبل الإصدار وبيان القيود المعروفة.

• أعد بناء من طلب ماذا، وأي قدرة وسياسة انطبقت، وأي فئات مصادر وأدوات استعملت، وما قرارات الترخيص والموافقة والنتيجة والإصدارات الفعالة.
• راقب على مستوى القدرة الاستعمال غير المتوقع للأدوات، وتكرار الرفض، وأعطال الترخيص، وتغير الموافقات، وتسلسل الأفعال الشاذ، والانحراف، والتأخر، واستهلاك الموارد.
• احجب الأسرار وقلل المحتوى الحساس؛ فقابلية التدقيق لا تعني الاحتفاظ بكل المحادثات إلى أجل غير محدد.
• سمّ مالكا لسلوك الخدمة، ومالكا لمنح الولوج، وصاحب قرار للإحالات التجارية، ومسؤولا للحوادث الأمنية، مع سلطة إيقاف القدرة أو تعديلها أو سحبها.
• أعد فتح الاختبارات المتأثرة بعد تغيير جوهري في النموذج أو التعليمات أو الاسترجاع أو الذاكرة أو الأدوات أو الصلاحيات أو السياسات أو المعطيات أو المزود أو سياق التشغيل.

ابدأوا بأصغر قدرة تحقق منفعة قابلة للقياس، ولا توسعوا سلطتها بمجرد تعديل التعليمات. توضح إرشادات NCSC أن تغييرات البيانات والنماذج والتعليمات قد تغير السلوك، وتوصي برصد التغيرات الأمنية المفاجئة والتدريجية مع احترام الخصوصية. عندما تمس القدرة معطيات حساسة أو ذاكرة دائمة أو ولوجا مميزا أو التزاما خارجيا أو تغييرا تدميريا أو استجابة لحادث، أشركوا ملاك الأمن والهوية والخصوصية والسجلات والمخاطر والخدمة. أما الأحكام القانونية أو التنظيمية أو المهنية عالية الأثر، فتنتقل إلى مختصين مؤهلين ومسار محكوم منفصل.