مع تزايد قدرات وكلاء الذكاء الاصطناعي، تواجه المؤسسات التي تتسابق لتشغيلهم عبر التطبيقات وسير العمل والمنتجات تحديًا جديدًا: ضمان قيام الوكيل بما يفترض أن يفعله عند نشره عبر بيئات مختلفة.
تحاول Microsoft حل هذه المشكلة باستخدام معيار جديد مفتوح المصدر يسمى Agent Control Specification (ACS) والذي يهدف إلى منح المطورين طريقة أكثر اتساقًا ودقة للتحكم في ما يُسمح لوكلاء الذكاء الاصطناعي بفعله.
تتيح المواصفات بشكل أساسي للمطورين وفرق الامتثال والأمان تحديد سياساتهم الخاصة ليتبعها الوكلاء. يمكن أن تحدد القواعد ما يجوز للوكيل فعله، وما لا يجب عليه فعله، ومتى يجب على الإنسان الموافقة على إجراء ما، وما هو الدليل الذي يجب تسجيله لمراجعته لاحقًا. يتم فحص ملفات السياسة هذه في عدة “نقاط اعتراض” عندما يكون الوكيل خارج تنفيذ مهمة للتأكد من بقائها داخل حواجز الحماية.
تأتي هذه المواصفات في الوقت الذي يرتجل فيه المطورون طرقًا للتحكم في ما يراه ويفعله الذكاء الاصطناعي الخاص بهم، خاصة مع حدوث أخطاء في المحادثات التي تركز على سير عمل الذكاء الاصطناعي بسبب سوء استخدام الأداة، أو الإجراءات غير المقصودة التي تؤدي إلى إخفاقات متتالية.
اليوم، قد يحدد المطورون تعليمات في موجه النظام، أو يضيفون عمليات فحص مخصصة في كود التطبيق، أو يستخدمون المصنفات لالتقاط المدخلات والمخرجات التي بها مشكلات. تنجح هذه الأساليب، لكنها غالبًا ما تترك الشركات مع ضوابط مجزأة يصعب تدقيقها ويصعب إعادة استخدامها عبر أطر عمل وواجهات وأنظمة مختلفة.
تهدف ACS إلى دمج تلك الضوابط في طبقة حوكمة مشتركة. تقول Microsoft إن المواصفات يمكن استخدامها للتحقق مما إذا كان الوكيل ملتزمًا بدرابزين الحماية في نقاط متعددة في سير العمل الخاص به – قبل أن يتلقى المدخلات، وقبل أن يستدعي أداة، وبعد أن تقوم الأداة بإرجاع نتيجة، وقبل إرسال الاستجابة النهائية إلى المستخدم. قد تسمح السياسة بإجراء ما، أو تحظره، أو تنقح معلومات حساسة، أو حتى تطلب من شخص ما الموافقة عليه.
يمكن للمطورين أيضًا إدراج مصنفات للمدخلات والمخرجات لتصنيف المعلومات، أو التنبؤ بالنتائج، أو تحديد كيفية استجابة الوكيل؛ إضافة ماجستير في القانون مع مطالبات للعمل “كقاضي” للسياسات؛ ومنطق التحقق من استدعاءات الأداة واختيار الأداة ودقة الإدخال واستخدام المخرجات والاستجابات.
ولأن هذه السياسات يمكن كتابتها كملفات فردية، فيمكن تجميعها مع الوكلاء، مما يسمح لسياسة الأمان بمتابعة الوكيل عبر أطر عمل وبيئات مختلفة.
يتم شحن ACS كحزمة تطوير برامج (SDK) تحتوي على مكونات إضافية لـ LangChain، وOpenAI Agents SDK، وAnthropic Agents SDK، وAutoGen، وCrewAI، وSemantic Kernel، وMicrosoft.Extensions.AI، وأدوات MCP، والمزيد.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
