تعالج خدمة AWS الجديدة هلوسة الذكاء الاصطناعي

تطلق Amazon Web Services (AWS)، قسم الحوسبة السحابية في Amazon، أداة جديدة لمكافحة الهلوسة – أي السيناريوهات التي يتصرف فيها نموذج الذكاء الاصطناعي بشكل غير موثوق.

تم الإعلان عن الخدمة في مؤتمر AWS re:Invent 2024 في لاس فيغاس، وهي خدمة التحقق من الاستدلال الآلي، والتي تتحقق من صحة استجابات النموذج من خلال الإسناد الترافقي للمعلومات المقدمة من العميل للتأكد من دقتها. (نعم، كلمة “الفحوصات” مكتوبة بأحرف صغيرة.) تدعي AWS في بيان صحفي أن عمليات التحقق من الاستدلال الآلي هي الضمانة “الأولى” و”الوحيدة” للهلوسة.

ولكن هذا، حسنًا…بكل سخاء.

تتطابق عمليات التحقق من الاستدلال الآلي تقريبًا مع ميزة التصحيح التي طرحتها Microsoft هذا الصيف، والتي تشير أيضًا إلى النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والذي قد يكون خاطئًا في الواقع. تقدم جوجل أيضًا أداة في Vertex AI، منصة تطوير الذكاء الاصطناعي الخاصة بها، للسماح للعملاء بـ “وضع النماذج” باستخدام بيانات من موفري خدمات خارجيين، أو مجموعات البيانات الخاصة بهم، أو بحث Google.

على أي حال، تحاول عمليات التحقق من الاستدلال الآلي، المتوفرة من خلال خدمة استضافة نموذج Bedrock من AWS (على وجه التحديد أداة Guardrails)، معرفة كيفية وصول النموذج إلى الإجابة – وتمييز ما إذا كانت الإجابة صحيحة. يقوم العملاء بتحميل المعلومات لإنشاء حقيقة أساسية من نوع ما، وتقوم عمليات التحقق من الاستدلال الآلي بإنشاء قواعد يمكن بعد ذلك تحسينها وتطبيقها على النموذج.

عندما يقوم النموذج بتوليد الإجابات، فإن عمليات التحقق من الاستدلال الآلي تتحقق منها، وفي حالة وجود هلوسة محتملة، ترسم الحقيقة على الأرض للحصول على الإجابة الصحيحة. إنه يقدم هذه الإجابة جنبًا إلى جنب مع الخطأ المحتمل حتى يتمكن العملاء من معرفة إلى أي مدى قد يكون النموذج بعيدًا عن القاعدة.

تقول AWS إن شركة PwC تستخدم بالفعل فحوصات الاستدلال الآلي لتصميم مساعدي الذكاء الاصطناعي لعملائها. واقترح سوامي سيفاسوبرامانيان، نائب الرئيس للذكاء الاصطناعي والبيانات في AWS، أن هذا النوع من الأدوات هو بالضبط ما يجذب العملاء إلى Bedrock.

وقال في بيان: “مع إطلاق هذه القدرات الجديدة، فإننا نبتكر نيابة عن العملاء لحل بعض أهم التحديات التي تواجهها الصناعة بأكملها عند نقل تطبيقات الذكاء الاصطناعي التوليدية إلى الإنتاج”. وأضاف سيفاسوبرامانيان أن قاعدة عملاء Bedrock نمت بمقدار 4.7 أضعاف في العام الماضي لتصل إلى عشرات الآلاف من العملاء.

ولكن كما أخبرني أحد الخبراء هذا الصيف، فإن محاولة القضاء على الهلوسة الناتجة عن الذكاء الاصطناعي التوليدي تشبه محاولة إزالة الهيدروجين من الماء.

تهلوس نماذج الذكاء الاصطناعي لأنها لا “تعرف” أي شيء في الواقع. إنها أنظمة إحصائية تحدد الأنماط في سلسلة من البيانات، وتتنبأ بالبيانات التي ستأتي بعد ذلك بناءً على الأمثلة التي سبق رؤيتها. ويترتب على ذلك أن استجابات النموذج ليست إجابات، ولكنها تنبؤات لكيفية الأسئلة يجب يتم الرد عليها – ضمن هامش الخطأ.

تدعي AWS أن عمليات التحقق من الاستدلال الآلي تستخدم “استدلالًا دقيقًا منطقيًا” و”يمكن التحقق منه” للوصول إلى استنتاجاتها. لكن الشركة لم تتطوع بأي بيانات تثبت موثوقية الأداة.

وفي أخبار Bedrock الأخرى، أعلنت AWS هذا الصباح عن Model Distillation، وهي أداة لنقل قدرات نموذج كبير (مثل Llama 405B) إلى نموذج صغير (مثل Llama 8B) أرخص وأسرع في التشغيل. تقول AWS إنه إجابة على Distillation من Microsoft في Azure AI Foundry، يوفر Model Distillation طريقة لتجربة نماذج مختلفة دون كسر البنك.

أوضحت AWS في منشور بالمدونة: “بعد أن يقدم العميل نماذج للمطالبات، ستقوم Amazon Bedrock بكل العمل لإنشاء الاستجابات وضبط النموذج الأصغر، ويمكنها أيضًا إنشاء المزيد من نماذج البيانات، إذا لزم الأمر، لإكمال النموذج الأصغر”. عملية التقطير.”

ولكن هناك بعض المحاذير.

يعمل نموذج Distillation فقط مع النماذج التي تستضيفها Bedrock من Anthropic وMeta في الوقت الحاضر. يتعين على العملاء اختيار نموذج كبير ونموذج صغير من نفس “عائلة” الطراز – ولا يمكن أن تكون النماذج من مقدمي خدمات مختلفين. وستفقد النماذج المقطرة بعض الدقة – “أقل من 2%”، كما تدعي AWS.

إذا لم يعيقك أي من ذلك، فإن نموذج التقطير متاح الآن في المعاينة، إلى جانب عمليات التحقق من الاستدلال الآلي.

تتوفر أيضًا في المعاينة ميزة “التعاون متعدد الوكلاء”، وهي ميزة Bedrock جديدة تتيح للعملاء تعيين الذكاء الاصطناعي لمهام فرعية في مشروع أكبر. كجزء من Bedrock Agents، مساهمة AWS في جنون وكلاء الذكاء الاصطناعي، يوفر التعاون متعدد الوكلاء أدوات لإنشاء الذكاء الاصطناعي وضبطه لأشياء مثل مراجعة السجلات المالية وتقييم الاتجاهات العالمية.

ويمكن للعملاء أيضًا تعيين “وكيل مشرف” لتقسيم المهام وتوجيهها إلى الذكاء الاصطناعي تلقائيًا. يمكن للمشرف “[give] يقول AWS: “يتمكن وكلاء محددون من الوصول إلى المعلومات التي يحتاجونها لإكمال عملهم”، و”[determine] ما هي الإجراءات التي يمكن معالجتها بالتوازي والتي تحتاج إلى تفاصيل من المهام الأخرى من قبل [an] يمكن للوكيل المضي قدمًا.”

“مرة واحدة كل من المتخصصة [AIs] استكمال مدخلاتهم، الوكيل المشرف [can pull] المعلومات معا [and] قم بتجميع النتائج، “كتب AWS في المنشور.

يبدو أنيق. ولكن كما هو الحال مع كل هذه الميزات، سيتعين علينا أن نرى مدى نجاحها عند نشرها في العالم الحقيقي.