غالبًا ما يكمن التحدي المتمثل في الجدل حول نموذج التعلم العميق في فهم سبب قيامه بما يفعله: سواء كان الأمر يتعلق بجلسات النضال المتكررة لـ xAI لضبط سياسات Grok الغريبة، أو صراع ChatGPT مع التملق، أو الهلوسة العادية، فإن التعمق في شبكة عصبية تحتوي على مليارات من المعلمات ليس بالأمر السهل.
تقدم شركة Guide Labs، وهي شركة ناشئة في سان فرانسيسكو أسسها الرئيس التنفيذي جوليوس أديبايو وكبيرة المسؤولين العلميين آية عبد السلام إسماعيل، إجابة لهذه المشكلة اليوم. في يوم الاثنين، قامت الشركة بفتح LLM ذات 8 مليارات معلمة، Steerling-8B، تم تدريبها باستخدام بنية جديدة مصممة لجعل تصرفاتها قابلة للتفسير بسهولة: يمكن إرجاع كل رمز مميز ينتجه النموذج إلى أصوله في بيانات تدريب LLM.
يمكن أن يكون ذلك بسيطًا مثل تحديد المواد المرجعية للحقائق التي يستشهد بها النموذج، أو معقدًا مثل فهم فهم النموذج للفكاهة أو الجنس.
“إذا كان لدي تريليون طريقة لتشفير الجنس، وقمت بتشفيرها في مليار من تريليون شيء لدي، عليك التأكد من العثور على كل تلك الأشياء المليار التي قمت بتشفيرها، وبعد ذلك عليك أن تكون قادرًا على تشغيل ذلك بشكل موثوق، وإيقاف تشغيله،” قال أديبايو لـ TechCrunch. “يمكنك القيام بذلك باستخدام النماذج الحالية، لكنها هشة للغاية… إنها نوعًا ما واحدة من الأسئلة المهمة”.
بدأ أديبايو هذا العمل أثناء حصوله على درجة الدكتوراه في معهد ماساتشوستس للتكنولوجيا، وشارك في تأليف ورقة بحثية تم الاستشهاد بها على نطاق واسع في عام 2018 والتي أظهرت أن الأساليب الحالية لفهم نماذج التعلم العميق لم تكن موثوقة. أدى هذا العمل في النهاية إلى إنشاء طريقة جديدة لبناء ماجستير إدارة الأعمال: يقوم المطورون بإدخال طبقة مفاهيمية في النموذج الذي يجمع البيانات في فئات يمكن تتبعها. يتطلب هذا مزيدًا من التعليقات التوضيحية للبيانات مقدمًا، ولكن باستخدام نماذج الذكاء الاصطناعي الأخرى للمساعدة، تمكنوا من تدريب هذا النموذج باعتباره أكبر دليل على المفهوم حتى الآن.
قال أديبايو: “إن هذا النوع من التفسير الذي يقوم به الناس هو … نموذج علم الأعصاب، ونحن نقلبه”. “ما نقوم به هو في الواقع هندسة النموذج من الألف إلى الياء بحيث لا تحتاج إلى دراسة علم الأعصاب.”
أحد المخاوف بشأن هذا النهج هو أنه قد يقضي على بعض السلوكيات الناشئة التي تجعل حاملي الماجستير في القانون مثيرين للاهتمام للغاية: قدرتهم على التعميم بطرق جديدة حول أشياء لم يتم تدريبهم عليها بعد. يقول أديبايو إن هذا لا يزال يحدث في نموذج شركته: إذ يتتبع فريقه ما يسمونه “المفاهيم المكتشفة” التي اكتشفها النموذج من تلقاء نفسه، مثل الحوسبة الكمومية.
حدث تك كرانش
بوسطن، MA
|
9 يونيو 2026
يقول أديبايو إن هذه البنية القابلة للتفسير ستكون شيئًا يحتاجه الجميع. بالنسبة لطلاب الماجستير في القانون الذين يتعاملون مع المستهلك، يجب أن تسمح هذه التقنيات لمنشئي النماذج بالقيام بأشياء مثل منع استخدام المواد المحمية بحقوق الطبع والنشر، أو التحكم بشكل أفضل في المخرجات حول مواضيع مثل العنف أو تعاطي المخدرات. سوف تتطلب الصناعات الخاضعة للتنظيم المزيد من شهادات الماجستير في القانون التي يمكن التحكم فيها – على سبيل المثال، في مجال التمويل – حيث يحتاج نموذج تقييم المتقدمين للحصول على القروض إلى النظر في أشياء مثل السجلات المالية، ولكن ليس العرق. هناك أيضًا حاجة إلى إمكانية التفسير في العمل العلمي، وهو مجال آخر قامت فيه شركة Guide Labs بتطوير التكنولوجيا. لقد حقق طي البروتين نجاحًا كبيرًا لنماذج التعلم العميق، لكن العلماء بحاجة إلى مزيد من التبصر حول سبب اكتشاف برامجهم لمجموعات واعدة.
وقال أديبايو: “يوضح هذا النموذج أن تدريب النماذج القابلة للتفسير لم يعد نوعًا من العلم؛ بل أصبح الآن مشكلة هندسية”. “لقد اكتشفنا العلم ويمكننا توسيع نطاقه، وليس هناك سبب يمنع هذا النوع من النماذج من مطابقة أداء نماذج المستوى الحدودي،” التي تحتوي على العديد من المعلمات.
وتقول شركة Guide Labs إن Steerling-8B يمكنه تحقيق 90% من قدرة النماذج الحالية، ولكنه يستخدم بيانات تدريب أقل، وذلك بفضل بنيته الجديدة. الخطوة التالية للشركة، التي انبثقت عن Y Combinator وجمعت جولة أولية بقيمة 9 ملايين دولار من رأس المال المهيئ في نوفمبر 2024، هي بناء نموذج أكبر والبدء في تقديم واجهة برمجة التطبيقات (API) ووصول الوكيل للمستخدمين.
وقال أديبايو لـ TechCrunch: “إن الطريقة التي ندرب بها النماذج حاليًا بدائية للغاية، وبالتالي فإن إضفاء الطابع الديمقراطي على قابلية التفسير المتأصلة سيكون في الواقع أمرًا جيدًا على المدى الطويل لدورنا داخل الجنس البشري”. “بينما نسعى وراء هذه النماذج التي ستكون فائقة الذكاء، فإنك لا تريد أن يتخذ أي شيء قرارات نيابةً عنك وهذا أمر غامض بالنسبة لك.”
