أعلن منشئو المشروع مفتوح المصدر vLLM أنهم حولوا الأداة الشائعة إلى شركة ناشئة مدعومة من VC، Inferact، حيث قاموا بجمع 150 مليون دولار من التمويل الأولي بتقييم 800 مليون دولار.
شارك في قيادة الجولة كل من Andreessen Horowitz وLightspeed Venture Partners، مما يؤكد تقرير TechCrunch السابق بأن vLLM قد جمع رأس المال من a16z.
يعكس ظهور Inferact لأول مرة التسويق التجاري الأخير لمشروع SGLang باسم RadixArk، والذي أخبرتنا المصادر برأس مال مضمون بتقييم قدره 400 مليون دولار بقيادة Accel، كما أبلغنا يوم الأربعاء.
مع تحول التركيز في الذكاء الاصطناعي من نماذج التدريب إلى نشرها في التطبيقات، فإن العملية المعروفة باسم الاستدلال، والتقنيات مثل vLLM وSGLang التي تجعل أدوات الذكاء الاصطناعي هذه تعمل بشكل أسرع وبتكلفة أقل تجتذب انتباه المستثمرين.
تم احتضان كل من vLLM وSGLang في عام 2023 في مختبر جامعة كاليفورنيا في بيركلي التابع للمؤسس المشارك لـ Databricks أيون ستويكا.
صرح سيمون مو، الرئيس التنفيذي لشركة Inferact، وهو أحد المبدعين الأصليين للمشروع، لبلومبرج أن المستخدمين الحاليين لـ vLLM يشملون خدمة Amazon السحابية وتطبيق التسوق.
