يهدف CTGT إلى جعل نماذج الذكاء الاصطناعي أكثر أمانًا

نشأ سيريل غورلا كمهاجر، وعلّم نفسه كيفية البرمجة، ومارسها كما لو كان رجلًا ممسوسًا.

وقال لـ TechCrunch: “لقد التحقت بدورة البرمجة في كلية المجتمع الخاصة بوالدتي عندما كنت في الحادية عشرة من عمري، وسط انقطاع المرافق المنزلية بشكل دوري”.

في المدرسة الثانوية، تعلم غورلا المزيد عن الذكاء الاصطناعي، وأصبح مهووسًا بفكرة تدريب نماذج الذكاء الاصطناعي الخاصة به لدرجة أنه قام بتفكيك جهاز الكمبيوتر المحمول الخاص به لترقية نظام التبريد الداخلي. أدى هذا التعديل إلى حصوله على تدريب داخلي في شركة Intel خلال السنة الثانية لغورلا في الكلية، حيث أجرى أبحاثًا حول تحسين نماذج الذكاء الاصطناعي وقابلية تفسيرها.

تزامنت سنوات الدراسة الجامعية لغورلا مع طفرة الذكاء الاصطناعي، وهي الطفرة التي شهدت قيام شركات مثل OpenAI بجمع مليارات الدولارات من أجل تكنولوجيا الذكاء الاصطناعي الخاصة بها. يعتقد غورلا أن الذكاء الاصطناعي لديه القدرة على تحويل صناعات بأكملها. لكنه كان يعتقد أيضًا أن أعمال السلامة كانت تتراجع أمام المنتجات الجديدة اللامعة.

وقال: “شعرت أن هناك حاجة إلى تحول أساسي في كيفية فهمنا للذكاء الاصطناعي وتدريبه”. “يشكل الافتقار إلى اليقين والثقة في مخرجات النماذج عائقًا كبيرًا أمام اعتمادها في صناعات مثل الرعاية الصحية والتمويل، حيث يمكن للذكاء الاصطناعي أن يحدث فرقًا كبيرًا.”

لذلك، ترك غورلا برنامج الدراسات العليا الخاص به، جنبًا إلى جنب مع تريفور تاتل، الذي التقى به عندما كان طالبًا جامعيًا، ليؤسس شركة، CTGT، لمساعدة المؤسسات في نشر الذكاء الاصطناعي بشكل أكثر تفكيرًا. تم عرض CTGT اليوم في TechCrunch Disrupt 2024 كجزء من مسابقة Startup Battlefield.

قال: “يعتقد والداي أنني في المدرسة”. “قراءة هذا قد تكون بمثابة صدمة لهم.”

تعمل CTGT مع الشركات لتحديد المخرجات المتحيزة والهلوسة من النماذج، ومحاولة معالجة السبب الجذري لها.

من المستحيل إزالة الأخطاء تمامًا من النموذج. لكن جورلا يدعي أن نهج التدقيق الذي تتبعه CTGT يمكن أن يمكّن الشركات من التخفيف من حدة تلك المخاطر.

وأوضح قائلاً: “إننا نكشف عن الفهم الداخلي للنموذج للمفاهيم”. “في حين أن النموذج الذي يطلب من المستخدم وضع الغراء في الوصفة قد يكون أمرًا فكاهيًا، فإن الاستجابة التي توصي بالمنافسين عندما يطلب العميل مقارنة المنتج ليست تافهة جدًا. إن حصول المريض على معلومات من دراسة سريرية قديمة، أو قرار ائتماني تم اتخاذه بناءً على معلومات مهلوسة، أمر غير مقبول.

أظهر استطلاع حديث أجرته Cnvrg أن الموثوقية كانت من أهم الاهتمامات المشتركة بين المؤسسات التي تتبنى تطبيقات الذكاء الاصطناعي. وفي دراسة منفصلة أجرتها شركة Riskonnect، وهي شركة تقدم برامج إدارة المخاطر، قال أكثر من نصف المديرين التنفيذيين إنهم يشعرون بالقلق بشأن اتخاذ الموظفين قرارات بناءً على معلومات غير دقيقة من أدوات الذكاء الاصطناعي.

إن فكرة وجود منصة مخصصة لتقييم عملية صنع القرار في نموذج الذكاء الاصطناعي ليست جديدة. تعد شركتا TruEra وPatronus AI من بين الشركات الناشئة التي تعمل على تطوير أدوات لتفسير سلوك النماذج، كما هو الحال مع Google وMicrosoft.

لكن جورلا يزعم أن تقنيات CTGT أكثر أداءً – ويرجع ذلك جزئيًا إلى أنها لا تعتمد على تدريب الذكاء الاصطناعي “القاضي” لمراقبة النماذج داخل الإنتاج.

وقال: “إن قدرتنا على التفسير المضمونة رياضيًا تختلف عن الأساليب الحديثة الحالية، والتي تعتبر غير فعالة وتدرب مئات النماذج الأخرى للحصول على نظرة ثاقبة للنموذج”. “مع تزايد وعي الشركات بتكاليف الحوسبة، وانتقال الذكاء الاصطناعي المؤسسي من العروض التوضيحية إلى توفير قيمة حقيقية، فإن قيمتنا مهمة في تزويد الشركات بالقدرة على اختبار سلامة الذكاء الاصطناعي المتقدم بدقة دون تدريب نماذج إضافية أو استخدام نماذج أخرى كحكم. “

لتهدئة مخاوف العملاء المحتملين من تسرب البيانات، تقدم CTGT خيارًا محليًا بالإضافة إلى خطة مُدارة. وهو يتقاضى نفس الرسوم السنوية لكليهما.

وقال غورلا: “ليس لدينا إمكانية الوصول إلى بيانات العملاء، مما يمنحهم السيطرة الكاملة على كيفية ومكان استخدامها”.

CTGT، خريج مسرع Character Labs، يحظى بدعم شركاء GV السابقين Jake Knapp وJohn Zeratsky (الذين شاركوا في تأسيس Character VC)، وMark Cuban، والمؤسس المشارك لـ Zapier مايك نوب.

وقال كوبان في بيان: “الذكاء الاصطناعي الذي لا يستطيع تفسير أسبابه ليس ذكياً بما يكفي في العديد من المجالات التي تنطبق عليها قواعد ومتطلبات معقدة”. “لقد استثمرت في CTGT لأنها تحل هذه المشكلة. والأهم من ذلك أننا نشهد نتائج في استخدامنا للذكاء الاصطناعي.

وعلى الرغم من كونها في مرحلة مبكرة، فإن CTGT لديها العديد من العملاء، بما في ذلك ثلاث علامات تجارية غير مسماة ضمن قائمة Fortune 10. يقول غورلا إن CTGT عملت مع إحدى هذه الشركات لتقليل التحيز في خوارزمية التعرف على الوجه الخاصة بها.

وقال: “لقد حددنا التحيز في النموذج الذي يركز كثيرًا على الشعر والملابس لإجراء تنبؤاته”. “قدمت منصتنا للممارسين رؤى فورية دون التخمين وإضاعة الوقت في أساليب التفسير التقليدية.”

سيكون تركيز CTGT في الأشهر المقبلة على بناء فريقها الهندسي (فقط Gorlla وTuttle في الوقت الحالي) وتحسين منصتها.

إذا تمكنت CTGT من الحصول على موطئ قدم في السوق المزدهرة لقابلية تفسير الذكاء الاصطناعي، فقد يكون ذلك مربحًا بالفعل. تتوقع شركة التحليلات Markets and Markets أن “الذكاء الاصطناعي المفسر” كقطاع يمكن أن تبلغ قيمته 16.2 مليار دولار بحلول عام 2028.

وقال غورلا: “إن حجم النموذج يفوق بكثير قانون مور والتقدم في رقائق تدريب الذكاء الاصطناعي”. “وهذا يعني أننا بحاجة إلى التركيز على الفهم الأساسي للذكاء الاصطناعي – للتعامل مع عدم الكفاءة والطبيعة المتزايدة التعقيد للقرارات النموذجية.”