تقوم OpenAI بطرح أحدث برامج LLM المتقدمة، Sol، للوصول العام على نطاق واسع. يعتبر Sol على الأقل على قدم المساواة مع Anthropic’s Fable، وهو النموذج الذي شددت قدراته (أو ملكيته) على البيت الأبيض بدرجة كافية بحيث تم حظره لفترة وجيزة من الوصول العام.
إذًا كيف حصلت هذه النماذج على الموافقة للإصدار؟ إجابة مختصرة: لا أحد متأكد تمامًا.
وقالت مينا نارايانان، كبيرة محللي الأبحاث في مركز جورج تاون للأمن والتكنولوجيا الناشئة، لـ TechCrunch: “بصراحة، ليس لدي رؤية واضحة لهذه العمليات الدقيقة، لذا نعم، لا أشعر أن لدي معلومات كافية لأقول ما إذا كانت كافية أم لا”. “قالت شركة Anthropic إنهم كانوا في محادثات مع الحكومة، وأنهم طوروا مصنفًا للكشف عن محاولات كسر الحماية، وقاموا بتنفيذ استراتيجيات دفاعية متعمقة لمنع عمليات كسر الحماية في المستقبل، ولكن الشكل الدقيق لهذا الحوار بين الحكومة وAnthropic وOpenAI غير واضح.”
كتب دين دبليو بول، مستشار سياسات ترامب السابق والذي يعمل الآن في شركة OpenAI، في رسالته الإخبارية الشهر الماضي: “لا أحد يعرف ما هي متطلبات الحصول على الترخيص”.
قال آندي كونوينسكي، عالم الكمبيوتر الذي شارك في تأسيس Databricks وPerplexity وLaude Institute، إنه لم يتحدث أبدًا مع أي شخص يفهم هذه العملية، حتى الموظفين في المختبرات الحدودية. يقول لـ TechCrunch: “إنها مشكلة وجودية”. “سواء كانت السلامة أم لا، فالأمر يتعلق بمن يملك القدرة على اتخاذ القرارات – ومن يحرس البوابة ويقرر الأذونات؟”
بعد مرور ثمانية عشر شهراً على إدارة ترامب، لا يزال هناك قدر ضئيل من الوضوح حول كيفية المضي قدماً، على الرغم من – أو كما يزعم بعض النقاد – بسبب شخصيات الصناعة التي تحدد السياسة. في الشهر الماضي، وبعد أسابيع من الاقتتال الداخلي، تم نشر أمر تنفيذي يضع خارطة طريق لتقييم النماذج الحدودية، ولكن التفاصيل لم يتم ملؤها بعد، بخلاف ما لن يكون موجودًا. قال سريرام كريشنان، الشريك السابق لشركة أندريسن هورويتز والذي عمل كمستشار كبير للذكاء الاصطناعي في البيت الأبيض حتى الشهر الماضي، لصحيفة فايننشال تايمز: “لن تكون هناك إدارة الغذاء والدواء للذكاء الاصطناعي”.
والجدير بالذكر أنه لا يوجد حتى الآن اتفاق حول أنواع النماذج التي تتطلب التدقيق الحكومي، أو ما هي الوكالة أو الوكالات التي يجب أن تقوم بهذه التقييمات. في الوقت الحالي، يبدو أن مركز معايير الذكاء الاصطناعي والابتكار التابع لوزارة التجارة يتولى زمام المبادرة، لكن الأمر التنفيذي يوجه ست وكالات وزارية لتحديد العملية النهائية بحلول أوائل أغسطس. وما ظهر في هذه الأثناء هو في أفضل الأحوال أمر خاص.
قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، على قناة CNBC إن العملية تضمنت محادثات مع مسؤولين مثل وزير التجارة هوارد لوتنيك، ووزير الخزانة سكوت بيسنت، ومدير الإنترنت الوطني الأمريكي شون كيرنكروس، لكن ليس من الواضح من هم الخبراء الذين اختبروا النماذج أو كيف فعلوا ذلك. رفضت OpenAI مشاركة تفاصيل العملية الحكومية مع TechCrunch، لكنها أشارت إلى نتائج العديد من التقييمات الخارجية التي أجرتها منظمات مثل UK AISI وSecureBio وIrregular في بطاقة الأمان الخاصة بالنموذج الأحدث.
كما هو الحال مع إصدار Anthropic’s Fable، قامت OpenAI بمعاينة النموذج للحكومة واختيار المستخدمين قبل الإصدار الأوسع، لكننا لا نعرف من هم كل هؤلاء المستخدمين أو كيف تم اختيارهم. وفي تدوينة نشرتها في أواخر يونيو/حزيران، قالت الشركة “لا نعتقد أن هذا النوع من عملية الوصول الحكومية يجب أن يصبح الافتراضي على المدى الطويل”، قائلة إنها ستعمل مع الحكومة لتطوير مسار مختلف للأمام.
ومع ذلك، فإن خلفية تلك المحادثات تتضمن عرض ألتمان ما يصل إلى 5% من أسهم OpenAI مقابل ما يسمى “حسابات ترامب” التابعة للإدارة، ودور رئيس OpenAI جريج بروكمان كأكبر مانح معروف علنًا لعملية ترامب السياسية في منتصف المدة. من الصعب على المراقبين الخارجيين فصل هذه الأنشطة عن النهج المخفف الذي تتبعه الحكومة لتنظيم سول.
من ناحية أخرى، تم سحب Anthropic’s Fable لفترة وجيزة من الوصول على نطاق أوسع عندما منعت حكومة الولايات المتحدة استخدامه من قبل المواطنين الأجانب، ويرجع ذلك جزئيًا إلى مخاوف حقيقية بشأن قيام المستخدمين بكسر سجن النموذج للوصول إلى قدرات القرصنة وجزئيًا بسبب الصدامات الشخصية بين Anthropic وإدارة ترامب. ربما يكون التهديد بحظر التصدير قد دفع OpenAI إلى أن تكون أكثر تعاونًا مع طلبات الحكومة (غير المعروفة).
ومن منظور الصناعة، قد يكون نهج عدم التدخل في التنظيم أمراً لطيفاً، ولكن النهج الذي يعتمد على العلاقات الشخصية مع مسؤولي الإدارة يخلق حالة من عدم اليقين والحوافز السيئة.
أخبر كونوينسكي موقع TechCrunch أنه يشعر بالقلق من أن الخبراء الحقيقيين في هذه التكنولوجيا – “الباحثون في مجال السلامة، والباحثون في مجال المحاذاة، والباحثون في قابلية التفسير، ولكن أيضًا الأشخاص المعنيون بالبيانات، والأشخاص من جميع أنحاء المجموعة” – لا يلعبون دورًا كافيًا في عملية إصدار النموذج.
يرى كونوينسكي أن “المشاعات المفتوحة” هي أفضل طريقة لتحقيق التوازن بين السلامة والابتكار. ويشير إلى نماذج مثل إدارة الغذاء والدواء الأمريكية، أو المعاهد الوطنية للصحة، أو المختبرات الوطنية، التي تجمع الباحثين والمسؤولين الحكوميين والشركات الخاصة للتوصل إلى إجماع حول قضايا السلامة.
يعود بعض ذلك إلى حوافز الرأسمالية التي حفزت الباحثين في مجال الذكاء الاصطناعي لأكثر من عقد من الزمن، والتي ظهرت في قاعة المحكمة خلال الدعوى القضائية التي رفعها إيلون موسك ضد هيكل شركة OpenAI. ويشير بول إلى أن طبيعة أعمال الذكاء الاصطناعي تتطلب من الشركات استرداد جزء كبير من تكاليف التدريب الخاصة بها بعد وقت قصير من إطلاق نماذجها وتفوقها على المنافسة.
ويشير كونوينسكي إلى أنه “حتى لو كانت نواياهم جيدة، فهناك التزامات قانونية واضحة للغاية ومسؤولية ائتمانية مدمجة في إجراءات التشغيل”.
جادل بول، في منشوره، بأن الطريق إلى الأمام سيعتمد على منظمات تدقيق تابعة لجهات خارجية، مرخصة من قبل الحكومة، والتي ستقوم بتقييم نهج المختبرات الحدودية فيما يتعلق بالسلامة. كونوينسكي أيضًا متفائل بشأن الأشكال المؤسسية الجديدة مثل المنظمات البحثية المركزة التي يمكن أن تساعد المزيد من الخبراء غير المهتمين من الأوساط الأكاديمية والعالم غير الربحي في الوصول إلى النماذج الرائدة وتقييمها.
في الوقت الحالي، لم تختفي السرية المحيطة بتطور الذكاء الاصطناعي، ولكنها ستؤدي أيضًا إلى ظهور تحديات سياسية لصناعة ينظر إليها الأمريكيون بقدر متزايد من الشك. وقال رمزي أرباتشي دوسو، أستاذ علوم الكمبيوتر بجامعة ويسكونسن ماديسون، الأسبوع الماضي في مؤتمر الحدود المفتوحة: “ليس هناك شعور بأن الأشخاص المسؤولين يقودون هذه التغييرات إلى الأمام”.
وفي نفس الحدث، طلب ديفيد سيجل، عالم الكمبيوتر الذي أسس تو سيجما، أحد أنجح صناديق التحوط الكمي، من الحضور أن يتخيلوا موقفاً أعتقد أنه سيكون سيئاً للغاية، [where] ويسيطر عدد صغير من الشركات على التكنولوجيا؛ وتقوم الحكومة، في مختبراتها السرية، بتقييم ما إذا كانت التكنولوجيا مناسبة للاستخدام أم لا؛ وعامة الناس والمجتمع العلمي ليس لديهم حقًا إمكانية الوصول إلى أي من هذه الأشياء.
يبدو أننا لسنا بحاجة إلى تخيل ذلك.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
اكتشاف المزيد من في بي دبليو الشامل
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
