سام التمان جاهز للتباطؤ

يقول سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إنه قد يكون الوقت قد حان “لتسريع” تطوير الذكاء الاصطناعي حتى يكون العالم جاهزًا لذلك.

وقال لباتريك أوشونيسي، مضيف البرنامج: “قد يتعين علينا تسريع معدل تطوير الذكاء الاصطناعي لمنح أنفسنا ما يكفي من الوقت حتى يتمكن المجتمع من التشدد حول بعض مستويات القدرات الجديدة هذه”. استثمر كالأفضل البودكاست، بينما نحاول أيضًا “معرفة كيفية القيام بذلك بطريقة لا تبدو وكأنها سيطرة تنظيمية على أي شخص، كما لا تبدو وكأنها تواطؤ بين المختبرات الحدودية”.

تجنب ألتمان التوقيع على الحملات السابقة لإبطاء تقدم الذكاء الاصطناعي، واصفًا الرسالة المفتوحة لعام 2023 التي اقترحت تباطؤًا مماثلًا بأنها “تفتقد معظم الفروق الفنية حول المكان الذي نحتاج فيه إلى التوقف المؤقت”.

من الواضح أنه خفف من الفكرة، ويرجع الفضل في ذلك جزئيًا إلى الحادث الذي تمكن فيه أحد نماذج OpenAI المتقدمة من اختراق بيئة حوسبة آمنة واختراق Huggingface، وهي قاعدة بيانات نموذجية عبر الإنترنت، باستخدام العديد من عمليات استغلال يوم الصفر.

في البودكاست، وصف المؤسس المشارك لـ OpenAI ما حدث بأنه “حادث سيبراني خيال علمي للغاية …[t]إنه الحادث الأمني ​​الأول الذي أشعر به بشدة”.

أوقف باحثو OpenAI التدريب مؤقتًا على هذا النموذج أثناء عملهم على كيفية الحفاظ على أمان صندوق الحماية الخاص بهم. لكن ألتمان قال إنه عندما تصبح النماذج أكثر قوة، فإن الحاجة إلى “تسريع” تطورها يمكن أن تصبح أساسية للنشر الآمن.

وقد بدأ الموظفون في OpenAI وAnthropic بالفعل في توزيع عريضة باستخدام لغة مماثلة. في حين أن سلامة النماذج ومواءمتها كانت دائمًا مصدر قلق في عالم الذكاء الاصطناعي، فإن وصول نموذج Mythos ذو القدرة العالية من Anthropic في وقت سابق من هذا العام قد حول الافتراضات إلى مشاكل في العالم الحقيقي.

ومع ذلك، فإن الصناعة لديها مشكلة ثقة، واقتصاديات صعبة تمنح اللاعبين الرئيسيين والحافز لتسليط الضوء على مخاطر أنظمتهم بطرق يختلف الخبراء حولها – على سبيل المثال، ما إذا كان ينبغي حظر نموذج Anthropic’s Fable لفترة وجيزة من الاستخدام أم لا. وعلى نحو مماثل، عندما تم إطلاق كيمي كيه 3، وهو نموذج كبير مفتوح الوزن تم تصنيعه في الصين، قال دين دبليو بول، رئيس العقود المستقبلية الاستراتيجية في شركة أوبن إيه آي، إنه يهدد اقتصاديات المختبرات الحدودية، مما يجعل من الصعب فصل مخاوفهم المتعلقة بالسلامة عن مصالحهم المالية.

“أعتقد أن الكثير من الحديث عن المخاوف المتعلقة بالسلامة له ما يبرره، والكثير منه يدور حول الأشخاص الذين يريدون حقًا، حتى لو كان ذلك لا شعوريًا إلى حد ما، تركيز السلطة”، كما قال ألتمان، فيما يمكن اعتباره انتقادًا لمنافسه، الرئيس التنفيذي لشركة الأنثروبيك، داريو أمودي. “أنا مرعوب من عالم حيث يتم استخدام المخاوف الحقيقية من الذكاء الاصطناعي كوسيلة للقول: “فقط هذه المجموعة الصغيرة من الناس يمكن أن تحصل عليه لأنه خطير للغاية، وهم وحدهم من يفهمونه، ولكن لا تقلق، فهم سيتخذون القرارات الصحيحة لنا جميعًا”. لا أعتقد هذا.”

ومع ذلك، فقد عارضت شركة OpenAI الجهود المبذولة لتطوير القواعد الحكومية لنماذج الذكاء الاصطناعي، وفضلت بدلاً من ذلك اتباع نهج تقوده الصناعة حيث تقوم مختبرات الذكاء الاصطناعي بإنشاء منظمات مستقلة ظاهريًا من شأنها تقييم أمان النماذج ونهج السلامة الذي يتبعه صانعوها.

إن التحدي الذي يواجه هذا النهج في التنظيم، وأي جهود لإبطاء تطوير الذكاء الاصطناعي، سوف يتمثل في جعل مختلف اللاعبين في الصناعة على نفس الصفحة، سواء كانوا مختبرات حدودية منافسة في الولايات المتحدة، أو منافسين لهم في الصين.