قام أحد عملاء الذكاء الاصطناعي بأعمال مارقة في Meta، حيث كشف بيانات الشركة والمستخدم الحساسة للموظفين الذين لم يكن لديهم إذن للوصول.
وفقًا لتقرير الحادث، الذي تم عرضه والإبلاغ عنه بواسطة The Information، قام أحد موظفي Meta بالنشر في منتدى داخلي يطلب المساعدة في سؤال فني – وهو إجراء قياسي. ومع ذلك، طلب مهندس آخر من وكيل الذكاء الاصطناعي المساعدة في تحليل السؤال، وانتهى الوكيل بنشر إجابة دون طلب الإذن من المهندس بمشاركتها. وأكد ميتا الحادث للمعلومات.
وكما تبين، فإن عميل الذكاء الاصطناعي لم يقدم نصيحة جيدة. انتهى الأمر بالموظف الذي طرح السؤال إلى اتخاذ إجراءات بناءً على توجيهات الوكيل، مما أدى عن غير قصد إلى إتاحة كميات هائلة من البيانات المتعلقة بالشركة والمستخدم للمهندسين الذين لم يُسمح لهم بالوصول إليها لمدة ساعتين.
واعتبرت ميتا الحادث “Sev 1″، وهو ثاني أعلى مستوى من الخطورة في النظام الداخلي للشركة لقياس المشكلات الأمنية.
لقد شكل عملاء الذكاء الاصطناعي المارقون مشكلة بالفعل في ميتا. نشرت Summer Yue، مديرة السلامة والمحاذاة في Meta Superintelligence، على موقع X الشهر الماضي تصف كيف انتهى وكيل OpenClaw الخاص بها إلى حذف صندوق الوارد الخاص بها بالكامل، على الرغم من أنها طلبت منه التأكيد معها قبل اتخاذ أي إجراء.
ومع ذلك، يبدو ميتا متفائلًا بشأن إمكانات الذكاء الاصطناعي الوكيل. في الأسبوع الماضي فقط، اشترت Meta شركة Moltbook، وهو موقع تواصل اجتماعي يشبه Reddit لعملاء OpenClaw للتواصل مع بعضهم البعض.
