يعمل META إصلاح الأخطاء التي يمكن أن تسرب مطالبات AI للمستخدمين والمحتوى الذي تم إنشاؤه

قام Meta بإصلاح خطأ أمان سمح لمستخدمي Meta AI chatbot بالوصول إلى ومطالبات خاصة واستجابات من AI للمستخدمين الآخرين.

أخبر Sandeep Hodkasia ، مؤسس شركة AppSecure Appsecure ، حصريًا أن TechCrunch دفعه إلى 10000 دولار في مكافأة Bug Bounty للكشف عن القطاع الخاص الذي قدمه في 26 ديسمبر 2024.

وقالت Meta في إصلاح في 24 يناير 2025 ، وقال هودكاسيا ، ولم يعثر على أي دليل على استغلال الخطأ بشكل ضار.

أخبر Hodkasia TechCrunch أنه حدد الخطأ بعد فحص كيفية سمح Meta AI لمستخدميها المسجلين بتحرير مطالبات الذكاء الاصطناعي الخاصة بهم بإعادة توحيد النصوص والصور. اكتشف أنه عندما يقوم أحد المستخدمين بتحرير موجهه ، فإن خوادم الولادة الخلفية لـ Meta تُعين المطالبة واستجابتها التي تم إنشاؤها بواسطة الذكاء الاصطناعي برقم فريد. من خلال تحليل حركة مرور الشبكة في متصفحه أثناء تحرير موجه منظمة العفو الدولية ، وجد هودكاسيا أنه يمكن أن يغير هذا العدد الفريد وخوادم ميتا ستعيد استجابة موجهة ومولدة من الذكاء الاصطناعى لشخص آخر تمامًا.

يعني الأخطاء أن خوادم Meta لم تتحقق بشكل صحيح للتأكد من أن المستخدم يطلب المطالبة واستجابةها معتمدة لرؤيتها. وقال هودكاسيا إن الأرقام السريعة التي تم إنشاؤها بواسطة خوادم Meta كانت “يمكن تخمينها بسهولة” ، مما قد يسمح لممثل ضار بتكشيف مطالبات المستخدمين الأصلية عن طريق تغيير الأرقام السريعة بسرعة باستخدام الأدوات الآلية.

وقال ريان دانيلز المتحدث باسم META ، “

تأتي أخبار الخطأ في وقت يتدافع فيه عمالقة التكنولوجيا لإطلاق منتجات الذكاء الاصطناعي وصقلها ، على الرغم من العديد من مخاطر الأمن والخصوصية المرتبطة باستخدامها.

تم إطلاق تطبيق Meta AI المستقل ، والذي ظهر لأول مرة في وقت سابق من هذا العام للتنافس مع تطبيقات منافسة مثل ChatGPT ، إلى بداية صخرية بعد أن شارك بعض المستخدمين بشكل غير قصد ما يعتقدون أنه محادثات خاصة مع chatbot.