قالت Meta اليوم إنها توقف مؤقتًا وصول المراهقين إلى شخصيات الذكاء الاصطناعي الخاصة بها على مستوى العالم عبر جميع تطبيقاتها. وذكرت الشركة أنها لا تتخلى عن جهودها، ولكنها تريد تطوير نسخة خاصة من شخصية الذكاء الاصطناعي للمراهقين، حسبما صرحت الشركة حصريًا لـ TechCrunch.
وتأتي هذه الخطوة قبل أيام من بدء المحاكمة في قضية ضد شركة Meta في نيو مكسيكو، حيث تتهم الشركة بعدم بذل جهد في حماية الأطفال من الاستغلال الجنسي على تطبيقاتها. ذكرت مجلة Wired يوم الخميس أن شركة Meta سعت إلى الحد من الاكتشافات المتعلقة بتأثير وسائل التواصل الاجتماعي على الصحة العقلية للمراهقين، إلى جانب القصص
في أكتوبر، طرحت Meta ميزات جديدة للرقابة الأبوية، مع التركيز على تصميم تجربة المراهقين للتفاعل مع الذكاء الاصطناعي على تطبيقاتها. هذه الميزات الجديدة، المستوحاة من تصنيف الفيلم PG-13، قيدت وصول المراهقين إلى موضوعات معينة مثل العنف الشديد والعري وتعاطي المخدرات المصور.
وبعد أيام، قامت الشركة أيضًا بمعاينة عناصر التحكم لأحرف الذكاء الاصطناعي، مما يسمح للآباء والأوصياء بمراقبة المواضيع ومنع الوصول إلى أحرف معينة. وقال ميتا في ذلك الوقت إن الآباء سيكونون قادرين على إيقاف الدردشات مع شخصيات الذكاء الاصطناعي بشكل كامل أيضًا. كان من المقرر إصدار هذه الميزات هذا العام، لكن Meta تتخذ الآن نهجًا متشددًا لإيقاف تشغيل شخصيات الذكاء الاصطناعي تمامًا. قالت شركة Meta إنها سمعت من أولياء الأمور أنهم يريدون المزيد من الرؤى والتحكم في تفاعلات أبنائهم المراهقين مع شخصيات الذكاء الاصطناعي، وقررت إيقاف الوصول مؤقتًا.
“ابتداء من الأسابيع المقبلة، لن يتمكن المراهقون من الوصول إلى شخصيات الذكاء الاصطناعي عبر تطبيقاتنا حتى تصبح التجربة المحدثة جاهزة. وقالت الشركة في منشور مدونة محدث: “سينطبق هذا على أي شخص قدم لنا عيد ميلاد مراهق، بالإضافة إلى الأشخاص الذين يزعمون أنهم بالغون ولكننا نشك في أنهم مراهقين بناءً على تقنية التنبؤ بالعمر لدينا”.
وأضافت ميتا أنه عندما يتم طرح شخصيات الذكاء الاصطناعي الجديدة المخصصة للمراهقين، سيكون لديهم أدوات تحكم أبوية مدمجة. وقالت الشركة إن الشخصيات الجديدة ستقدم استجابات مناسبة لعمرها وستلتزم بموضوعات مثل التعليم والرياضة والهوايات.
تخضع شركات التواصل الاجتماعي لتدقيق شديد من قبل الجهات التنظيمية. وبصرف النظر عن القضية المذكورة أعلاه في نيو مكسيكو، تواجه ميتا أيضًا محاكمة الأسبوع المقبل، متهمة المنصة بالتسبب في إدمان وسائل التواصل الاجتماعي. ومن المتوقع أن يتخذ الرئيس التنفيذي مارك زوكربيرج موقف الشاهد في هذه القضية بمجرد بدء المحاكمة.
إلى جانب المنصات الاجتماعية، اضطرت شركات الذكاء الاصطناعي إلى تعديل تجربتها للمراهقين بعد مواجهة دعاوى قضائية تزعم أنها تلعب دورًا في المساعدة على إيذاء النفس. في أكتوبر/تشرين الأول، منعت شركة Character.AI، وهي الشركة الناشئة التي تسمح للمستخدمين بالدردشة مع مختلف الصور الرمزية للذكاء الاصطناعي، المحادثات المفتوحة مع روبوتات الدردشة للمستخدمين الذين تقل أعمارهم عن 18 عامًا. وفي نوفمبر/تشرين الثاني، قالت الشركة الناشئة إنها ستبني قصصًا تفاعلية للأطفال. في الأشهر القليلة الماضية، أضافت OpenAI قواعد جديدة لسلامة المراهقين إلى ChatGPT وبدأت أيضًا في التنبؤ بعمر المستخدم لتطبيق قيود المحتوى.
