مع تزايد المخاوف بشأن تأثير الذكاء الاصطناعي على الشباب، قدمت OpenAI ميزة “التنبؤ بالعمر” في ChatGPT والتي تم تصميمها للمساعدة في تحديد القاصرين ووضع قيود محتوى معقولة على محادثاتهم.
تعرضت OpenAI لانتقادات شديدة في السنوات الأخيرة بسبب التأثيرات التي يمكن أن تحدثها ChatGPT على الأطفال. تم ربط عدد من حالات الانتحار بين المراهقين بروبوت الدردشة، ومثل بائعي الذكاء الاصطناعي الآخرين، تعرضت OpenAI أيضًا لانتقادات لأنها سمحت لـ ChatGPT بمناقشة الموضوعات الجنسية مع المستخدمين الشباب. في أبريل الماضي، اضطرت الشركة إلى معالجة خطأ سمح لبرنامج الدردشة الآلي الخاص بها بإنشاء رسائل جنسية للمستخدمين الذين تقل أعمارهم عن 18 عامًا.
لقد كانت الشركة تعمل بالفعل على حل مشكلة المستخدم القاصر منذ بعض الوقت، كما أن ميزة “التنبؤ بالعمر” الجديدة تضيف فقط إلى وسائل الحماية الموجودة بالفعل. وقالت OpenAI في منشور على مدونة يوم الثلاثاء إن الميزة الجديدة تستفيد من خوارزمية الذكاء الاصطناعي التي تقوم بتقييم حسابات المستخدمين بحثًا عن “إشارات سلوكية وعلى مستوى الحساب” معينة، في محاولة لتحديد المستخدمين الشباب.
وقالت الشركة إن هذه “الإشارات” تتضمن أشياء مثل العمر المعلن للمستخدم، ومدة وجود الحساب، والأوقات من اليوم التي يكون فيها الحساب نشطًا عادةً. تمتلك الشركة بالفعل مرشحات محتوى مصممة للتخلص من المناقشات حول الجنس والعنف وغيرها من المواضيع التي قد تسبب مشاكل للمستخدمين الذين تقل أعمارهم عن 18 عامًا. وإذا حددت آلية التنبؤ بالعمر حسابًا على أنه أقل من 18 عامًا، فسيتم تطبيق هذه المرشحات تلقائيًا.
إذا تم تصنيف المستخدم عن طريق الخطأ على أنه قاصر، فهناك طريقة تمكنه من إعادة إنشاء حسابه “للبالغين”. يقول OpenAI إنه يمكنهم إرسال صورة شخصية إلى شريك التحقق من هوية OpenAI، Persona.
اكتشاف المزيد من صحيفة في بي دبليو الشاملة
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
