تحظر إندونيسيا تطبيق Grok بسبب التزييف العميق ذو الطابع الجنسي غير التوافقي

قال مسؤولون إندونيسيون يوم السبت إنهم منعوا مؤقتًا الوصول إلى برنامج الدردشة Grok التابع لشركة xAI.

تعد هذه واحدة من أكثر التحركات عدوانية حتى الآن من جانب المسؤولين الحكوميين الذين يستجيبون لطوفان من الصور الجنسية التي أنشأها الذكاء الاصطناعي – والتي غالبا ما تصور نساء وقاصرين حقيقيين، وأحيانا تظهر الاعتداءات وسوء المعاملة – التي نشرها Grok استجابة لطلبات المستخدمين على الشبكة الاجتماعية X. (X و xAI جزء من نفس الشركة).

وفي بيان تمت مشاركته مع صحيفة الغارديان ومنشورات أخرى، قال وزير الاتصالات والرقم الرقمي الإندونيسي، موتيا حفيظ، إن “الحكومة تعتبر ممارسة التزييف العميق الجنسي دون رضاها انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي”.

وبحسب ما ورد استدعت الوزارة مسؤولي X لمناقشة هذه القضية.

تتضمن الردود الحكومية المتنوعة خلال الأسبوع الماضي أمرًا من وزارة تكنولوجيا المعلومات الهندية لشركة xAI باتخاذ إجراءات لمنع Grok من إنشاء محتوى فاحش، بالإضافة إلى أمر من المفوضية الأوروبية للشركة بالاحتفاظ بجميع المستندات المتعلقة بـ Grok، والتي يمكن أن تمهد الطريق لإجراء تحقيق.

وفي المملكة المتحدة، قالت هيئة تنظيم الاتصالات Ofcom إنها “ستجري تقييماً سريعاً لتحديد ما إذا كانت هناك مشكلات امتثال محتملة تستدعي التحقيق”. وقال رئيس الوزراء كير ستارمر في مقابلة إن أوفكوم يحظى “بدعمه الكامل لاتخاذ الإجراءات اللازمة”.

وبينما في الولايات المتحدة، يبدو أن إدارة ترامب تلتزم الصمت بشأن هذه القضية (الرئيس التنفيذي لشركة XAI إيلون ماسك هو أحد المانحين الرئيسيين لترامب وقاد وزارة الكفاءة الحكومية المثيرة للجدل في الإدارة العام الماضي)، وقد دعا أعضاء مجلس الشيوخ الديمقراطيون أبل وجوجل إلى إزالة X من متاجر التطبيقات الخاصة بهم.

استجابت شركة xAI في البداية بنشر اعتذار على ما يبدو بصيغة المتكلم على حساب Grok، معترفة بأن المنشور “ينتهك المعايير الأخلاقية وربما القوانين الأمريكية” بشأن مواد الاعتداء الجنسي على الأطفال. قامت لاحقًا بتقييد ميزة إنشاء الصور باستخدام الذكاء الاصطناعي لتقتصر على المشتركين الذين يدفعون على X، على الرغم من أن هذا التقييد لا يبدو أنه يؤثر على تطبيق Grok نفسه، والذي لا يزال يسمح لأي شخص بإنشاء الصور.

ردًا على منشور يتساءل عن سبب عدم اتخاذ حكومة المملكة المتحدة إجراءات ضد أدوات إنشاء الصور الأخرى المعتمدة على الذكاء الاصطناعي، كتب ماسك: “إنهم يريدون أي عذر للرقابة”.