أصبحت كاليفورنيا أول ولاية تنظم روبوتات الدردشة المصاحبة للذكاء الاصطناعي

وقع حاكم كاليفورنيا جافين نيوسوم على مشروع قانون تاريخي يوم الاثنين ينظم روبوتات الدردشة المصاحبة للذكاء الاصطناعي، مما يجعلها أول ولاية في البلاد تطلب من مشغلي روبوتات الدردشة المدعمة بالذكاء الاصطناعي تنفيذ بروتوكولات السلامة لمرافقي الذكاء الاصطناعي.

تم تصميم القانون، SB 243، لحماية الأطفال والمستخدمين الضعفاء من بعض الأضرار المرتبطة باستخدام روبوت الدردشة المصاحب للذكاء الاصطناعي. إنه يحمل الشركات – بدءًا من المعامل الكبيرة مثل Meta وOpenAI إلى الشركات الناشئة المصاحبة الأكثر تركيزًا مثل Character AI وReplika – للمساءلة القانونية إذا فشلت روبوتات الدردشة الخاصة بها في تلبية معايير القانون.

تم تقديم SB 243 في يناير من قبل أعضاء مجلس الشيوخ بالولاية ستيف باديلا وجوش بيكر، واكتسب زخمًا بعد وفاة المراهق آدم رين، الذي توفي منتحرًا بعد سلسلة طويلة من المحادثات الانتحارية مع ChatGPT من OpenAI. يستجيب التشريع أيضًا للوثائق الداخلية المسربة التي يُقال إنها أظهرت السماح لروبوتات الدردشة التابعة لشركة Meta بالمشاركة في محادثات “رومانسية” و”حسية” مع الأطفال. في الآونة الأخيرة، رفعت عائلة من كولورادو دعوى قضائية ضد شركة Character AI الناشئة في مجال لعب الأدوار بعد أن انتحرت ابنتهم البالغة من العمر 13 عامًا بعد سلسلة من المحادثات الإشكالية والجنسية مع روبوتات الدردشة الخاصة بالشركة.

وقال نيوسوم في بيان: “يمكن للتكنولوجيا الناشئة مثل برامج الدردشة الآلية ووسائل التواصل الاجتماعي أن تلهم أطفالنا وتعلمهم وتتواصل معهم، ولكن بدون حواجز حماية حقيقية، يمكن للتكنولوجيا أيضًا استغلال أطفالنا وتضليلهم وتعريضهم للخطر”. “لقد رأينا بعض الأمثلة المروعة والمأساوية حقًا للشباب الذين تضرروا من التكنولوجيا غير المنظمة، ولن نقف مكتوفي الأيدي بينما تستمر الشركات دون الحدود والمساءلة اللازمة. يمكننا الاستمرار في الريادة في مجال الذكاء الاصطناعي والتكنولوجيا، ولكن يجب علينا أن نفعل ذلك بمسؤولية – حماية أطفالنا في كل خطوة على الطريق. سلامة أطفالنا ليست للبيع “.

سيدخل SB 243 حيز التنفيذ في 1 يناير 2026، ويتطلب من الشركات تنفيذ ميزات معينة مثل التحقق من العمر والتحذيرات المتعلقة بوسائل التواصل الاجتماعي وروبوتات الدردشة المصاحبة. ويطبق القانون أيضًا عقوبات أشد على أولئك الذين يستفيدون من التزييف العميق غير القانوني، بما في ذلك ما يصل إلى 250 ألف دولار لكل جريمة. يجب على الشركات أيضًا إنشاء بروتوكولات لمعالجة الانتحار وإيذاء النفس، والتي ستتم مشاركتها مع وزارة الصحة العامة بالولاية إلى جانب إحصائيات حول كيفية تزويد الخدمة للمستخدمين بإشعارات الوقاية من مركز الأزمات.

وفقًا للغة مشروع القانون، يجب على المنصات أيضًا أن توضح أن أي تفاعلات يتم إنشاؤها بشكل مصطنع، ويجب ألا تمثل روبوتات الدردشة نفسها كمتخصصين في الرعاية الصحية. يُطلب من الشركات تقديم تذكيرات للقاصرين ومنعهم من مشاهدة الصور الجنسية الصريحة التي ينشئها برنامج الدردشة الآلي.

وقد بدأت بعض الشركات بالفعل في تنفيذ بعض الضمانات التي تستهدف الأطفال. على سبيل المثال، بدأت OpenAI مؤخرًا في طرح أدوات الرقابة الأبوية، وحماية المحتوى، ونظام الكشف عن الأذى الذاتي للأطفال الذين يستخدمون ChatGPT. قالت Replika، المصممة للبالغين فوق سن 18 عامًا، لموقع TechCrunch إنها تخصص “موارد كبيرة” للسلامة من خلال أنظمة تصفية المحتوى وحواجز الحماية التي توجه المستخدمين إلى موارد الأزمات الموثوقة، وهي ملتزمة بالامتثال للوائح الحالية.

قالت شركة Character AI إن برنامج الدردشة الآلي الخاص بها يتضمن إخلاء المسؤولية بأن جميع الدردشات يتم إنشاؤها بواسطة الذكاء الاصطناعي وتكون خيالية. صرح متحدث باسم Character AI لـ TechCrunch أن الشركة “ترحب بالعمل مع المنظمين والمشرعين أثناء قيامهم بتطوير اللوائح والتشريعات لهذا الفضاء الناشئ، وسوف تمتثل للقوانين، بما في ذلك SB 243.”

وقال السيناتور باديلا لـ TechCrunch إن مشروع القانون كان “خطوة في الاتجاه الصحيح” نحو وضع حواجز حماية على “تقنية قوية بشكل لا يصدق”.

وقال باديلا: “علينا أن نتحرك بسرعة حتى لا نضيع الفرص السانحة قبل أن تختفي”. “آمل أن ترى الولايات الأخرى الخطر. وأعتقد أن الكثيرين يرون ذلك. وأعتقد أن هذه محادثة تحدث في جميع أنحاء البلاد، وآمل أن يتخذ الناس الإجراءات اللازمة. ومن المؤكد أن الحكومة الفيدرالية لم تفعل ذلك، وأعتقد أن لدينا التزامًا هنا بحماية الأشخاص الأكثر ضعفًا بيننا”.

SB 243 هو ثاني تنظيم مهم للذكاء الاصطناعي يصدر من كاليفورنيا في الأسابيع الأخيرة. في 29 سبتمبر، وقع الحاكم نيوسوم على قانون SB 53 ليصبح قانونًا، مما يضع متطلبات جديدة للشفافية على شركات الذكاء الاصطناعي الكبيرة. وينص مشروع القانون على أن تكون مختبرات الذكاء الاصطناعي الكبيرة، مثل OpenAI، وAnthropic، وMeta، وGoogle DeepMind، شفافة بشأن بروتوكولات السلامة. كما أنه يضمن حماية المبلغين عن المخالفات للموظفين في تلك الشركات.

أصدرت ولايات أخرى، مثل إلينوي ونيفادا ويوتا، قوانين لتقييد أو حظر استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي كبديل لرعاية الصحة العقلية المرخصة.

تواصلت TechCrunch مع Meta وOpenAI للتعليق.

تم تحديث هذه المقالة بتعليقات من السيناتور باديلاوالشخصية AI والنسخة المتماثلة.