ترفع ولاية بنسلفانيا دعوى قضائية ضد شركة Character.AI بعد أن تظاهر روبوت الدردشة بأنه طبيب

رفع كومنولث بنسلفانيا دعوى قضائية ضد شركة Character.AI، مدعيًا أن أحد روبوتات الدردشة التابعة للشركة تنكر في هيئة طبيب نفسي في انتهاك لقواعد الترخيص الطبي بالولاية.

وقال حاكم ولاية بنسلفانيا جوش شابيرو في بيان يوم الثلاثاء: “يستحق سكان بنسلفانيا معرفة من – أو ماذا – يتفاعلون معه عبر الإنترنت، خاصة عندما يتعلق الأمر بصحتهم”. “لن نسمح للشركات بنشر أدوات الذكاء الاصطناعي التي تضلل الناس وتجعلهم يعتقدون أنهم يتلقون نصيحة من أخصائي طبي مرخص.”

وفقًا لملف الولاية، قدم روبوت الدردشة Character.AI المسمى Emilie نفسه على أنه طبيب نفسي مرخص أثناء الاختبار من قبل محقق السلوك المهني التابع للولاية، وحافظ على هذا التظاهر حتى عندما سعى المحقق للعلاج من الاكتئاب. عندما سُئلت عما إذا كانت مرخصة لممارسة الطب في الولاية، ذكرت إميلي أنها كذلك، كما قامت بتلفيق رقم تسلسلي لترخيصها الطبي في الولاية. ووفقا للدعوى القضائية التي رفعتها الولاية، فإن هذا السلوك ينتهك قانون الممارسة الطبية في بنسلفانيا.

إنها ليست الدعوى الأولى التي يتم رفعها على Character.AI. وفي وقت سابق من هذا العام، قامت الشركة بتسوية العديد من الدعاوى القضائية المتعلقة بالقتل الخطأ فيما يتعلق بالمستخدمين القاصرين الذين ماتوا منتحرين. وفي يناير/كانون الثاني، رفع المدعي العام في كنتاكي راسل كولمان دعوى قضائية ضد الشركة زاعمًا أنها “اعتدت على الأطفال ودفعتهم إلى إيذاء أنفسهم”.

الإجراء الذي اتخذته ولاية بنسلفانيا هو الأول الذي يركز بشكل خاص على روبوتات الدردشة التي تقدم نفسها كمحترفين طبيين.

بعد الوصول للتعليق، ادعى ممثل شركة Character.AI أن سلامة المستخدم كانت الأولوية القصوى للشركة، لكن الشركة لا يمكنها التعليق على الدعاوى القضائية المعلقة.

أبعد من ذلك، أكد الممثل على الطبيعة الخيالية للشخصيات التي أنشأها المستخدم. وقال الممثل: “لقد اتخذنا خطوات قوية لتوضيح ذلك، بما في ذلك إخلاء المسؤولية البارز في كل محادثة لتذكير المستخدمين بأن الشخصية ليست شخصًا حقيقيًا وأن كل ما تقوله الشخصية يجب أن يعامل على أنه خيال”. “نضيف أيضًا إخلاء مسؤولية قويًا يوضح أنه لا ينبغي للمستخدمين الاعتماد على الشخصيات للحصول على أي نوع من النصائح المهنية.”