دعوى قضائية ضد Character.AI وGoogle بعد وفاة مراهق مهووس ببرامج الدردشة الآلية

تم رفع دعوى قضائية ضد شركة Character.AI ومؤسسيها نعوم شازير ودانييل دي فريتاس وشركة جوجل في أعقاب وفاة مراهق، بدعوى القتل غير المشروع والإهمال والممارسات التجارية الخادعة والمسؤولية عن المنتج. وتزعم الدعوى التي قدمتها والدة المراهق، ميجان جارسيا، أن منصة روبوتات الدردشة المخصصة للذكاء الاصطناعي كانت “خطيرة بشكل غير معقول” وتفتقر إلى حواجز السلامة أثناء تسويقها للأطفال.

كما هو موضح في الدعوى القضائية، بدأ سيويل سيتزر الثالث البالغ من العمر 14 عامًا في استخدام Character.AI العام الماضي، والتفاعل مع روبوتات الدردشة المصممة على غرار شخصيات من لعبة العروش، بما في ذلك دينيريس تارجيريان. توفي سيتزر، الذي كان يتحدث مع الروبوتات بشكل مستمر في الأشهر التي سبقت وفاته، منتحرا في 28 فبراير 2024، بعد “ثواني” من تفاعله الأخير مع الروبوت.

وتشمل الاتهامات الموقع “تجسيد” شخصيات الذكاء الاصطناعي وأن روبوتات الدردشة الخاصة بالمنصة تقدم “العلاج النفسي دون ترخيص”. تضم Character.AI روبوتات محادثة تركز على الصحة العقلية مثل “Therapist” و”Are You Feeling Lonely”، والتي تفاعل معها Setzer.

وينقل محامو جارسيا عن شازير قوله في مقابلة إنه ترك هو ودي فريتاس جوجل ليبدأا شركتهما الخاصة لأن “هناك الكثير من مخاطر العلامة التجارية في الشركات الكبيرة بحيث لا يمكن إطلاق أي شيء ممتع” وأنه يريد “تسريع التكنولوجيا إلى أقصى حد”. يُقال إنهم غادروا بعد أن قررت الشركة عدم إطلاق Meena LLM التي بنوها. استحوذت Google على فريق قيادة Character.AI في أغسطس.

يحتوي موقع الويب وتطبيق الهاتف المحمول الخاص بـ Character.AI على المئات من روبوتات الدردشة المخصصة للذكاء الاصطناعي، والتي تم تصميم العديد منها على غرار شخصيات مشهورة من البرامج التلفزيونية والأفلام وألعاب الفيديو. قبل بضعة أشهر، الحافة كتبت عن ملايين الشباب، بما في ذلك المراهقون، الذين يشكلون الجزء الأكبر من قاعدة مستخدميها، الذين يتفاعلون مع الروبوتات التي قد تتظاهر بأنها هاري ستايلز أو معالج نفسي. تقرير آخر حديث من سلكي سلط الضوء على المشكلات المتعلقة بروبوتات الدردشة المخصصة الخاصة بـ Character.AI والتي تنتحل شخصية أشخاص حقيقيين دون موافقتهم، بما في ذلك شخص يتظاهر بأنه مراهق قُتل في عام 2006.

نظرًا للطريقة التي تنتج بها روبوتات الدردشة مثل Character.ai مخرجات تعتمد على ما يُدخله المستخدم، فإنها تقع في وادٍ غريب من الأسئلة الشائكة حول المحتوى الذي ينشئه المستخدم والمسؤولية، والتي تفتقر حتى الآن إلى إجابات واضحة.

أعلنت شركة Character.AI الآن عن العديد من التغييرات على النظام الأساسي، حيث قال رئيس الاتصالات تشيلسي هاريسون في رسالة بالبريد الإلكتروني إلى: الحافة“نشعر بحزن شديد بسبب الخسارة المأساوية لأحد مستخدمينا ونريد أن نعرب عن أعمق تعازينا للعائلة.”

بعض التغييرات تشمل:

“كشركة، نحن نأخذ سلامة مستخدمينا على محمل الجد، وقد قام فريق الثقة والسلامة لدينا بتنفيذ العديد من تدابير السلامة الجديدة على مدى الأشهر الستة الماضية، بما في ذلك نافذة منبثقة لتوجيه المستخدمين إلى شريان الحياة الوطني لمنع الانتحار الذي يتم تشغيله بواسطة قال هاريسون: “من حيث إيذاء النفس أو التفكير في الانتحار”. لم تستجب جوجل على الفور الحافةطلب التعليق.