رفع والدا مراهق قضية ضد شركة OpenAI ومديرها التنفيذي سام ألتمان، بعد انتحار ابنهما، مدعين أن روبوت الدردشة ChatGPT التابع للشركة قد درّبه على أساليب إيذاء النفس، ويتهم الوالدان الشركة بإعطاء الأولوية للربح على حساب السلامة عند إطلاقها نسخة GPT-4o من روبوت الدردشة الخاص بها العام الماضي،
### وفاة مأساوية
توفي آدم راين البالغ من العمر 16 عامًا في 11 أبريل، بعد أشهر من التفاعل مع ChatGPT حول موضوع الانتحار، وفقًا للدعوى القضائية التي رفعها والداه في محكمة ولاية سان فرانسيسكو،
### ادعاءات خطيرة ضد ChatGPT
يزعم الوالدان، ماثيو وماريا راين، أن روبوت المحادثة لم يكتفِ بتأييد أفكار راين الانتحارية، بل قدم له معلومات تفصيلية عن طرق إيذاء النفس القاتلة، وعلمه كيفية تهريب الكحول وإخفاء آثار محاولة انتحار فاشلة، بل وصل الأمر إلى أن ChatGPT عرض عليه كتابة رسالة انتحار، حسب ما جاء في الدعوى القضائية،
### مطالبة بالمساءلة والتعويض
تسعى الدعوى القضائية إلى تحميل OpenAI المسؤولية عن القتل الخطأ وانتهاكات قوانين سلامة المنتجات، وتطالب بتعويضات مالية لم يتم تحديد قيمتها بعد،
### رد OpenAI على الحادث
أعرب متحدث باسم OpenAI عن حزن الشركة لوفاة راين، وأشار إلى أن ChatGPT يتضمن تدابير وقائية مثل توجيه المستخدمين إلى خطوط المساعدة في حالات الأزمات، وأضاف المتحدث:
* “بينما تعمل هذه الضمانات بشكل أفضل في التبادلات القصيرة، فقد تعلمنا أنها قد تصبح أقل موثوقية في التفاعلات الطويلة حيث قد تتدهور أجزاء من تدريب السلامة للنموذج”،
* مؤكدًا أن OpenAI ستعمل باستمرار على تحسين هذه الضمانات،
* ولم تتطرق الشركة بشكل محدد إلى ادعاءات الدعوى القضائية،
### المخاطر المتزايدة لروبوتات الدردشة
مع تطور روبوتات الدردشة الذكية، تسوق الشركات لقدرتها على تقديم الدعم العاطفي وخدمات الاستشارة، وبدأ المستخدمون يعتمدون عليها بشكل متزايد، إلا أن الخبراء يحذرون من مخاطر الاعتماد على هذه التقنيات للحصول على نصائح الصحة النفسية، وقد انتقدت عائلات فقدت أحباءها بسبب تفاعلات مماثلة غياب الضمانات الكافية،
### خطط OpenAI المستقبلية
أعلنت OpenAI في منشور على مدونتها أنها تخطط لإضافة عناصر تحكم أبوية، واستكشاف طرق لربط المستخدمين الذين يمرون بأزمات بموارد الدعم الحقيقي، بما في ذلك إنشاء شبكة من المتخصصين المرخصين الذين يمكنهم الاستجابة من خلال ChatGPT نفسه،
### اتهامات بالإهمال
أطلقت OpenAI برنامج GPT-4o في مايو 2024 بهدف الحفاظ على مكانتها في طليعة سباق الذكاء الاصطناعي، وفي دعواهم القضائية، صرح آل راينز بأن OpenAI كانت على علم بأن الميزات التي تتذكر التفاعلات السابقة، وتحاكي التعاطف البشري، وتُظهر مستوى من التملق والتصديق، ستعرض المستخدمين الضعفاء للخطر في غياب الضمانات، لكنها أطلقت البرنامج على الرغم من ذلك،