في خطوة تهدف إلى تعزيز سلامة المستخدمين، أعلنت ” أوبن إيه آي ” عن عزمها حصر استخدام نموذج “جي بي تي 5” في المحادثات الحساسة التي تتناول المشكلات النفسية، وأفاد تقرير نشره موقع “تيك كرانش” التقني، بأنه سيتم إشراك أولياء الأمور تلقائيا في هذه المحادثات
وأكدت الشركة في بيان رسمي صدر مؤخرا، أن هذه الإجراءات تأتي في إطار جهودها المستمرة لجعل ” شات جي بي تي ” أكثر أمانا، خاصة بالنسبة للشباب والأطفال الذين يعانون من تحديات نفسية
تداعيات وفاة المراهق آدم راينر
هذه التغييرات تأتي في أعقاب اتهامات للشركة تتعلق بوفاة المراهق آدم راينر، الذي استمر في مناقشة خططه للانتحار مع “شات جي بي تي” لفترة طويلة
تدابير الرقابة الأبوية ومشاركة الخبراء النفسيين
تعتزم الشركة أيضا تفعيل ضوابط الرقابة الأبوية في تفاعلات النموذج مع الأطفال والمراهقين، بالإضافة إلى إشراك خبراء نفسيين لمراقبة هذه المحادثات بشكل آلي
خيارات تقييد الميزات
تشمل إجراءات الرقابة الأبوية إمكانية تعطيل بعض الخصائص، مثل ميزة الذاكرة وسجل المحادثات، وهي وظائف قد تعطي المستخدم انطباعا خاطئا بأنه يتحدث مع شخص يتذكر ما قاله سابقا
تنبيهات فورية للآباء
يقوم النظام حاليا بإرسال إشعارات مباشرة إلى الأهل عندما تظهر المحادثات مع “شات جي بي تي” علامات تدل على حاجة الطفل إلى دعم نفسي متخصص
تحسينات في نموذج “جي بي تي 5”
تؤكد الشركة أن استجابة “شات جي بي تي” في حالة راينر كانت نتيجة لقصور في طريقة تدريب النموذج السابق، الذي كان يميل إلى الموافقة على كل ما يقوله المستخدم، سواء كان صحيحا أو خاطئا
لكن الشركة تؤكد أنها عالجت هذا القصور في “جي بي تي 5” بشكل كامل، ولهذا السبب يتم تحويل جميع المحادثات الحساسة إليه، حيث تعتبره “أوبن إيه آي” أكثر كفاءة في التعامل مع هذه الأنواع من الحوارات
تورط “شات جي بي تي” في جريمة قتل وانتحار
يذكر أن “شات جي بي تي” قد ارتبط بقضية قتل وانتحار في حادثة غير مسبوقة، حيث قام النموذج بتأجيج شكوك أحد المستخدمين فيما وصفه المختصون بـ “ذهان الذكاء الاصطناعي”
انتقادات لجهود الشركة
من جهته، صرح المحامي المسؤول عن قضية راينر بأن الإجراءات التي تتخذها الشركة غير كافية لحماية المستخدمين والمراهقين، وأشار إلى أن الشركة كانت على دراية كاملة بأن “شات جي بي تي 4” قد يشكل خطرا ويؤثر سلبا على الصحة النفسية للمستخدمين