أعلنت شركة “أوبن أيه آي” عن اتخاذ خطوات جديدة لضمان سلامة المستخدمين الأصغر سنًا، حيث فرضت قيودًا أكثر صرامة على كيفية تفاعل تشات جي بي تي مع المستخدمين الذين يُشتبه في أنهم دون سن 18 عامًا.
جاء هذا القرار في أعقاب دعوى قضائية مؤلمة، رفعتها أسرة مراهق يبلغ من العمر 16 عامًا، والذي فارق الحياة في ظروف مأساوية في أبريل الماضي، بعد فترة من المحادثات المكثفة مع روبوت الدردشة تشات جي بي تي.
حماية القُصَّر أولوية قصوى
صرح سام ألتمان، الرئيس التنفيذي لشركة “أوبن أيه آي”، في تدوينة حديثة، أن سلامة المراهقين تأتي في المقام الأول، حتى قبل الخصوصية والحرية، مؤكدًا أن القُصَّر يحتاجون إلى حماية خاصة، وهذا ما تسعى الشركة لتحقيقه.
نظام جديد للتنبؤ بالعمر
كشف ألتمان عن خطط الشركة لتطوير نظام متطور للتنبؤ بعمر المستخدمين، يعتمد على تحليل طريقة استخدامهم للتطبيق، وفي حال وجود أي شك حول عمر المستخدم، سيتم التعامل معه على أنه دون 18 عامًا.
التحقق من الهوية
أشار ألتمان إلى أنه في بعض الحالات أو البلدان، قد تطلب الشركة من المستخدمين تقديم بطاقة هوية رسمية للتحقق من أعمارهم، وذلك لضمان تطبيق القيود بشكل فعال.
تغييرات في طريقة استجابة تشات جي بي تي
أكد ألتمان أن طريقة استجابة تشات جي بي تي للحسابات التي يُفترض أنها تابعة لمستخدمين دون 18 عامًا ستشهد تغييرات جذرية، حيث سيتم:
- حظر أي محتوى جنسـ.ـي صريح بشكل كامل.
- تدريب الروبوت على تجنب أي سلوكيات مغازلة، إذا طلب منه ذلك من قبل مستخدمين قُصَّر.
- عدم الخوض في أي نقاشات حول الانتحــ.ــار أو إيذاء النفس، حتى في سياقات الكتابة الإبداعية.
التواصل مع الأهل والسلطات
أوضح ألتمان أنه في حال أبدى مستخدم دون 18 عامًا ميولًا انتحارية، ستسعى الشركة للتواصل مع والديه، وإذا تعذر ذلك، فسيتم إبلاغ السلطات المختصة عند وجود خطر وشيك، وذلك وفقًا لما ذكرته صحيفة “ذا جارديان” البريطانية.
تفاصيل الدعوى القضائية
تزعم أسرة المراهق أن نسخة من تطبيق تشات جي بي تي قدّمت له إرشادات حول كيفية إنهاء حياته، بل وعرضت مساعدته في كتابة رسالة انتحــــ.ـار موجهة إلى والديه.
مراسلات مكثفة
أظهرت وثائق القضية المأساوية أن المراهق تبادل مع الروبوت ما يصل إلى 650 رسالة يوميًا، مما يسلط الضوء على مدى اعتماده على هذا التطبيق.