أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، يوم الثلاثاء عن مجموعة من سياسات المستخدمين الجديدة، بما في ذلك تعهد بتغيير جذري في كيفية تفاعل شات جي بي تي مع المستخدمين دون سن 18 عامًا.
وجاء في المنشور: “نحن نولي الأولوية للسلامة على الخصوصية والحرية للمراهقين، هذه تقنية جديدة وفعالة، ونعتقد أن القاصرين بحاجة إلى حماية كبيرة”.
حماية القاصرين أولوية OpenAI في شات جي بي تي
تركز التغييرات الجديدة التي أعلنت عنها OpenAI تحديدًا على المستخدمين القاصرين، وتحديدًا المحادثات التي تتضمن مواضيع جنسية أو إيذاء النفس، وذلك بحسب تقرير نشره موقع “تك كرانش” واطلعت عليه “العربية Business”، حيث تسعى الشركة لتوفير بيئة أكثر أمانًا لهذه الفئة العمرية.
قيود جديدة على المحادثات الجنسية والانتحارية
بموجب السياسة الجديدة، سيتم تدريب شات جي بي تي على التوقف عن الانخراط في “أحاديث غزلية” مع المستخدمين القاصرين، وسيتم وضع حواجز أمان إضافية حول مناقشات الانتحار، هذا يأتي في إطار جهود OpenAI لتقليل المخاطر المحتملة على القاصرين.
التدخل في حالات الانتحار المحتملة
إذا استخدم مستخدم قاصر شات جي بي ت لتخيل سيناريوهات انتحارية، فستحاول الخدمة الاتصال بوالديه أو، في الحالات الشديدة بشكل خاص، بالشرطة المحلية، هذا الإجراء يهدف إلى توفير دعم فوري للمستخدمين الذين يعانون من أفكار انتحارية.
دعاوى قضائية تواجه OpenAI و Character.AI
تواجه “OpenAI” حاليًا دعوى قضائية بتهمة القتل الخطأ من والدي آدم راين، الذي انتحر بعد أشهر من التفاعل مع شات جي بي تي، كما يواجه “Character.AI”، وهو روبوت دردشة آخر للمستهلكين، دعوى قضائية مماثلة، مما يسلط الضوء على المخاطر المحتملة لروبوتات الدردشة على الصحة النفسية.
مخاوف متزايدة بشأن الأوهام التي تغذيها روبوتات الدردشة
في حين أن المخاطر مُلحة بشكل خاص للمستخدمين القاصرين الذين يفكرون في إيذاء أنفسهم، إلا أن ظاهرة الأوهام التي تُغذيها روبوتات الدردشة أثارت قلقًا واسع النطاق، لا سيما مع ازدياد قدرة روبوتات الدردشة للمستهلكين على إجراء تفاعلات أكثر استدامة وتفصيلًا، هذا القلق دفع OpenAI إلى اتخاذ إجراءات استباقية لحماية المستخدمين.
ميزات جديدة للرقابة الأبوية
إلى جانب القيود المتعلقة بالمحتوى، سيتمكن الآباء الذين يسجلون حسابات مستخدمين دون السن القانونية من تحديد “ساعات حظر” لا يتوفر فيها شات جي بي تي، وهي ميزة لم تكن متاحة سابقًا، هذه الميزة الجديدة تتيح للآباء مزيدًا من التحكم في استخدام أطفالهم لشات جي بي تي.
تزامن السياسات الجديدة مع جلسة استماع في مجلس الشيوخ
تأتي سياسات شات جي بي تي الجديدة في نفس يوم جلسة استماع للجنة القضائية بمجلس الشيوخ بعنوان “دراسة أضرار روبوتات الدردشة الذكية”، حيث أعلن السيناتور جوش هاولي (جمهوري عن ولاية ميزوري) عن هذه الجلسة في أغسطس، ومن المقرر أن يلقي والد آدم راين كلمة في الجلسة، إلى جانب ضيوف آخرين، هذه الجلسة ستناقش المخاطر المحتملة لروبوتات الدردشة وتأثيرها على المستخدمين.
التركيز على المحادثات الجنسية مع القاصرين
ستركز الجلسة أيضًا على نتائج تحقيق أجرته “رويترز” كشف عن وثائق سياسية تشجع على ما يبدو على إجراء محادثات جنسية مع مستخدمين دون السن القانونية، وقد قامت شركة ميتا بتحديث سياساتها المتعلقة بروبوتات الدردشة في أعقاب هذا التقرير، مما يدل على الاهتمام المتزايد بحماية القاصرين من الاستغلال الجنسي عبر الإنترنت.
تحديات تقنية في تحديد عمر المستخدم
سيُشكّل فصل المستخدمين القاصرين تحديًا تقنيًا كبيرًا، وقد شرحت “OpenAI” نهجها بالتفصيل في منشور مدونة منفصل، حيث تعمل الخدمة على “بناء نظام طويل الأمد لفهم ما إذا كان عمر الشخص أكبر من 18 عامًا أم أقل”، ولكن في الحالات العديدة الغامضة، سيعتمد النظام تلقائيًا على القواعد الأكثر تقييدًا، هذا النهج يضمن حماية القاصرين حتى في الحالات التي يكون فيها العمر غير واضح.
ربط حسابات المراهقين بحسابات الوالدين
بالنسبة للآباء القلقين، فإن الطريقة الأكثر موثوقية لضمان التعرّف على المستخدم القاصر هي ربط حساب المراهق بحساب أحد الوالدين الحاليين، يُمكّن هذا النظام أيضًا من تنبيه الوالدين مباشرةً عند الاشتباه في أن المستخدم المراهق في حالة ضائقة، مما يوفر طبقة إضافية من الحماية.
التوازن بين الخصوصية والسلامة
ولكن في المنشور نفسه، أكد ألتمان على التزام “OpenAI” المستمر بخصوصية المستخدم ومنح المستخدمين البالغين حرية واسعة في كيفية تفاعلهم مع شات جي بي تي، وخلص المنشور إلى القول: “ندرك أن هذه المبادئ متعارضة، ولن يتفق الجميع على كيفية حلّنا لهذا التعارض”، مما يعكس التحدي الذي تواجهه OpenAI في تحقيق التوازن بين الخصوصية والسلامة.