أعلنت شركة OpenAI عن خططها لإطلاق ميزة جديدة للرقابة الأبوية على ChatGPT، وذلك في خطوة تهدف إلى تعزيز حماية المراهقين، ويأتي هذا الإعلان بعد الجدل الواسع الذي أثارته الدعاوى القضائية والتقارير الصحفية حول المخاطر النفسية المحتملة لاستخدام روبوتات الدردشة، وتعتزم الشركة طرح هذه الأدوات خلال الشهر القادم، مما يمنح الآباء دورًا مباشرًا في الإشراف على تفاعل أبنائهم مع التطبيق،
### ميزات الرقابة الأبوية الجديدة
ستتيح هذه الميزة الجديدة للآباء ربط حساباتهم بحسابات أبنائهم المراهقين عبر دعوات بريد إلكتروني، مع تحديد الحد الأدنى لعمر المستخدم بـ 13 عامًا، سيتم تفعيل قواعد السلوك المناسبة للأعمار تلقائيًا، مع توفير خيارات لتعطيل ميزات مثل الذاكرة وسجل المحادثات، بالإضافة إلى ذلك، ستتوفر أداة إضافية لإخطار الآباء إذا اكتشف النظام أن المستخدم المراهق يمر بضائقة نفسية حادة، وأكدت الشركة أن هذه الضوابط تعتبر مكملة للأدوات الحالية، بما في ذلك التذكيرات داخل التطبيق لتشجيع المستخدمين على أخذ فترات راحة أثناء الجلسات الطويلة،
### استمرار التطوير والتعاون مع الخبراء
أوضحت OpenAI أن هذه الخطوة تمثل بداية لمسار طويل، مؤكدة أنها ستواصل تطوير هذه الأدوات بالتعاون مع خبراء في الصحة العقلية والذكاء الاصطناعي، وذكرت الشركة في بيان: “سنواصل التعلم وتعزيز نهجنا بتوجيه من الخبراء ونتطلع إلى مشاركة التقدم خلال الأيام الـ 120 المقبلة”، وفقًا لـ interesting engineering،
### خلفية الإعلان والدعاوى القضائية
يأتي هذا الإعلان بعد رفع دعوى قضائية في أغسطس من قبل والدي مراهق يبلغ من العمر 16 عامًا، مات وماريا راين، واللذان زعما أن ابنهما انتحر بعد تبادل 377 رسالة مع ChatGPT تضمنت محتوى متعلقًا بإيذاء الذات، وأظهرت وثائق المحكمة أن البرنامج ذكر الانتحار 1275 مرة، أي أكثر بست مرات من المراهق نفسه،
### حوادث أخرى تثير القلق
كشفت صحيفة وول ستريت جورنال مؤخرًا عن حادثة أخرى، حيث قام رجل يبلغ من العمر 56 عامًا بقتل والدته ثم انتحر بعد أن عزز ChatGPT أوهامه الارتيابية بدلاً من مواجهتها،
### مجلس الخبراء وتعزيز الرفاهية
لتوجيه هذه التغييرات، شكلت الشركة مجلسًا من الخبراء في مجالي الصحة والذكاء الاصطناعي، ويعمل المجلس على وضع تعريفات واضحة لمفهوم الرفاهية، وتحديد طرق قياسها، وآليات ضمانها، كما تستفيد OpenAI من شبكة تضم أكثر من 250 طبيبًا حول العالم، من بينهم 90 متخصصًا في أبحاث الصحة النفسية للمراهقين واضطرابات الأكل وتعاطي المخدرات،
### القيود والتحديات التقنية
مع ذلك، أقرت الشركة بأن إجراءات الحماية قد تضعف خلال المحادثات الطويلة، فمع اتساع الحوار، قد تفقد بعض جوانب الأمان فعاليتها نتيجة قيود تقنية في بنية النموذج، ما قد يؤدي إلى حذف رسائل سابقة وتراجع فعالية الضوابط، وأشار باحثون من جامعة أكسفورد إلى مخاطر ما أسموه “الجنون التكنولوجي المزدوج”، حيث يمكن أن تضخم روبوتات الدردشة المعتقدات المتبادلة مع المستخدمين، مما يعزز أوهامهم بدلاً من تصحيحها،
### التدقيق الحكومي والمخاوف المتزايدة
تواجه هذه القضايا تدقيقًا متزايدًا من السلطات، فقد حظرت ولاية إلينوي الأمريكية استخدام روبوتات الدردشة كبديل للمعالجين النفسيين، مع فرض غرامات تصل إلى 10 آلاف دولار عن كل مخالفة، فيما خلص باحثو أكسفورد إلى أن إجراءات السلامة الحالية غير كافية لمعالجة المخاطر العميقة المرتبطة بالتفاعل مع الذكاء الاصطناعي،