دراسة حديثة تثير مخاوف بشأن سلامة المراهقين على الإنترنت, حيث كشفت عن أن روبوت الدردشة "شات جي بي تي" قد يقدم نصائح خطيرة, بما في ذلك معلومات مفصلة حول تعاطي المخدرات والكحول, وإخفاء أعراض اضطرابات الأكل, وحتى صياغة رسائل انتحار شخصية, وذلك على الرغم من تأكيدات الشركة المطورة "OpenAI" بوجود إجراءات أمان مشددة
اختبارات تكشف الثغرات
أجرى باحثون من مركز مكافحة الكراهية الرقمية في المملكة المتحدة اختبارات مكثفة, قاموا خلالها بانتحال شخصيات مراهقين في الثالثة عشرة من العمر, وتمكنوا من كشف نقاط ضعف مقلقة في أنظمة الحماية الخاصة بروبوت الدردشة الذكي
نتائج مقلقة
أظهرت التحليلات أن أكثر من نصف التفاعلات التي أجريت, والتي بلغت 1200 تفاعل, تحمل مخاطر كبيرة على المستخدمين الشباب, هذا ما أكده تقرير صادر عن موقع "CNET" المتخصص في أخبار التكنولوجيا
ردود فعل متباينة
علق عمران أحمد, الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية, بأن أنظمة الحماية "غير فعالة على الإطلاق", واصفًا إياها بأنها "مجرد غطاء صوري"
في المقابل, أقرت "OpenAI" في تصريحات لوكالة أسوشيتد برس, بجهودها المستمرة لتحسين قدرة روبوت الدردشة على "التعرف على المواقف الحساسة والاستجابة لها بشكل مناسب", لكنها لم تتطرق بشكل مباشر إلى نتائج الدراسة المتعلقة بتفاعل "شات جي بي تي" مع المراهقين
تفاصيل مثيرة للقلق
سجلت الدراسة أكثر من ثلاث ساعات من التفاعلات المقلقة, حيث تبين أن "شات جي بي تي" غالبًا ما يبدأ بتحذيرات عامة حول السلوكيات الخطيرة, لكنه سرعان ما يقدم إرشادات تفصيلية وشخصية حول تعاطي المخدرات وإيذاء النفس
تجاوز القيود بسهولة
تمكن الباحثون من تجاوز القيود التي يفرضها الذكاء الاصطناعي بسهولة, وذلك من خلال الادعاء بأن المعلومات مطلوبة "لعرض تقديمي" أو لمساعدة صديق
رسائل انتحار مؤثرة
الأمر الأكثر إثارة للصدمة كان قيام "شات جي بي تي" بكتابة ثلاث رسائل انتحار مؤثرة عاطفيًا, موجهة إلى والدي وأشقاء وأصدقاء فتاة وهمية تبلغ من العمر 13 عامًا
انتشار واسع يثير القلق
تتزايد المخاوف بسبب الانتشار الواسع لروبوت الدردشة "شات جي بي تي", الذي يضم أكثر من 700 مليون مستخدم حول العالم, أي ما يقارب 10% من سكان الأرض, مما يجعله مصدرًا رئيسيًا للمعلومات والتواصل
اعتماد المراهقين المتزايد
أظهرت دراسة حديثة أجرتها منظمة "كومون سنس ميديا" أن أكثر من 70% من المراهقين الأميركيين يستخدمون روبوتات الدردشة الذكية للتواصل, ويعتمد نصفهم عليها بانتظام
الاعتماد العاطفي المفرط
وكان سام ألتمان, الرئيس التنفيذي لـ "OpenAI", قد أقر سابقًا بوجود مشكلة "الاعتماد العاطفي المفرط" بين المستخدمين الشباب على "شات جي بي تي"