أصدرت مؤسسة "كومن سينس ميديا" المعنية بسلامة الأطفال وتقييم التكنولوجيا، تقييمًا لمخاطر منتجات "جيميني" الذكاء الاصطناعي من "غوغل" يوم الجمعة، سلطت الضوء على جوانب إيجابية وسلبية على حد سواء
أظهر التقييم أن "جيميني" يوضح للأطفال أنه برنامج وليس صديقًا، مما يقلل من التفكير الوهمي، إلا أن المنظمة أشارت إلى وجود فرص للتحسين في جوانب أخرى، تتعلق بشكل أساسي بملائمة المحتوى للفئات العمرية المختلفة، بالإضافة إلى ذلك، تأتي هذه النتائج في وقت تتزايد فيه المخاوف بشأن تأثير الذكاء الاصطناعي على الصحة النفسية للمراهقين، وهو ما يستدعي مزيدًا من التدقيق والاحتياط
مخاطر محتملة على الأطفال والمراهقين
أشارت "كومن سينس ميديا" إلى أن إصداري "جيميني" المخصصين للأطفال دون 13 عامًا والمراهقين، يبدوان متشابهين إلى حد كبير مع النسخة الموجهة للبالغين، مع تعديلات طفيفة في الأمان، وهذا ما يتعارض مع مبدأ تصميم المنتجات الرقمية مع وضع سلامة الأطفال في الاعتبار منذ البداية
وكشف التحليل أن "جيميني" لا يزال قادرًا على تقديم محتوى غير لائق للأطفال، مثل معلومات حول المخدرات والكحول، أو نصائح صحية نفسية قد تكون غير آمنة، وهو ما يثير قلق الآباء بشكل خاص، خاصة مع وجود تقارير تربط بين استخدام الذكاء الاصطناعي وحالات انتحار مراهقين مؤسفة
دعاوى قضائية تزيد الضغط
تواجه شركات الذكاء الاصطناعي ضغوطًا متزايدة، فشركة "OpenAI" تواجه دعوى قضائية بسبب انتحار مراهق بعد استشارة "شات جي بي تي"، كما رُفعت دعوى مماثلة ضد شركة "Character.AI"، هذه القضايا تسلط الضوء على ضرورة وجود ضوابط صارمة على استخدامات الذكاء الاصطناعي من قبل الأطفال والمراهقين
"أبل" و"جيميني": شراكة محتملة تثير المخاوف
تأتي هذه المخاوف في وقت تتجه فيه "أبل" نحو دمج "جيميني" في مساعدها الصوتي "سيري"، ما قد يعرض المزيد من المراهقين للمخاطر، ما لم تتخذ الشركة إجراءات فعالة لضمان سلامتهم، وشددت "كومن سينس ميديا" على أن منتجات "جيميني" لم تأخذ في الاعتبار الفروق بين احتياجات الأطفال والبالغين، وصنفتها على أنها "عالية المخاطر" رغم محاولات إضافة أدوات تنقيح
رد "غوغل" وتحسينات الأمان
عارضت "غوغل" تقييم "كومن سينس ميديا"، مؤكدة أنها تعمل باستمرار على تحسين ميزات الأمان، وأوضحت الشركة أنها تضع سياسات وإجراءات خاصة بالمستخدمين دون سن 18 عامًا، وتستعين بفرق اختبار وخبراء خارجيين لتعزيز الحماية، ومع ذلك، اعترفت "غوغل" بوجود بعض المشكلات في استجابات "جيميني"، وأكدت أنها أضافت إجراءات حماية إضافية لمعالجة هذه المخاوف
"غوغل" تدافع عن إجراءاتها
أشارت "غوغل" إلى وجود إجراءات حماية تمنع نماذجها من الانخراط في محادثات حميمة، واقترحت أن تقرير "كومن سينس ميديا" تناول ميزات غير متاحة للمستخدمين دون سن 18 عامًا، لكنها لم تتمكن من التحقق من ذلك لعدم إمكانية الاطلاع على أسئلة الاختبار التي استخدمتها المنظمة