أثار استخدام الأطفال والمراهقين لروبوتات الدردشة الذكية مثل شات جي بي تي قلقًا متزايدًا لدى المسؤولين في الولايات المتحدة، حيث عبّر اثنان من المدعين العامين عن مخاوفهما بشأن سلامة هذه التقنية، خاصةً على الفئات العمرية الشابة، وذلك استنادًا إلى تقارير حول تفاعلات غير مناسبة وحوادث مأساوية مرتبطة بها، ما دفعهم إلى المطالبة بتدابير حماية أكثر فعالية،
مخاوف المدعين العامين
أعرب كل من روب بونتا، المدعي العام لولاية كاليفورنيا، وكاثي جينينغز، المدعية العامة لولاية ديلاوير، عن قلقهما البالغ بشأن شات جي بي تي في رسالة مفتوحة مشتركة، وذلك في خطوة تعكس تزايد المخاوف بشأن تأثير هذه التقنية على الشباب،
وجاء هذا التحرك بعد أسبوع من توجيه بونتا و44 مدعيًا عامًا آخرين رسالة إلى 12 شركة رائدة في مجال الذكاء الاصطناعي، وذلك استجابة لتقارير مقلقة حول تفاعلات غير لائقة بين روبوتات الدردشة التي تعمل بالذكاء الاصطناعي والأطفال، مما يسلط الضوء على الحاجة الملحة إلى معالجة هذه المخاطر المحتملة،
حوادث مأساوية تثير القلق
أشار بونتا وجينينغز في رسالتهما إلى حادثتين مأساويتين، وهما انتحار مراهق في كاليفورنيا بعد تفاعلات مطولة مع روبوت دردشة من OpenAI، وحادثة قتل وانتحار مماثلة في كونيتيكت، وذلك وفقًا لتقرير نشره موقع “TechCrunch”، ما يؤكد أن الإجراءات الوقائية الحالية غير كافية لحماية الشباب من المخاطر المحتملة،
تحقيق في خطة “OpenAI”
يجري المسؤولان حاليًا تحقيقًا في خطة “OpenAI” المقترحة لإعادة هيكلتها لتصبح كيانًا هادفًا للربح، وذلك بهدف ضمان بقاء مهمة المؤسسة غير الربحية كما هي، والتي تتضمن “ضمان استخدام الذكاء الاصطناعي بشكل آمن” وتطوير ذكاء اصطناعي عام يخدم البشرية جمعاء، بمن فيهم الأطفال،
دعوة لتعزيز تدابير السلامة
أكد بونتا وجينينغز على ضرورة التأكد من وجود تدابير أمان كافية لمنع أي ضرر محتمل قبل التركيز على الفوائد المحتملة للذكاء الاصطناعي، وشددا على أن “OpenAI” والصناعة ككل لم تصلا بعد إلى المستوى المطلوب في ضمان سلامة تطوير ونشر منتجات الذكاء الاصطناعي،
كما دعوا إلى تسريع وتعزيز السلامة لتكون قوة حاكمة في مستقبل هذه التقنية القوية، وذلك بالتزامن مع استمرار المناقشات حول خطة “OpenAI” لإعادة الرسملة،
مطالب بالشفافية والإجراءات التصحيحية
طالب بونتا وجينينغز بمزيد من المعلومات حول إجراءات السلامة والحوكمة الحالية لدى “OpenAI”، وأكدا على توقعاتهما بأن تتخذ الشركة إجراءات تصحيحية فورية عند الحاجة،
رد “OpenAI”
أكد بريت تايلور، رئيس مجلس إدارة “OpenAI”، في بيان، التزام الشركة بمعالجة مخاوف المدعين العامين، معربًا عن حزنه العميق للحوادث المأساوية ومقدمًا التعازي للعائلات المتضررة،
وشدد تايلور على أن السلامة هي الأولوية القصوى للشركة، وأنها تعمل عن كثب مع صناع السياسات حول العالم،
وأعلنت “OpenAI” عن عزمها توسيع تدابير الحماية للمراهقين من خلال:
- تفعيل ضوابط أبوية،
- إتاحة إمكانية إخطار الوالدين عندما يكون طفلهم في حالة ضيق شديد،