تَعِدُ “OpenAI” بمُنتَجها الأخير بتسهيل أمور عِدّة، من جمع البيانات أوتوماتيكيًا، إلى إنشاء جداول منظمة، وحجز تذاكر السفر، وحتى تحضير العروض التقديمية، وربما يتعدى الأمر ذلك ليلامس المساعدة في تطوير أسلحة بيولوجية، وهو ما يثير القلق والترقب في آن واحد
يُعتبر “وكيل شات جي بي تي” إضافة نوعية لروبوت المحادثة الشهير، فهو ليس مجرد مساعد افتراضي، بل وكيل ذكاء اصطناعي قادر على التصرف نيابة عن المستخدم، هذه الميزة جعلت “OpenAI” تصنفه كأول منتج يحمل مخاطر بيولوجية “عالية”، مما يستدعي الحذر والتعامل معه بمسؤولية فائقة
هذا التصنيف يعني أن الذكاء الاصطناعي قد يُمكّن حتى المبتدئين من إحداث تهديدات بيولوجية أو كيميائية، وفقًا لتقرير نشرته مجلة فورتشن واطلعت عليه “العربية Business”، وهو ما يزيد من المخاوف بشأن الاستخدامات السلبية المحتملة لهذه التقنية المتطورة
ووفقًا لـ “إطار التأهب” الخاص بـ “OpenAI”، والذي تستخدمه الشركة لرصد المخاطر الناجمة عن نماذجها المتقدمة، قد يؤدي ذلك إلى زيادة احتمالية وقوع هجمات إرهابية بيولوجية أو كيميائية من قبل جهات غير حكومية، مما يتطلب استعدادًا وتأهبًا لمواجهة هذه التحديات المحتملة
صرّح بواز باراك، أحد أعضاء الفريق التقني في “OpenAI”، عبر منشور على وسائل التواصل الاجتماعي: “قد يرى البعض أن المخاطر البيولوجية مُبالغ فيها، وأن النماذج لا تقدم سوى معلومات متاحة بالفعل، ربما كان هذا الرأي سائدًا في 2024، لكنه لم يعد دقيقًا اليوم، بناءً على تقييماتنا وتقييمات خبرائنا، نؤكد أن الخطر حقيقي وجاد”
وأضاف باراك: “لا نجزم بأن هذا النموذج قادر على تمكين شخص عديم الخبرة من إلحاق ضرر بيولوجي كبير، ولكننا نرى أنه من غير المسؤول إطلاق هذا النموذج دون اتخاذ تدابير وقائية شاملة، وهو ما قمنا به بالفعل”
تدابير وقائية
أكدت “OpenAI” أن تصنيف النموذج كمحفوف بالمخاطر البيولوجية كان بمثابة “إجراء احترازي”، وهو ما استتبع تطبيق إجراءات وقائية إضافية لضمان الاستخدام الآمن للأداة
أوضحت كيرين جو، الباحثة في مجال السلامة لدى “OpenAI”، أنه على الرغم من عدم وجود دليل قاطع على قدرة النموذج على توجيه شخص مبتدئ لإحداث ضرر بيولوجي جسيم، فقد قامت الشركة بتفعيل إجراءات حماية مُسبقة، تحسبًا لأي طارئ
تتضمن هذه الإجراءات رفض “وكيل شات جي بي تي” الاستجابة للرسائل التي قد تهدف إلى المساعدة في إنتاج أسلحة بيولوجية، بالإضافة إلى أنظمة تراقب الطلبات المشبوهة وتحيلها إلى خبراء للمراجعة، كما تشمل قواعد صارمة لحظر المحتوى الخطير، واستجابات سريعة لأي مشكلات محتملة، ومراقبة دقيقة لأي علامات تدل على سوء الاستخدام
تزايد قلق الشركة بشأن إمكانية استغلال النماذج في تطوير أسلحة بيولوجية، وفي منشور لها على مدونتها الشهر الماضي، أعلنت “OpenAI” عن تكثيف اختبارات السلامة لتقليل خطر استخدام نماذج الذكاء الاصطناعي الخاصة بها في المساعدة على صنع أسلحة بيولوجية، وهو ما يعكس جدية المخاوف والتحديات المطروحة
وحذرت الشركة من أنه بدون هذه الاحتياطات، قد تتمكن النماذج قريبًا من “رفع مستوى المبتدئين”، أي مساعدة الأفراد ذوي المعرفة العلمية المحدودة على تطوير أسلحة خطيرة، وهو ما يمثل تهديدًا حقيقيًا للأمن والسلم العالميين
أشار باراك إلى أنه “بخلاف التهديدات النووية والإشعاعية، لا يمثل الحصول على المواد عائقًا كبيرًا أمام تطوير تهديدات بيولوجية، وبالتالي يعتمد الأمن بشكل أكبر على المعرفة المتخصصة والمهارات المخبرية النادرة”
وتابع: “بناءً على تقييماتنا واستشاراتنا مع خبراء خارجيين، يمكن لوكيل شات جي بي تي غير المقيد أن يسد هذه الفجوة المعرفية ويقدم نصائح أقرب إلى نصائح الخبراء المتخصصين”
تُعد إضافة ميزة الوكيل الجديدة إلى “شات جي بي تي” محاولة من “OpenAI” للاستفادة من وكلاء الذكاء الاصطناعي، أحد أكثر المجالات الواعدة والمثيرة للقلق في تطوير الذكاء الاصطناعي
تتسابق مختبرات الذكاء الاصطناعي حاليًا لبناء وكلاء قادرين على إدارة المهام الرقمية المعقدة بشكل مستقل، ويأتي إطلاق هذه الميزة بعد إصدارات مماثلة من “غوغل” و”أنثروبيك”، وترى شركات التكنولوجيا الكبرى في وكلاء الذكاء الاصطناعي فرصة تجارية واعدة، حيث تتجه الشركات بشكل متزايد نحو دمج الذكاء الاصطناعي في عملياتها وأتمتة المهام الروتينية
أقرت “OpenAI” بأن زيادة استقلالية نماذج الذكاء الاصطناعي تحمل مخاطر أكبر، وتؤكد على أهمية تحكم المستخدم للحد من هذه المخاطر، على سبيل المثال، يطلب الوكيل الإذن قبل اتخاذ أي إجراء مهم، ويمكن للمستخدم إيقافه مؤقتًا أو إعادة توجيهه أو إيقافه تمامًا في أي لحظة