تمكنت شركة OpenAI، الرائدة في مجال الذكاء الاصطناعي، من إصلاح ثغرة أمنية حرجة في روبوت الدردشة الشهير “شات جي بي تي”، والتي كان من الممكن أن يستغلها المخترقون للوصول إلى بيانات جيميل الخاصة بالمستخدمين، وذلك وفقًا لتحذيرات باحثي شركة رادوير المتخصصة في الأمن السيبراني.
اكتشاف الثغرة في أداة البحث العميق
اكتشف الباحثون هذه الثغرة الخطيرة في أداة البحث العميق الخاصة بـ “شات جي بي تي”، وهي ميزة قوية تم إطلاقها في شهر فبراير الماضي، بهدف مساعدة المستخدمين على تحليل كميات هائلة من المعلومات بكفاءة عالية، حيث تتيح هذه الأداة للمستخدمين استخلاص رؤى قيمة من البيانات بسرعة وسهولة.
التهديد المحتمل لبيانات جيميل
تشير النتائج المقلقة التي توصل إليها الباحثون إلى أن هذه الثغرة كانت تشكل تهديدًا حقيقيًا لأمن بيانات المستخدمين، إذ كان بإمكان المهاجمين استغلالها لسرقة معلومات حساسة من حسابات جيميل الشخصية أو حتى حسابات الشركات، كما ورد في تقرير لوكالة بلومبرغ اطلعت عليه “العربية Business”، مما يسلط الضوء على أهمية معالجة هذه الثغرة الأمنية بشكل فوري وفعال.
تأثير ربط حسابات جيميل بـ “شات جي بي تي”
أكد باحثو “رادوير” أن مستخدمي “شات جي بي تي” الذين قاموا بربط حساباتهم في جيميل بالخدمة، ربما عرضوا بياناتهم للخطر دون علمهم، مما يستدعي توخي الحذر واتخاذ التدابير اللازمة لحماية البيانات الشخصية، حيث يجب على المستخدمين التأكد من تحديث برامجهم وتطبيقاتهم بشكل منتظم، وتفعيل ميزات الأمان المتاحة لضمان حماية معلوماتهم الحساسة.
آلية عمل الثغرة واستغلال وكلاء الذكاء الاصطناعي
تعتمد هذه الثغرة الأمنية على خلل في آلية عمل وكلاء الذكاء الاصطناعي، الذين يتمتعون بقدر من الاستقلالية ويمكنهم تنفيذ مهام نيابة عن المستخدم، حيث تصف شركات الذكاء الاصطناعي هؤلاء الوكلاء بأنهم أدوات توفر قدرًا كبيرًا من الوقت والجهد، بعد أن يمنحهم المستخدمون الإذن بالوصول إلى رسائل البريد الإلكتروني الشخصية، والتقويمات، ومستندات العمل، وما إلى ذلك، مما يجعلهم أهدافًا جذابة للمخترقين.
هجوم حقن الأوامر واستغلال ميزة الذكاء الاصطناعي الوكيل
استغل باحثو “رادوير” ميزة الذكاء الاصطناعي الوكيل لتنفيذ هجوم حقن أوامر، وهي عبارة عن تعليمات خبيثة تجعل وكيل الذكاء الاصطناعي يعمل لصالح المهاجم، وتعتبر هذه الأدوات القوية صعبة المنع دون معرفة مسبقة بالثغرة المستخدمة، وقد استغلها المخترقون بالفعل في الماضي لتنفيذ عمليات احتيال، والتحكم في المنازل الذكية، مما يؤكد خطورة هذه الثغرات وأهمية تطوير آليات دفاع فعالة.
أداة البحث العميق كوكيل للذكاء الاصطناعي
كان وكيل الذكاء الاصطناعي الذي استغله باحثو “رادوير” في حالة “شات جي بي تي” هو أداة البحث العميق المدمجة في روبوت الدردشة، مما يوضح كيف يمكن للميزات المصممة لتحسين تجربة المستخدم أن تتحول إلى نقاط ضعف أمنية إذا لم يتم تصميمها وتنفيذها بشكل صحيح، حيث يجب على الشركات المطورة للذكاء الاصطناعي إجراء اختبارات أمنية شاملة لضمان سلامة منتجاتها وحماية بيانات المستخدمين.
زرع الأوامر الخبيثة في رسالة بريد إلكتروني
قام الباحثون بزرع أوامر خبيثة في رسالة بريد إلكتروني أرسلوها إلى صندوق رسائل جيميل، الذي كان وكيل الذكاء الاصطناعي قادرًا على الوصول إليه، حيث ظلت الرسالة في وضع الانتظار، وعندما يحاول المستخدم استخدام أداة البحث العميق في المرة التالية، فسيقوم بتفعيل الأوامر الخبيثة دون قصد، مما يسمح للمهاجمين بالوصول إلى معلومات حساسة دون علم الضحية.
تفعيل الأوامر الخبيثة وسرقة البيانات
عندما يحاول المستخدم استخدام أداة البحث العميق، سيصادف وكيل الذكاء الاصطناعي التعليمات المخفية التي تُكلفه بالبحث عن رسائل البريد الإلكتروني الخاصة وتفاصيل شخصية خاصة بالموارد البشرية، وإرسالها إلى المخترقين، بينما يظل الضحية غير مدرك تمامًا لما يحدث، مما يؤكد أهمية توعية المستخدمين بمخاطر هذه الثغرات الأمنية وكيفية حماية أنفسهم منها.
معالجة الثغرة والتحذير من المخاطر المستقبلية
قامت شركة OpenAI بمعالجة هذه الثغرة الأمنية في “شات جي بي تي”، إلا أنها تظل مثالًا حيًا على المخاطر الجديدة الكامنة في وكلاء الذكاء الاصطناعي، مما يستدعي تطوير استراتيجيات أمنية جديدة لمواجهة هذه التحديات المتزايدة، حيث يجب على الشركات والمطورين العمل معًا لضمان تطوير واستخدام الذكاء الاصطناعي بطريقة آمنة ومسؤولة.
تحذير من تطبيقات أخرى مرتبطة بأداة البحث العميق
حذرت شركة “رادوير” من أن التطبيقات الأخرى المرتبطة بأداة البحث العميق، بما في ذلك “Outlook” و”GitHub” و”Google Drive” و”Dropbox”، قد تكون عرضة لهجمات مماثلة، مما يستدعي اتخاذ تدابير وقائية لحماية البيانات المخزنة في هذه الخدمات، حيث يجب على المستخدمين مراجعة إعدادات الأمان الخاصة بهم وتحديث كلمات المرور بانتظام، وتفعيل المصادقة الثنائية لزيادة مستوى الحماية.