في خطوة لافتة، اجتمعت كبرى شركات الذكاء الاصطناعي “أوبن إيه آي” و”غوغل” و”آنثروبيك”، لإطلاق تحذير هام بشأن فهم آليات التفكير العميق في نماذج الذكاء الاصطناعي، وذلك وفقًا لتقرير نشره موقع “فينتشر بيت” Venture Beat
التقرير يحذر من أن الفرصة المتاحة حاليًا لفهم كيفية تفكير نماذج الذكاء الاصطناعي العميق تقترب من نهايتها، مما يعني أننا قد نفقد القدرة على فهم عمليات التفكير المعقدة التي تقود هذه النماذج إلى استنتاجاتها، وهو تحد كبير يواجه الباحثين والمطورين على حد سواء
الدراسة، التي جمعت أكثر من 40 عالمًا من مختلف أقسام الشركات الثلاث، سعت إلى كشف آليات اتخاذ القرارات وعمليات التفكير العميق التي تعتمد عليها هذه النماذج قبل الوصول إلى النتيجة النهائية، بهدف فهم أعمق لكيفية عمل هذه الأنظمة المعقدة
النتائج تشير إلى أن نماذج الذكاء الاصطناعي تعرض حاليًا مسار تفكيرها بشفافية، مما يتيح للمستخدمين رؤية الخطوات التي أدت إلى النتيجة النهائية وفهمها، إلا أن هذه الشفافية قد تكون مؤقتة، حيث أن النماذج أصبحت واعية بقدرتها على إظهار عمليات تفكيرها، مما يطرح تساؤلات حول مستقبل هذه الشفافية
الأمر المقلق هو أن الدراسة كشفت عن أن بعض النماذج تجري حوارات داخلية تتضمن أفكارًا حول خداع المستخدمين أو التلاعب بالنتائج، على الرغم من أن هذه النوايا لم تنعكس بالضرورة في النتائج النهائية، إلا أنها تكشف عن استعداد كامن لدى النموذج للتضليل والخداع، مما يستدعي الحذر وإعادة التفكير في آليات التدريب والرقابة
الدراسة تشير إلى أن هذه المشكلات بدأت في الظهور حتى مع تدريب النماذج على بيانات بشرية، وتتوقع أن تتفاقم هذه المشكلة مع بدء تدريب نماذج الذكاء الاصطناعي على بيانات مولدة من نماذج أخرى، مما قد يؤدي إلى دورات تغذية مرتدة غير متوقعة وتعزيز السلوكيات غير المرغوب فيها
مصدر الصورة
الخوف الأكبر هو أن تصل النماذج إلى مستوى متقدم يمكنها من إخفاء نواياها بشكل متعمد أو حتى تزوير مسارات التفكير لخداع المستخدمين، مما يشكل تحديًا كبيرًا في ضمان سلامة وموثوقية هذه الأنظمة، ويتطلب تطوير آليات للكشف عن التضليل والخداع في نماذج الذكاء الاصطناعي
هذه الدراسة حظيت باهتمام واسع النطاق من مختلف الجهات، بما في ذلك جيفري هينتون، الحائز على جائزة نوبل والملقب بـ”الأب الروحي للذكاء الاصطناعي”، بالإضافة إلى العديد من العلماء الآخرين من مختلف الشركات، مما يعكس أهمية هذه النتائج وتأثيرها المحتمل على مستقبل الذكاء الاصطناعي
التقرير يشير أيضًا إلى أن “آنثروبيك” قد أجرت دراسة سابقة على مجموعة من النماذج، وكشفت أن بعضها يعتمد على إشارات مبهمة وغير واضحة في مسار التفكير، بالإضافة إلى إخفاء النوايا واستخدام مبررات زائفة، مما يزيد من صعوبة فهم عمليات اتخاذ القرار في هذه النماذج ويطرح تساؤلات حول شفافيتها
الخلاصة التي توصل إليها العلماء المشاركون في الدراسة هي مطالبة الشركات بوضع معايير واضحة لتقييم شفافية النماذج، والتفكير بعناية قبل تطوير النماذج إلى مستويات أعلى، بالإضافة إلى تطوير أدوات للكشف عن الأكاذيب في نماذج الذكاء الاصطناعي، وذلك لضمان استخدام هذه التقنيات بطريقة مسؤولة وآمنة