حذر خبراء التكنولوجيا من تصاعد ظاهرة تسمم نماذج الذكاء الاصطناعي الكبيرة، حيث يمكن أن تؤدي هذه الظاهرة إلى انهيار كاملتــــها، وتحدث هذه المشكلة عندما تقوم النماذج اللغوية بالتدريب على محتوى غير موثوق تم إنشاؤه سابقًا بواسطة أنظمة ذكاء اصطناعي أخرى، مما يخلق حلقة مفرغة من البيانات الرديئة، وتؤدي إلى تكبير الأخطاء الواقعية، والتحيزات، والهلوسات الرقمية، الأمر الذي يمكن أن يتسبب في نتائج كارثية على نطاق واسع في صناعة التقنية.
تأثير التسمم الرقمي على نماذج الذكاء الاصطناعي
وفقًا لتقرير نشره موقع “أقرأ نيوز 24″، أكدت مؤسسة “جارتنر” للأبحاث أن أنظمة الذكاء الاصطناعي في المؤسسات تواجه حاليًا تدفقًا هائلًا من المحتوى الآلي غير المتحقق منه، حيث نقل الموقع عن المحللين قولهم إن هذه المدخلات المعيبة تنتشر كعدوى عبر مسارات العمل الآلية وأنظمة اتخاذ القرار، مما يؤدي إلى نتائج أسوأ بكثير مما يُتوقع، ويستدعي ذلك من الشركات تبني إجراءات صارمة لتنقية البيانات وحمايتها بشكل عاجل.
عقبات استراتيجية مع تزايد الاعتماد على الذكاء الاصطناعي
يمثل هذا التحدي الفني عائقًا رئيسيًا أمام مستقبل الذكاء الاصطناعي الموثوق، خاصة مع تزايد استخدامه في القطاعات الحيوية مثل الرعاية الصحية، والخدمات المالية، والأمن السيبراني، ولتجنب التدهور الشامل، أصبح من الضروري تطبيق مبادئ “الثقة المعدومة” على حوكمة البيانات، وهو مفهوم كان يُستخدم سابقًا لحماية الشبكات، ويُعاد توجيهه حالياً للتركيز على دقة وأصالة كل معلومة تُدرج في تدريب النماذج، لضمان سلامتها وصلاحيتها للاستخدام البشري.
دورة التدهور الذاتي وتأثيرها على نماذج الذكاء الاصطناعي
يؤدي التدريب المستمر على بيانات اصطناعية إلى فقدان النماذج لقدرتها على فهم الواقع البشري، مما يجعل إجاباتها غير منطقية، ومضللة تمامًا، وأصبحت حوكمة البيانات الصارمة، والتحقق من مصادرها، وتنقيتها، ضرورة أساسية لضمان عمل النماذج الذكية بكفاءة عالية، وموثوقية مستمرة.
