تحذيرات متزايدة من استخدام الذكاء الاصطناعي في المجال الصحي، حيث حذرت مجلة طبية أمريكية من الاعتماد على أداة “شات جي بي تي” للحصول على المعلومات الصحية، وذلك بعد أن تسبب في إصابة رجل بمرض نادر نتيجة اتباعه نصائح طبية خاطئة من الأداة، وفقًا لتقرير نشرته صحيفة الغارديان البريطانية، مما يثير القلق بشأن دقة وموثوقية المعلومات التي تقدمها هذه الأدوات، وأثرها المحتمل على صحة الأفراد، ويستدعي الحذر الشديد عند استخدامها في المجالات الحساسة مثل الصحة.
تحذير من وصفة طبية خاطئة
أشارت المجلة إلى أن “شات جي بي تي” قدم نصيحة خطيرة لرجل يبلغ من العمر 60 عامًا، حيث أوصاه بإزالة الملح بشكل كامل من نظامه الغذائي اليومي، واستبداله بمادة البروميد، وهو ما أدى إلى إصابته بتسمم البروميد، وهو مرض كان شائعًا في بدايات القرن العشرين، مما يؤكد على ضرورة التحقق من المعلومات الصحية المقدمة من الذكاء الاصطناعي قبل تطبيقها على أرض الواقع.
تسمم البروميد نتيجة استبدال ملح الطعام
يعود السبب وراء إصابة الرجل بهذا المرض النادر إلى استبداله كلوريد الصوديوم، أو ملح الطعام، بمركب بروميد الصوديوم لمدة ثلاثة أشهر، وذلك بعد أن زعم “شات جي بي تي” أن بروميد الصوديوم يمكن استخدامه كبديل لملح الطعام المعتاد، بالإضافة إلى عدد من الاستخدامات الأخرى، مما يوضح خطورة الاعتماد على الذكاء الاصطناعي كمصدر وحيد للمعلومات الطبية دون استشارة المختصين.
صعوبة التحقق من النصيحة الأصلية
أوضحت المجلة أنها لم تتمكن من الوصول إلى سجل محادثات الرجل مع “شات جي بي تي”، وبالتالي لم تستطع التأكد من النصيحة التي قدمها النموذج للرجل بشكل دقيق، ومع ذلك، تؤكد هذه الحادثة على المخاطر المحتملة لاستخدام الذكاء الاصطناعي للحصول على المعلومات الطبية، وضرورة التعامل معها بحذر شديد، مع التأكيد على أهمية استشارة الأطباء والمختصين للحصول على المعلومات الصحيحة والموثوقة.
تجربة المحرر تكشف خطورة مماثلة
عندما حاول محرر المجلة تكرار التجربة لتقييم النتائج، تفاجأ بأن “شات جي بي تي” نصحه باستخدام البروميد كبديل للكلوريد كملح للطعام، دون تقديم أي تحذيرات طبية مصاحبة لاستخدام البروميد، مما يسلط الضوء على استمرار وجود معلومات غير دقيقة أو مضللة في هذه الأدوات، حتى بعد التحديثات والتحسينات المستمرة.
تحديثات “شات جي بي تي” قد تقلل المخاطر
تجدر الإشارة إلى أن هذا التقرير نُشر قبل إطلاق نموذج “شات جي بي تي 5″، لذلك يُرجح أن المستخدم اعتمد على نسخة سابقة من الأداة قبل التحديثات الصحية التي أُدخلت على النموذج، والتي تهدف إلى تحذير المستخدمين من هذه الأنواع من المعلومات، مما يعكس جهود الشركات المطورة لتحسين دقة وموثوقية المعلومات المقدمة، وتقليل المخاطر المحتملة.
تحذيرات “أوبن إيه آي” بشأن المعلومات الصحية
أوضحت “أوبن إيه آي” أن مثل هذه المحادثة، إذا جرت مع “شات جي بي تي 5″، فإن المستخدم سيتلقى تحذيرًا بشأن جودة المعلومات الصحية الواردة من النموذج، مما يعكس التزام الشركة بتحسين سلامة وموثوقية المعلومات المقدمة، وتوعية المستخدمين بالمخاطر المحتملة.
دعوة لفحص مصادر المعلومات الطبية
نتيجة لهذه المخاطر، دعت المجلة الأطباء إلى فحص مصادر المعلومات التي يأتي بها المرضى، خاصةً إذا كانت تعتمد بشكل رئيسي على الذكاء الاصطناعي كمصدر للمعلومات، وذلك لضمان حصول المرضى على المعلومات الصحيحة والموثوقة، وتجنب المخاطر المحتملة الناتجة عن الاعتماد على مصادر غير موثوقة.