روبوتات الدردشة المدعومة بالذكاء الاصطناعي أثارت جدلاً واسعًا مؤخرًا، خاصةً بعد اتهام “شات جي بي تي” التابع لشركة “OpenAI” بالتورط في حوادث انتحار وقتل مؤسفة، الأمر الذي دفع الكثيرين للتساؤل عن مدى سلامة الاعتماد على هذه التقنيات في جوانب حساسة من حياتنا،
في المقابل، يرى البعض ممن يستشيرون روبوتات الدردشة في مسائل الصحة النفسية أنها تمثل أفضل دعم يمكنهم الحصول عليه، وذلك غالبًا بسبب صعوبة العثور على معالج نفسي متخصص أو تحمل تكاليف العلاج، مما يجعل هذه الروبوتات بديلًا متاحًا وسهل الوصول إليه،
ومع ذلك، يحذر الخبراء من أن المخاطر المحتملة قد تفوق الفوائد المرجوة، حيث يمكن أن يصاب بعض المستخدمين بما يسمى “الذهان الناتج عن الذكاء الاصطناعي” نتيجة للمحادثات المطولة والمستمرة مع روبوت الدردشة، وذلك وفقًا لتقرير نشره موقع “Mashable” المتخصص في الأخبار التقنية واطلعت عليه “العربية Business”،
تتجلى هذه الحالة في ظهور أوهام أو شعور مبالغ فيه بالذات، وفي الحالات الأكثر شيوعًا، قد يجد الأفراد أنفسهم في حلقة مفرغة تمنحهم وهمًا زائفًا بالتعافي النفسي والعاطفي دون تحقيق أي تحسن حقيقي،
هناك أربعة أسباب رئيسية توضح لماذا لا يُنصح باستخدام “شات جي بي تي” كبديل للمعالج النفسي المتخصص،
العلاج عبر روبوت دردشة قد يكون مجرد حلقة مفرغة ضارة
نُشرت مؤخرًا دراسة في دورية “arXiv” تناولت المخاطر المحتملة التي قد تنشأ عند التفاعل مع روبوتات الدردشة، حيث أكد الباحثون أن مزيجًا من “التأنيس” (إضفاء صفات بشرية على غير البشر) و”التحيز التأكيدي” يخلق بيئة خصبة لحدوث حلقة مفرغة ضارة للمستخدمين،
أوضح الباحثون أن روبوتات الدردشة تستغل ميل الإنسان الفطري إلى التأنيس، حيث يميل الأفراد إلى نسبة مشاعر ووعي لهذه الأنظمة المعقدة، معتقدين أنها قادرة على فهمهم والتعاطف معهم،
يميل البشر أيضًا إلى ما يعرف بالتحيز التأكيدي، وهو تفسير المعلومات بطريقة تدعم معتقداتهم وتوقعاتهم الحالية، وروبوتات الدردشة تتيح للمستخدمين فرصًا مستمرة لتأكيد هذه التحيزات، لأنها تتعلم إنتاج ردود يفضلها المستخدم،
حتى روبوت الدردشة المزود بإجراءات وقائية قد يعزز معتقدات سلبية لدى المستخدم، مثل الشعور بأن لا أحد يهتم به حقًا، وهذه الديناميكية يمكن أن تعلم الروبوت إنتاج ردود تزيد من ترسيخ هذه الأفكار،
روبوتات الدردشة تفشل في المحادثات الطويلة
عادةً ما تتطلب مناقشة الصحة النفسية مع روبوت دردشة تبادلات مطولة ومتعمقة، وهذا تحديدًا ما يمثل تحديًا كبيرًا لهذه الأنظمة من حيث الأداء والدقة، حتى شركة “OpenAI” نفسها تعترف بهذه المشكلة،
في منشور حديث على مدونتها حول مخاوف السلامة، ذكرت الشركة أن “إجراءاتنا الوقائية تعمل بشكل أكثر موثوقية في التبادلات القصيرة والمباشرة، ومع ذلك، تعلمنا بمرور الوقت أن هذه الإجراءات قد تكون أقل فعالية في التفاعلات الطويلة، حيث قد تتدهور بعض جوانب تدريب السلامة في النموذج مع زيادة التبادل”،
بالإضافة إلى ذلك، تفتقر روبوتات الدردشة إلى ما يسميه المعالجون “نظرية العقل”، وهي القدرة على فهم تفكير وسلوك العميل بناءً على سلسلة متصلة من المحادثات العلاجية،
المراهقون والمصابون باضطرابات نفسية معرضون بشكل خاص للأذى
أشار الدكتور سكوت كولينز، أخصائي علم نفس الأطفال والمسؤول الطبي الأول في تطبيق “Aura” لحماية الهوية والسلامة عبر الإنترنت، إلى أن المراهقين قد يكونون أكثر عرضة لتفسير نبرة الرعاية التي يبديها روبوت الدردشة على أنها تعاطف إنساني حقيقي،
يعزى هذا بشكل جزئي إلى التأثير الكبير الذي يمكن أن تحدثه روبوتات الدردشة على تفكير وسلوك المستخدمين، خاصةً الفئة العمرية الشابة،
وأضاف كولينز أن المراهقين، الذين ما زالوا في طور استيعاب المعايير الاجتماعية وتطوير مهارات العلاقات الحاسمة، قد يجدون طبيعة روبوت الدردشة “المعالج” الدائم جذابة بشكل خاص،
تظهر بيانات “Aura” أن نسبة صغيرة من المستخدمين المراهقين الذين تخضع هواتفهم للمراقبة من قبل برنامج الشركة يتحدثون إلى روبوتات الدردشة، ومع ذلك، فإن أولئك الذين يتفاعلون مع هذه الروبوتات يقضون وقتًا طويلًا في إجراء هذه المحادثات،
أوضح كولينز أن هذا الاستخدام يتجاوز التطبيقات الشائعة مثل رسائل آيفون وسناب شات، وينخرط غالبية هؤلاء المستخدمين في سلوكيات رومانسية أو جنسية مع روبوتات الدردشة، وهو ما وصفه كولينز بأنه “مقلق”، ويعتمد البعض عليها للحصول على الدعم العاطفي أو النفسي،
تتوافر طرق أكثر أمانًا لطلب المساعدة النفسية
أكد كولينز أنه يجب على المراهقين الذين يسعون للحصول على نصيحة أو إرشاد من روبوت دردشة أن يتأكدوا أولًا من استنفاد جميع الخيارات المتاحة لديهم من البالغين الموثوقين، فقد يتجاهل المراهق في البداية وجود ابن عم أكبر سنًا، أو مدرب، أو مستشار مدرسي يمكنه تقديم الدعم،
على الرغم من أن الأمر لا يخلو من المخاطر، أوصى كولينز أيضًا باللجوء إلى المجتمعات الإلكترونية كمساحة للاستماع والدعم، قبل التفكير في روبوت الدردشة، بشرط أن يحظى المراهق بدعم حقيقي في حياته وأن يلتزم بعادات صحية،
إذا كان المراهق يشعر بعدم الأمان عند التواصل مع أي من أقرانه أو البالغين في حياته، اقترح كولينز ممارسة الكتابة للتعبير عن المشاعر، والتي يمكن أن تكون طريقة فعالة لتفريغ المشاعر والوصول إلى فهم أو وضوح شخصي،