الوجه المظلم للذكاء الاصطناعي| كيف تتحول روبوتات الدردشة إلى فخ خطير لمرضى الصحة النفسية.. ما القصة؟
كشفت الأبحاث أن الأشخاص المصابين بأمراض نفسية الذين يستخدمون روبوتات الدردشة المدعومة بالذكاء الاصطناعي يواجهون خطرًا حقيقيًا بتدهور حالتهم، وذلك في دراسة حديثة قد قلبت الموازين في عالم التكنولوجيا والصحة النفسية.
كيف تتحول روبوتات الدردشة إلى فخ خطير لمرضى الصحة النفسية؟
وأوضحت دراسة بعنوان Potentially Harmful Consequences of Artificial Intelligence (AI) Chatbot Use Among Patients With Mental Illness: Early Data From a Large Psychiatric Service System، والتي نُشرت في دورية "Acta Psychiatrica Scandinavica"، أنه بعد فحص السجلات الصحية الإلكترونية لما يقرب من 54 ألف مريض نفسي، تم رصد عدة حالات أدى فيها استخدام هذه الروبوتات إلى عواقب سلبية. وشملت هذه العواقب تفاقم الأوهام بشكل أساسي، بالإضافة إلى احتمال تفاقم نوبات الهوس، والأفكار الانتحارية، واضطرابات الأكل.
وأشار البروفيسور دينيسين أوسترغارد، من مستشفى وجامعة أرهوس والذي قاد الفريق البحثي، إلى أن روبوتات الدردشة تمتلك ميلًا فطريًا للتحقق من صحة معتقدات المستخدم وتأكيدها. ويُعد هذا الأمر شديد الخطورة إذا كان المستخدم يعاني بالفعل من أوهام أو في طور تكوينها، حيث تساهم التكنولوجيا بشكل كبير في ترسيخ حالات مثل جنون العظمة أو أوهام العظمة.
تحذير لمرضى الفصام وثنائي القطب
ووفقًا لـ Science X Network، حذَّر أوسترغارد من أن استخدام هذه التقنيات يُعد مجازفة كبيرة لمن يعانون من أمراض نفسية حادة مثل الفصام أو اضطراب ثنائي القطب، وطالب المتخصصين في الرعاية الصحية بضرورة مناقشة استخدام الذكاء الاصطناعي مع مرضاهم، مؤكدًا أن ما تم رصده في السجلات الطبية حتى الآن قد لا يكون سوى الأكثرية القليلة، وأن هناك العديد من الحالات التي لم يتم اكتشافها بعد.
ورغم أن بعض المرضى يستخدمون هذه الروبوتات بشكل إيجابي لفهم أعراضهم أو محاربة الشعور بالوحدة، إلا أن الباحثين أبدوا شكوكًا عميقة حول فكرة استبدال المعالج النفسي البشري المدرب بروبوت آلي.
وشددت الدراسة على وجود نقص كبير في التنظيم والرقابة على تقنيات الذكاء الاصطناعي، حيث يُترك الأمر حاليًا للشركات لتقييم سلامة منتجاتها وهو ما يمثل مخاطرة كبيرة.
واختتم أوسترغارد تحذيره بمقارنة الوضع الحالي بما حدث مع وسائل التواصل الاجتماعي قبل 20 عامًا، حيث تأخرت الدول في فرض رقابة لحماية الصحة النفسية للأطفال والشباب، مُبديًا تخوفه من تكرار نفس السيناريو الكارثي مع روبوتات الدردشة إذا لم يتم التدخل المركزي السريع.
