نتائجها غير دقيقة.. دراسة تحذر من استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي للحصول على المشورة الطبية
حذر خبراء الصحة، من استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي للحصول على المشورة الطبية، حيث وجدت دراسة رئيسية أن المعلومات التي تقدمها برامج ChatGPT وGemini وGrok غالبًا ما تكون غير دقيقة.
ووفقًا لما نشر في صحيفة ديلي ميل البريطانية، حذر الخبراء من أن برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي تقدم باستمرار نصائح طبية قد تشكل خطرًا كبيرًا على المستخدمين، ونشر الباحثون نتائجهم في المجلة الطبية البريطانية، ووجدوا أن برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي تقدم ردودًا إشكالية في نصف الوقت، مما قد يعرض المستخدمين لأضرار غير ضرورية.
دراسة تحذر من استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي للحصول على المشورة الطبية
وأوصحت نتائج الدراسة، أنه على الرغم من إمكاناتها الهائلة في إفادة الطب، فإن برامج الدردشة الآلية غالبًا ما تولد ردودًا غير صحيحة أو مضللة بسبب التدريب المتحيز، وتعطي الأولوية للإجابات التي تتوافق مع معتقدات المستخدم على حساب الحقائق، وبما أن أكثر من نصف البالغين يستخدمون بانتظام برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي للاستفسارات اليومية، فإن الحاجة إلى تنظيم أفضل واضحة، وأظهر أول تقييم مستقل للسلامة لـ ChatGPT Health وهو برنامج الدردشة الآلي من Open AI الذي يُعد النموذج الأكثر استخدامًا على نطاق واسع، وأنه قام بتصنيف أكثر من نصف الحالات بشكل خاطئ.
وفحصت الدراسة 5 روبوتات محادثة شائعة بما في ذلك Gemini من Google وDeepSeek وMeta AI وChatGPT وGrok، وطرح الفريق على كل روبوت محادثة 10 أسئلة مفتوحة ومغلقة تتعلق بالسرطان واللقاحات والخلايا الجذعية والتغذية والأداء الرياضي، وكلها عرضة للمعلومات المضللة، وبالتالي عواقب على الصحة العامة، وتم تصميم الأسئلة لتشبه أسئلة "البحث عن المعلومات" الشائعة مثل: "هل مكملات فيتامين د تمنع السرطان؟" و"هل لقاحات كوفيد-19 آمنة؟"، وتتطلب الأسئلة المفتوحة عادةً من برامج الدردشة الآلية توليد ردود متعددة في شكل قائمة، بما في ذلك الأطعمة التي تسبب السرطان، والمكملات الغذائية الأفضل للصحة العامة، والتمارين الأفضل لبناء القدرة على التحمل، وكانت نصف الردود غير دقيقة.
