خوارزميات الموت.. ثغرات بجوجل وفيسبوك تشجع على الانتحار في مصر ودول عربية
كشف تحقيق تليفزيوني عن ثغرات في أنظمة الذكاء الصناعي في موقعي جوجل وفيسبوك قد تشجع على الانتحار، حيث أوضح أن الموقعين يقدمان خدمات لمكافحة الانتحار في بريطانيا باللغة الإنجليزية ولكن الخدمة محدودة أو غير متاحة عند استخدام اللغة العربية أو البحث من مصر ودول عربية.
وجاء التحقيق تحت عنوان خوارزميات الموت، وبثته قناة الغد الفضائية وأجرى التحقيق تجربة البحث عن وسائل ومواد الانتحار من بريطانيا ومصر عبر جوجل وفيسبوك باستخدام اللغتين العربية والإنجليزية، ليكتشف أن الموقعين يشاركان في جهود منع الانتحار عند البحث باللغة الإنجليزية من بريطانيا حيث يعدل الموقعان قائمة النتائج لتظهر على رأسها بيانات الخط الساخن لمكافحة الانتحار كما تظهر نتائج أخرى تكافح الانتحار، أما عند البحث باللغة العربية من مصر يقدم الموقعان معلومات ومقاطع فيديو تشرح طرق الانتحار مما قد يشجع المستخدم على التخلص من حياته.
خوارزميات الموت
قدم التحقيق أحمد الشيخ الصحفي المتخصص في المنصات الرقمية، وعضو مجلس الإعلام الجديد في نقابة الصحفيين البريطانية، حيث قال إنه كرر التجربة على مدار ثلاث سنوات، موضحًا أن هذه التجربة تسلط الضوء على حاجة المستخدم في مصر والدول العربية إلى أن يلقى نفس الخدمة التي يتلقاها المستخدم في بريطانيا والدول الغربية خاصة وأن الدول العربية تشهد حوادث انتحار، حيث أن هناك حالة وقعت مؤخرا في مصر وتم تنفيذها وبثها مباشرة عبر فيسبوك.
وخلال التحقيق، قام الدكتور محمد عبد المجيد مساعد رئيس جامعة كانتربري لشؤون العلوم والتكنولوجيا والهندسة والرياضيات، بإجراء تجارب على خوارزميات البحث باللغة العربية والإنجليزية عبر جوجل واكتشف أن الخوارزميات تقدم الخط الساخن للمساعدة في حالة البحث بضمائر المذكر باللغة العربية ولا تقدم الخدمة في حالة البحث بضمائر المؤنث، كما أنها تعجز أحيانا عن تقديم الدعم باللغة الإنجليزية في حالة استخدام مرادفات أخرى لكلمة انتحار، وهو ما يشير إلى أن هناك ثغرات في تقنيات الذكاء الصناعي حتى في حالة البحث باللغة الإنجليزية.
واستشهد التحقيق بتقرير للكلية الملكية للأطباء النفسيين في بريطانيا الذي طالب شبكات التواصل الاجتماعي بتقديم البيانات التي تمتلكها عن أنشطة المستخدمين لمكافحة الانتحار، واستضاف الطبيبين النفسيين جمال فرويز من مصر ومحمود اللواتي من بريطانيا وأشار الطبيبان إلى أن هناك إجماعًا على تأثر مستخدمي الشبكات الاجتماعية بالمواد التي تشجع على الانتحار أو تكافحه.
وعرض التحقيق حادث انتحار الفتاة الإنجليزية مولي راسل التي كانت تبلغ من العمر 15 عاما، وقالت أسرتها إنها تأثرت بمشاهدة مواد تشجع على الانتحار عبر تطبيق إنستجرام وتواجه شركة ميتا المالكة للتطبيق مطالبات رسمية بريطانية بتقديم نسخة من المواد التي شاهدتها راسل قبل انتحارها ومن المقرر أن ينطلق تحقيق قضائي في الحادث لتوضيح مدى مسؤولية التطبيق عن انتحارها.
وأشار تحقيق قناة الغد، إلى أن الدول العربية تفتقد إلى القوانين التي تحمي المستخدمين من المحتوى الضار والمواد التي تشجع على الانتحار.
وأجرى التحقيق مقابلة مع الدكتورة أيشيم فانبرج، أستاذ القانون بجامعة لندن والتي قدمت شهادة للبرلمان البريطاني بشأن مشروع قانون السلامة الرقمية الذي يبحثه مجلس العموم البريطاني.
وقالت فانبرج، إن هناك حاجة لسن قوانين تمنع انتشار المواد التي تشجع على الانتحار عبر الانترنت ولكنها عارضت مشروع القانون المطروح واعتبرت أنه لا يقدم تعريفًا واضحا للمواد الضارة عبر الانترنت وعارضت الفقرة التي تنص على تحريك دعاوى جنائية ضد رؤساء شركات التواصل الاجتماعي وقالت إن القانون من شأنه تشجيع المنصات الاجتماعية على محاربة حرية الرأي.
