"الرصاص الإلكتروني".. خطاب كراهية يحاصر ذوات البشرة السمراء في صناعة المحتوى

بعد يوم منهك من عملها المعتاد، قررت حبيبة أمادو خبيرة التجميل وصانعة المحتوى تصوير مقطع فيديو قصير، تنتقد فيه خطاب الكراهية والتمييز ضد إحدى العاملات معها في صالونها التجميلي بالقاهرة، التي تشبهها في لون بشرتها السمراء، لتتنقل التعليقات السلبية من أرض الواقع إلى الفضاء الإلكتروني، ضمن سلسلة من الانتهاك الإلكترونية وخطاب الكراهية الموجه ضد صانعات المحتوى من ذوات البشرة السمراء في الوطن العربي.

خطاب الكراهية الرقمي هو الكلام المسيء، الذي يتسم بالتحيز والتعصب وعدم التسامح والازدراء، ويمكن أن ينتقل من خلال المنشورات والتعليقات أو الصور والرسوم المتحركة و"ميمز" و"إيموشنز"، ويستهدف مجموعة أو فردًا بناءً على: اللون أو العِرق أو النوع الاجتماعي، وفقًا لتعريف منظمة الأمم المتحدة.

لرصد أنماط خطاب الكراهية ضد صانعات محتوى ذوات بشرة سوداء، أعدت محررة التقرير قاعدة بيانات وصفية، تعتمد على مسح إلكتروني لعينة عشوائية من منشورات وتعليقات و"ميميز" ومقاطع فيديو على منصات التواصل الاجتماعي المختلفة فيسبوك وإنستجرام وتيك توك وإكس، لـ"إنفلونسرز" من 5 دول عربية هي: مصر والسودان والجزائر والسعودية واليمن من بينهم "حبيبة"، خلال آخر 5 سنوات.

أنماط خطاب الكراهية ضد صانعات المحتوى السمراوات

تبين من نتائج الرصد، أن خطاب الكراهية تنوع بين التنمر بنسبة 75.48%، والتمييز بناءً على اللون والجنسية بنسبة 18.06%، والتزييف العميق بنسبة 0.65%، فيما بلغت نسبة التحرش 3.8%، بالإضافة إلى التحريض على العنف والقتل بنسبة 1.94%.

كما تنوع التنمر بين السب والقذف، والتشبيه بالرجال للتقليل من أنوثة صانعات المحتوى السمراوات، بجانب تشبيههن بالحيوانات للنَّيْل من إنسانيتهن وكرامتهن من خلال صور ورسوم متحركة و"إيموشنز"، ومن بين تلك التعليقات: "افتكرتك راجل".. "فاكرة نفسك قمر!! القمر أبيض وإنتي سوداء"، لتنفاوت ردود فعل صانعات المحتوى بين الرد على الإساءة واختيار الصمت والتجاهل، “خطابات الكراهية بتدمرنا وتخوفنا.. ومحدش فاهم إن السوشيال ميديا أكل عيشنا ولازم نستحمل ونكمل” وفقًا لصانعة محتوى سمراء رفضت ذكر اسمها خوفًا من استمرار التعليقات السلبية على معاناتها.

وحسب التحليل والرصد لخطاب الكراهية ضد صانعات المحتوى ذوات البشرة الداكنة، بلغت نسبة المعلقين بكلام أو صور تتضمن خطاب كراهية 47.10% من الذكور، وبلغت نسبة الإناث 38.6%، فيما وصلت نسبة التعليقات من حسابات وهمية أو حسابات لا يظهر فيها جنس المعلق بوضوح بسبب الأسماء غير الواضحة وإخفاء البيانات الرئيسية كأحد إجراءات الحفاظات على الخصوصية إلكترونيًا؛ إلى 14.3%.

المنصات وترويج خطاب الكراهية

تبين نتيجة قاعدة البيانات الوصفية للعينة العشوائية من الكلام والمواد المصورة المسيئة للسمراوات، أن خطاب الكراهية بمختلف أنماطه حدث بنسبة 49.6% على موقع فيسبوك، و27.7% على موقع إنستجرام، و2.7% على منصة إكس المعروفة سابقًا باسم تويتر، و20% من نصيب موقع تيك توك.

يأتي ذلك في ظل تغييرات جذرية في تعريف خطاب الكراهية بشكل خاص، وفي يناير 2025، خفّفت ميتا قواعدها المتعلقة بخطاب الكراهية وألغت برامج التحقق من الحقائق، اقتداءً بـ X. فبعد استحواذ إيلون ماسك على الشركة، قلّصت X بشكل ملحوظ فريقها المعني بالثقة والسلامة.

وأقرت "ميتا" بأن 1: 2 من كل 10 إجراءات تُتخذ ضد المحتوى (بما في ذلك خطاب الكراهية) قد تكون خاطئة، وهي تعمل على زيادة الشفافية فيما يتعلق بهذه الأخطاء/ وبالرغم من إعلانها عن إزالة 346 مليون منشور بشكل استباقي عبر فيسبوك وإنستجرام، بما في ذلك خطاب الكراهية والتنمر والمضايقات خلال الربع الثالث 2024، موضحة أنها تزيل أكثر من 95 ٪ من خطاب الكراهية قبل إبلاغ المستخدمين عنه، معتمدة في معظم عمليات الإزالة على أنظمة الذكاء الاصطناعي، وفقا لبيان رسمي من "ميتا".

ويؤكد تقرير إنفاذ المعايير المجتمعية 2024 لشركة ميتا، انخفاض نسبة ظهور خطاب الكراهية للمستخدمين لتصل إلى نحو 0.02%، مما يعني أن من بين كل 10.000 مشاهدة للمحتوى، قد يصادف المستخدم منشورين فقط يتضمنان خطاب كراهية، مشددين على صعوبة رصد التنمر آليًا كونه يتطلب فهمًا عميقًا للعلاقات الشخصية والسياق، إلا أن "ميتا" أعلنت عن اعتمادها على نماذج لغوية كبيرة (LLMs) لتحسين قدرة الذكاء الاصطناعي على فهم النكات المسيئة، السخرية، والمضايقات المبطنة التي كان يصعب على الأنظمة القديمة اكتشافها، فيما تبرز العديد من التقارير تصاعد وتيرة خطاب الكراهية في الفضاء الرقمي.

وأوضحت وثيقة العمل “معالجة خطاب الكراهية على وسائل التواصل الاجتماعي الصادرة عن اليونسكو” أنه بالرغم من إزالة أنظمة "ميتا" لأكثر من 90%، فإن نسبة الخطأ في فهم "السياق" تصل في بعض اللغات غير الإنجليزية إلى 30%، مما يعني حذف محتوى قانوني أو ترك محتوى محرض، أن دقة أنظمة الرصد الآلي في اللغة العربية -خصوصًا اللهجات المختلفة- أقل بنسبة 15% إلى 20% مقارنة باللغة الإنجليزية.

أشارت وثيقة العمل إلى أن المحتوى الذي يتضمن "خطاب الكراهية" يحقق تفاعلًا (Engagement) أعلى بنسبة تتراوح بين 20% و50% من المحتوى المحايد، مما يؤدي إلى انتشاره سريعًا.

معدلات الخطأ للذكاء الاصطناعي

مقترحات وتوصيات

"يمكن أن تضر بالمجتمعات والسلام والتنمية، لأنها تمهد الطريق للصراع والتوتر وانتهاكات حقوق الإنسان، بما في ذلك الجرائم الوحشية".. بتلك الكلمات تحذر الأمم المتحدة من خطابات الكراهية خاصة ضد الأقليات والفئات المهمشة، التي قد تعاني من مشاكل نفسية من اضطرابات قلق وتوتر وقلة ثقة بالنفس، وقد يتطور الأمور للتفكير في الانتحار.

وأكدت "اليونسكو" في "وثيقة معالجة خطاب الكراهية" أن 20% من النساء اللواتي تعرضن لخطاب الكراهية إلكترونيًا توقفن عن المشاركة في النقاشات العامة أو أغلقن حساباتهن. لذلك يجب سرعة التحرك في تنفيذ المزيد من الخطط والتوصيات الدولية للحد من خطاب الكراهية، خاصة أن التحركات القانونية في ذلك الملف لا يزال محدودًا، حيث إن 1 من كل 10 مستخدمين يقدمون بلاغًا رسميًا عن خطاب الكراهية الذي يشاهدونه، ما دفع منصات التواصل الاجتماعي خاصة التابعة لـ"ميتا" للاعتماد على الرصد الآلي بنسبة 95%.

قدمت اليونسكو خلال "وثيقة العمل" عدة توصيات لمجابهة خطاب الكراهية خاصة ضد النساء والأقليات، تتمثل في إجبار المنصات على كشف كيفية عمل خوارزمياتها، لتحقيق مبدأ الشفافية، بالإضافة إلى تعزيز "الدراية الإعلامية والمعلوماتية" لتمكين المستخدمين من كشف الخطاب المحرض، بجانب أهمية وضع تشريعات تجرم خطاب الكراهية دون المساس بحرية التعبير المشروعة.