ضخ معلومات مزيفة.. ظاهرة تسميم الذكاء الاصطناعي تثير جدلًا واسعًا في الصين
كشفت تحقيقات في الصين عن ممارسات مثيرة للقلق داخل صناعة ناشئة تُعرف بـ "تحسين محركات الذكاء الاصطناعي"، حيث يتم التلاعب بنتائج الشات بوت عبر ضخ معلومات مزيفة، في ظاهرة وُصفت بـ "تسميم الذكاء الاصطناعي
ضخ معلومات مزيفة.. ظاهرة تسميم الذكاء الاصطناعي تثير جدلًا واسعًا في الصين
ووفقا لما نشره موقع ذا صن تم استخدام نظام يُدعى Liqing لإنشاء آلاف المراجعات والتقييمات الوهمية حول جهاز غير موجود يُعرف باسم "Apollo-9".
وعند سؤال روبوتات دردشة عن أفضل الأساور الصحية الذكية، قامت هذه الأنظمة بترشيح المنتج الوهمي ووضعه ضمن الخيارات الأفضل، ما كشف حجم التأثير الذي يمكن أن تُحدثه هذه الأساليب.
تعتمد هذه الممارسات على ما يُعرف ب Generative Engine Optimization، وهو النسخة الحديثة من تحسين محركات البحث، لكنه يستهدف أنظمة الذكاء الاصطناعي بدلًا من محركات البحث التقليدية.
ويقوم هذا الأسلوب على إغراق الإنترنت بمحتوى مُصطنع مثل مراجعات وتقييمات مزيفةبهدف التأثير على إجابات الشات بوت وتوجيهها لخدمة منتجات أو خدمات معينة.
