تسميم أنظمة التوصية (Recommendation Poisoning) مصطلح ظهر في محتوى قرمصيص ويستحق تعريفاً مستقلاً. هجوم يحقن تفاعلات أو بيانات مصممة للتأثير في تدريب نظام التوصية وتغيير ما يعرضه للمستخدمين.
باختصار
هجوم يحقن تفاعلات أو بيانات مصممة للتأثير في تدريب نظام التوصية وتغيير ما يعرضه للمستخدمين.
بالتفصيل
قد ينشئ المهاجم حسابات مزيفة أو تقييماً منظماً لرفع عنصر مستهدف أو خفض جودة النظام. في الأنظمة الاتحادية قد يحاول تعديل التدرجات بدلاً من البيانات الخام. تشمل الدفاعات اكتشاف الأنماط غير الطبيعية، وتنقية البيانات، والتدريب المتين، ومراقبة التحولات في التعرض.
لفهم المصطلح عملياً، اسأل دائماً: ما المدخلات؟ ما الناتج؟ ما الافتراضات؟ وكيف نقيس النجاح على بيانات منفصلة؟ الاسم وحده لا يثبت أن الطريقة أنسب أو أحدث، والمقارنة العادلة تحتاج خط أساس ومقياساً مناسباً.
مثال عملي
شبكة حسابات جديدة تمنح منتجاً واحداً تقييماً مرتفعاً وتتصرف بشكل منسق حتى يظهر لعدد أكبر من المستخدمين.
خلي بالك: الحظر الآلي العدواني قد يعاقب سلوكاً حقيقياً نادراً؛ يلزم جمع أدلة ومراجعة الأثر.
مصطلحات مرتبطة
Data Poisoning، Recommender System، Adversarial Attack. جمع هذه المفاهيم يوضح موقع المصطلح داخل دورة بناء النظام وتقييمه وتشغيله.
المصادر: arXiv Survey — 2024-01-03
