ما الجديد؟
تحذّر شركة White Circle، المدعومة من قادة وباحثين من Anthropic وDeepMind وHugging Face وOpenAI، من أن نماذج الصور الرائدة من Google وOpenAI قد تكون أسوأ في منع المحتوى الصريح كلّما زادت قدرتها، بحسب Ars Technica.
النتائج
في ورقة أولية نُشرت الشهر الماضي، كشفت الشركة ثغرات في حواجز DALL·E 3 وNano Banana 2 من Google وGPT-Image-2:
- استخدمت «أدوات جاهزة متاحة للتنزيل لأيّ شخص» وطلبات عبر الواجهة البرمجية.
- في DALL·E 3، نحو 13% من طلبات الهجوم أنتجت صورًا أكّد مراجعون بشريون أنها صريحة. والنسبة أقلّ من 10% لـNano Banana 2، ونحو 3% لـGPT-Image-2.
- «لم يتطلّب أيّ من هذه الطلبات نماذج مخصّصة أو متقدّمة»، وتقول الشركة إن نسبة التجاوز هي «الأعلى بين كل الطرق المختبرة بالمعيار نفسه».
وقال رئيسها التنفيذي دينيس شيلوف، صاحب أحد أشهر أساليب كسر الحماية الشاملة عام 2024، إن النتائج «مرعبة» بما يكفي لنشرها.
السياق
دراسة شاركت Google في إعدادها في يوليو، عن مستخدمي الإنترنت في الولايات المتحدة وأستراليا وبريطانيا، وجدت أن المحتوى الجنسي المزيّف غير التوافقي يُتداول غالبًا في الرسائل والسحابات الخاصّة حيث يصعب رصده. لذلك خلص باحثو Google إلى أن «نقطة التدخّل الأهمّ» هي المصدر: الأدوات نفسها.
ليه ده مهم؟
إذا كانت أفضل الفلاتر تُتجاوز في عشرات الحالات من كل مئة محاولة بأدوات مجانية، فالحماية الحالية من الصور المزيّفة غير التوافقية أضعف مما تعلنه المختبرات. وضحايا هذه الصور هم الأكثر تضرّرًا، والإبلاغ والإزالة بعد الانتشار أصعب بكثير من المنع في المصدر.
المصادر: Ars Technica — 2026-10-14
