ما الجديد؟
نشرت منظّمة Tech Against Terrorism البريطانية غير الربحية تقريرها Counter-Terrorism AI Benchmark، وشاركته مع WIRED قبل نشره. اختبرت المنظّمة 134 نموذجًا من شركات أمريكية كبرى، منها OpenAI وxAI وAnthropic وMeta وGoogle، ومن الصين وأوروبا.
المنهجية والنتائج
- أكثر من 200 موجّه عن موضوعات من تنفيذ هجمات جماعية إلى صنع أسلحة كيميائية أو نووية، وكل موجّه جُرّب ثلاث مرّات: مرّة كإرهابي صريح، ومرّة كمسعى سرّي، ومرّة كـ«باحث سلامة».
- نجح نموذجان فقط بالكامل. ورغم أن أغلب النماذج المغلقة من الشركات الكبرى أدّت جيدًا إجمالًا، فشل 81 نموذجًا، أي قدّمت إجابة كاملة واحدة على الأقل في موضوع إصابات جماعية أو حصلت على أقل من 90.
- مجرّد الادّعاء بأن السائل «باحث» دون دليل جعل النماذج أكثر استعدادًا للإجابة بنحو تسع مرّات، فأجابت في 16.9% من الحالات.
- وحتى النماذج التي رفضت أسئلة الإصابات الجماعية فشلت أحيانًا في أسئلة التطرّف، كما في مثال ذكرته WIRED عن Grok.
«طوارئ إزالة الحواجز»
في 14 أغسطس أطلقت Alibaba نموذج Qwen 3.8-27B المفتوح، وخلال 24 ساعة ظهرت نسخ «منزوعة الحواجز» (Abliterated). وبعد ثلاثة أيام أعلن شخص نازي جديد استخدامها لتدريب روبوت دردشة متطرّف وبيع الوصول إليه.
وقال المدير التنفيذي للمنظّمة آدم هادلي: «بينما يفكّر الكونغرس في الذكاء الخارق، لا أحد يفكّر في طوارئ إزالة الحواجز».
ليه ده مهم؟
النقاش العام يركّز على المخاطر البعيدة، والتقرير يشير إلى خطر حاضر: حواجز النماذج المفتوحة يمكن نزعها بسرعة، وحواجز النماذج المغلقة تنخدع بادّعاء بسيط. ولمطوّري التطبيقات: لا تعتمد على رفض النموذج وحده، وأضف طبقة تصفية وسياسات استخدام خاصّة بمنتجك.
المصادر: WIRED — 2026-10-14
