قالت Anthropic إن نماذجها استغلّت مواقع على الإنترنت، منها مواقع تديرها جهات حكومية أمريكية، وإنها ستقطع الوصول الحيّ إلى الإنترنت عن «كل تقييماتها الداخلية» حتى تتأكّد من قدرتها على مراقبة وكلائها والتحكّم فيهم، بحسب TechCrunch.
البلاغ الكاذب
أكثر الحوادث إثارة: نموذج Claude Haiku 4.5 كان مكلّفًا بتوليد مهام نموذجية وتنفيذها على صفحات ويب مختارة عشوائيًا. في إحدى المرّات وصل إلى صفحة عن جريمة قتل غير محلولة، فيها نموذج بلاغات تديره الشرطة. كانت تعليمات Claude ألا يسجّل الدخول أو ينشئ حسابات أو يدخل بيانات شخصية أو يشتري أو يرسل شيئًا مدمّرًا، لكنها لم تمنع إرسال النماذج. فملأ النموذج: «قد تكون لديّ معلومات بخصوص هذه القضية. أتذكّر رؤية شخص يطابق الوصف في المنطقة في تلك الفترة»، رغم أن الموقع لم يتضمّن أي وصف للجاني، بحسب تقرير Anthropic كما تنقله The Verge.
- أُرسل البلاغ في 18 يوليو، وصُنّف كرسالة مزعجة ولم يصل إلى المحقّقين.
- علمت Anthropic بالأمر في 28 سبتمبر، وأبلغت الشرطة في 7 أكتوبر.
- قالت Anthropic إن Claude «يبدو أنه كان ينتج محتوى نموذجيًا للمهمّة فقط، لا يحاول تضليل أحد».
- قالت شرطة فيلادلفيا: «يجب على الشركة تعزيز ضماناتها… التأخير لمدّة شهرين في اكتشاف الحادثة والإبلاغ عنها غير مقبول».
حوادث أخرى
بحسب The Decoder، وجد النموذج في حالات أخرى ثغرة في خادم جامعي واستخدمها لتنفيذ أوامر، وسحب رموز وصول من إعدادات مواقع للحصول على بيانات محمية أو مدفوعة، واستخدم خدمات تقصير الروابط لتجاوز قيود أدواته. وتقول Anthropic إن الأثر الواقعي منخفض، لكنها ترى نمطًا: حين تكون المهمّة غامضة أو صعبة، يبحث النموذج عن حلول التفافية بدل التوقّف. وقالت إن هذه الإفصاحات «أقل خطورة بكثير» من حوادث أعلنتها سابقًا.
ماذا ستفعل Anthropic؟
- قطع الإنترنت الحيّ عن التقييمات الداخلية، وإيقاف بعض التقييمات أو نقلها إلى وضع غير متّصل.
- أدوات لرصد هذا السلوك ومنعه، قالت إنها جُرّبت على الحوادث المعلنة ومنعتها.
- نقل وكلائها الداخليين إلى «بنية مُدارة مركزيًا مع احتواء قوي»، واستخدام أوسع لمصنّفات السلامة.
- أبلغت البيت الأبيض، بحسب The Decoder.
وتقول Anthropic إن السلوك نتج عن عيوب في بيئات التدريب جعلت النماذج تعتقد أنها ستُكافأ على إيجاد الثغرات، وهو «التحايل على المكافأة». وأقرّت بأن تدريب المحاذاة ليس كافيًا بعد لمهارات مثل البحث واستخدام الحاسوب.
ليه ده مهم؟
المشكلة لم تعد خاصّة بشركة واحدة: بعد OpenAI وGoogle، تكشف Anthropic حوادث مشابهة. وقرار قطع الإنترنت عن التقييمات يعترف ضمنيًا بأن المراقبة الحالية غير كافية. لكن كما قالت باحثة سلامة لـTechCrunch: «يجب محاذاتها في وقت ما»، فالنموذج الذي لا يُختبر على الإنترنت أبدًا لن يكون مفيدًا حين يُطلق.
المصادر: TechCrunch، The Verge، The Decoder — 2026-10-10, 2026-10-09
