«التكرار المعتم»: تقنية استدلال جديدة من OpenAI تثير قلق خبراء الأمان

أثارت تقنية استدلال جديدة تستخدمها OpenAI في نموذج Astra قلق عدد من باحثي أمان الذكاء الاصطناعي. التقنية تُعرف باسم recurrent depth أو «التكرار المعتم» opaque recurrence.

كيف تعمل

بدل أن يسير النموذج في خطوات نصية متسلسلة مقروءة — وهو ما نسميه سلسلة التفكير chain of thought — يعالج الطلب مرات متعددة في حلقة داخلية. النتيجة أن الأثر المقروء الذي يخلّفه الاستدلال يصبح أقل بكثير، فيتجاوز عمليًا سجلات المراقبة التقليدية.

لماذا القلق

مصدر القلق الأساسي هو احتمال التوسع في الاستدلال المعتم لدرجة أن يعمل النموذج بالكامل في «الفضاء الكامن» latent space، أي بعيدًا عن أي رقابة بشرية مقروءة.

قال باك شليغريس، الرئيس التنفيذي لـ Redwood: «لو دفعت OpenAI هذه التقنية أبعد، سيكون أمامها خيار زيادة التكرار بشكل هائل، وهو ما يدمّر تمامًا قابلية مراقبة سلسلة التفكير». وقال زفي موشوفيتز، المدافع عن أمان الذكاء الاصطناعي، إن التقنية «تلعب بالنار، وتخاطر بكسر محظور ناضلت OpenAI و Anthropic لتأسيسه». وأضاف رايان غرينبلات، كبير العلماء في Redwood Research: «آمل ألا يكون قد فات الأوان لتجنّب أكثر البنى إثارة للقلق، وأن تتوقف OpenAI عند هذا الحد».

موقف OpenAI

أكد ياكوب باتشوكي، كبير العلماء في OpenAI، التزام الشركة بسلاسل تفكير مقروءة، وقال إنها «عملت على الحفاظ على مراقبة سلسلة التفكير والاستفادة منها منذ أول نماذجنا الاستدلالية». وفي ملخص السلامة المرافق لـ Astra، أقرّت الشركة بأن قابلية المراقبة تراجعت مقارنة بالنموذج السابق.

ليه ده مهم؟

سلسلة التفكير المقروءة كانت أهم نافذة عملية لفهم «لماذا» قرر النموذج ما قرره. لو ضاعت النافذة دي، هنبقى بنراقب النتائج فقط بدل الأسباب — وده تحديدًا الوضع اللي بيصعّب اكتشاف الخلل قبل وقوعه.

المصادر: TechCrunch — 2026-09-02