نشرت OpenAI يوم 22 سبتمبر وثيقة بعنوان «أولويات ومبادئ لتقييمات فعّالة من أطراف ثالثة»، تحدّد فيها ما تريد من المقيّمين المستقلّين فحصه في نماذجها، والقواعد التي يجب أن تحكم هذه العلاقة. وتقول الشركة إن ذلك جزء من جهودها لـ«ضبط وتيرة الحدود» (Pacing the Frontier).
مفهومان أساسيان
- ادّعاء السلامة (Safety Claim): تأكيد محدّد عن قدرات النموذج أو سلوكه أو ضماناته، يمكن التحقّق منه بالأدلة.
- حجّة السلامة (Safety Case): حجّة منظّمة مدعومة بالأدلة تشرح لماذا تُدار مخاطر النظام بشكل كافٍ في نشاط محدّد، كالتدريب أو التقييم أو النشر.
الأولويات الأربع
- تقييم حجج السلامة: عبر التدريب والتقييم والنشر الداخلي والخارجي. هل الأدلة كافية؟ هل اتُّبعت الشروط فعلًا؟ وهل هناك أساليب فعّالة لتقليل الحوافز التي قد تكافئ الخداع أو التحايل على المكافأة أو تجاوز القيود؟
- تقييم الضمانات الحرجة: هل تصمد أمام محاولات كسر الحماية (Jailbreaks) بوصول «الصندوق الرمادي»؟ كيف يتعامل الوكلاء مع الدفاعات السيبرانية؟ وهل مراقبة سلسلة التفكير (Chain-of-Thought) مصدر موثوق للأدلة مع تحسّن القدرات؟
- تقييم اختبارات القدرات: في فئات إطار الاستعداد (Preparedness Framework): المخاطر الكيميائية والبيولوجية، والأمن السيبراني، والتحسين الذاتي للذكاء الاصطناعي، إضافة إلى تقييمات المحاذاة.
- التحقيق المستقلّ في حوادث سوء المحاذاة الحرجة: مثل تصرّف النموذج دون تفويض أو تهرّبه من الرقابة، مع الإشارة إلى «حادثة Hugging Face» الخاصّة بـOpenAI كمثال.
المبادئ
تقترح الوثيقة مبادئ منها: نطاق متّفق عليه مسبقًا وادّعاءات مسجّلة قبل بدء التقييم، ووصول متناسب مع الادّعاءات ضمن القيود القانونية والأمنية، ومنهجية شفّافة تميّز النتائج المباشرة عن التفسير. وتشدّد على أن يفصح المقيّمون عن تضارب المصالح، بما فيه الحوافز المالية والعلاقات مع المطوّرين، وأن تُصمَّم ترتيبات الدفع بحيث لا تؤثّر على النتائج.
وفي النشر، تقترح منح المختبر فترة معقولة لإصلاح المشكلات قبل النشر، والسماح له بطلب حجب المعلومات الحسّاسة، مع حقّ المقيّم في الإشارة إلى مواضع الحجب وأثرها على تقريره.
ليه ده مهم؟
التقييم المستقلّ لا يكون مستقلًّا إلا إذا كان للمقيّم وصول حقيقي وحرّية في النشر. الوثيقة تعترف بالتوتّر بين الاستقلالية والسرّية، لكن نقاطًا مثل «فترة الإصلاح قبل النشر» و«طلبات الحجب» ستحدّد عمليًا مقدار ما يصل إلى الجمهور.
وتقول OpenAI إنها تجري محادثات مع عدّة جهات بشأن مقترحات تتّفق مع هذه الأولويات. أوّل تقرير مستقلّ يُنشر بموجب هذا الإطار سيكون الاختبار الفعلي له.
المصادر: OpenAI — 2026-09-22
