باختصار
Constitutional Classifiers (المصنّفات الدستورية) طبقات حماية حول النموذج اللغوي، متدرّبة على بيانات اصطناعية اتولّدت من «دستور»: قواعد مكتوبة بلغة طبيعية بتحدّد المحتوى المسموح والممنوع.
بالتفصيل
المشكلة حسب الورقة (يناير 2025): النماذج اللغوية معرّضة لـUniversal Jailbreaks (كسر الحماية الشامل)، يعني استراتيجيات موجّهات بتتجاوز الحماية بشكل منهجي، وبتسمح بتنفيذ عمليات ضارّة محتاجة تفاعلات كتير مع النموذج، زي تصنيع مواد غير قانونية على نطاق واسع.
الحلّ:
- تكتب دستور بالقواعد.
- تستخدم نماذج لغوية عشان تولّد بيانات اصطناعية بناءً عليه.
- تدرّب مصنّفات على البيانات دي، تشتغل كحماية حوالين النموذج.
مثال عملي
نتايج الورقة:
- في أكتر من 3,000 ساعة تقديرية من Red Teaming (الاختبار الهجومي)، ما حدّش من المختبرين لقى كسر حماية شامل يطلّع من نموذج محمي بنسخة مبكرة من المصنّفات معلومات بمستوى تفاصيل قريب من نموذج غير محمي، في أغلب الأسئلة المستهدفة.
- في التقييمات الآلية، المصنّفات المحسّنة صمدت قدّام محاولات كسر حماية متخصّصة ما اتدرّبتش عليها.
- التكلفة: زيادة مطلقة 0.38% في رفض طلبات حقيقية من حركة المستخدمين، و23.7% زيادة في حوسبة الاستدلال.
الرقمين الأخيرين هما ثمن الأمان: كل طبقة حماية بتضيف تكلفة، وبترفض أحيانًا طلبات سليمة (Over-Refusal). والورقة شايفة إن الموازنة دي قابلة للتطبيق عمليًا.
مصطلحات مرتبطة
- Jailbreak — كسر الحماية.
- Constitutional AI — الذكاء الاصطناعي الدستوري.
- Guard Model — نموذج الحراسة.
- Red Teaming — الاختبار الهجومي.
المصادر: arXiv — Constitutional Classifiers (Sharma et al.) — 2025-01-31
