باختصار
Self-Consistency (الاتّساق الذاتي) استراتيجية فك ترميز بتطلب من النموذج يحلّ نفس المسألة بكذا طريقة، وبعدين تاخد الإجابة اللي أغلب الطرق وصلت لها.
بالتفصيل
في Chain-of-Thought Prompting العادي، النموذج بيولّد مسار تفكير واحد بالطريقة الجشعة (Greedy Decoding)، يعني بيختار الكلمة الأرجح في كل خطوة. ورقة الاتّساق الذاتي (مارس 2022) اقترحت بديل:
- اسحب مجموعة متنوّعة من مسارات التفكير بدل المسار الجشع الواحد.
- اختار الإجابة الأكثر اتّساقًا بين المسارات دي.
الفكرة وراها إن المسألة المعقّدة غالبًا ليها طرق تفكير مختلفة كتير بتوصل لنفس الإجابة الصحيحة. أما الأخطاء فبتتوزّع على إجابات مختلفة.
مثال عملي
النتايج في الورقة: الاتّساق الذاتي حسّن أداء سلسلة الأفكار بفارق كبير:
- GSM8K: زيادة 17.9%
- AQuA: زيادة 12.2%
- SVAMP: زيادة 11.0%
- StrategyQA: زيادة 6.4%
- ARC-challenge: زيادة 3.9%
تطبيق بسيط: لو بتسأل نموذج مسألة حسابية مهمّة، اسأله 5 مرّات بإعداد Temperature أعلى من صفر. لو 4 إجابات قالت 120 وواحدة قالت 96، خد 120. التكلفة: 5 أضعاف الاستدعاءات.
مصطلحات مرتبطة
- Chain-of-Thought (CoT) — سلسلة الأفكار.
- Greedy Decoding — فك الترميز الجشع.
- Test-Time Compute — الحوسبة وقت الاختبار.
- pass@k — النجاح في k محاولات.
المصادر: arXiv — Self-Consistency (Wang et al.) — 2022-03-21
