انتقل إلى المحتوى

أخبار AI

Saluki 27B: نسخة بدقّة 2 بت من Qwen3.8-27B في أقل من 8 غيغابايت تتفوّق على الأصل في استدعاء الأدوات

ملف GGUF بحجم 7.89 غيغابايت مقابل 54 للأصل، يحتفظ بـ96% من الأداء في 9 اختبارات، ويتفوّق في استدعاء الأدوات المتوازية. لكن الرياضيات التنافسية تتراجع 12 إلى 18 نقطة.

Saluki 27B: نسخة بدقّة 2 بت من Qwen3.8-27B في أقل من 8 غيغابايت تتفوّق على الأصل في استدعاء الأدوات

أطلقت جهة اسمها Underdog نموذج Saluki 27B، نسخة مضغوطة بدقّة 2 بت ومختلطة الدقّة من Qwen3.8-27B، بصيغة GGUF، مصمّمة لتشغيل الوكلاء محليًا، بحسب MarkTechPost.

الحجم والتشغيل

  • 7.89 غيغابايت، مقابل 54 غيغابايت للنموذج الأصلي بدقّة BF16.
  • يعمل على llama.cpp الأصلي والتطبيقات المبنية عليه، مع تحميل كامل على بطاقة الرسوميات، وإضافة اختيارية للرؤية.

كيف صُنع؟

  • الأساس Qwen3.8-27B، نموذج كثيف من 64 طبقة يدعم 262,144 رمزًا.
  • الطبقة الثانية نسخة مكمّمة من مختبر ISTA-DASLab تتعلّم شبكات دقيقة منخفضة البتّات لكل موتّر وتوزّع أنواع التكميم تحت ميزانية حجم ثابتة. أصغر ملفاتها 8.4 غيغابايت.
  • الطبقة الثالثة تمريرة Underdog الخاصّة لتصغير الملف واستهداف استدعاء الأدوات. لم تنشر الوصفة كاملة.

النتائج (أرقام Underdog)

  • يحتفظ بـ96% في المتوسّط من أداء النموذج الكامل عبر 9 اختبارات.
  • في استدعاء الأدوات المتوازية: 42 مقابل 35 للنموذج الكامل.
  • في اختبار من 120 مهمّة من BFCL v4: 88 مقابل 84.
  • الأضعف: AIME 2025 بنتيجة 79.2 مقابل 96.7، والرياضيات التنافسية والاستدلال متعدّد الخطوات تتراجع بين 12 و18 نقطة.

ليه ده مهم؟

نموذج بـ27 مليار معامل يعمل على بطاقة رسوميات استهلاكية بأقل من 8 غيغابايت، ويتفوّق في استدعاء الأدوات، يجعل الوكلاء المحليين أكثر واقعية. لكن المقايضة واضحة: ما تكسبه في الحجم تخسره في الاستدلال العميق. اختر بحسب المهمّة: وكيل أدوات نعم، ومسائل رياضية صعبة لا.

المصادر: MarkTechPost — 2026-10-09