باختصار
موجّه النماذج (Model Router) هو الخوارزمية اللي بتحدّد النموذج الأنسب للاستدلال (Inference) في تعاقب النماذج (Model Cascading).
بالتفصيل
النماذج القوية غالية، والضعيفة أرخص. لو بتبعت كل سؤال للنموذج الأقوى هتدفع أكتر من اللازم، ولو بتبعت كله للأرخص هتخسر جودة في الأسئلة الصعبة. هنا بيجي دور الموجّه: بيبص على المدخل وبيقرّر يروح لأنهي نموذج.
حسب المسرد، الموجّه غالبًا بيكون نموذج تعلّم آلي بيتعلّم تدريجيًا يختار الأفضل لكل مدخل، وأحيانًا بيكون مجرّد خوارزمية بسيطة من غير تعلّم آلي.
ورقة RouteLLM البحثية طوّرت موجّهات بتختار ديناميكيًا وقت الاستدلال بين نموذج لغوي أقوى وآخر أضعف عشان تحسّن التوازن بين التكلفة وجودة الرد. دربتها باستخدام بيانات تفضيلات بشرية، وأفادت النتائج بتخفيض التكلفة بأكتر من ضعفين في بعض الحالات من غير المساس بجودة الردود. وكمان لاحظ الباحثون إن الموجّهات حافظت على أدائها حتى لما اتغيّرت النماذج القوية والضعيفة وقت الاختبار.
مثال عملي
مساعد خدمة عملاء لشركة اتصالات: لو العميل بيسأل «ازاي أشحن رصيد؟» الموجّه بيرسل السؤال لنموذج صغير رخيص. ولو بيشكو من فاتورة معقّدة فيها خصومات متداخلة، بيرسله لنموذج أكبر. العميل ما بيحسّش بالفرق، والشركة بتوفّر في الفاتورة الشهرية للاستدلال.
مصطلحات مرتبطة
- Model Cascading — تعاقب النماذج.
- Inference — الاستدلال.
- Latency — وقت الاستجابة.
المصادر: Google ML Glossary، arXiv — RouteLLM — 2024-06-26
