باختصار
النموذج المدمج (Compact Model) هو أي نموذج صغير مصمّم للعمل على أجهزة صغيرة ذات موارد حوسبة محدودة.
بالتفصيل
الأمثلة النموذجية للأجهزة دي: الهواتف المحمولة، والأجهزة اللوحية، والأنظمة المدمجة (Embedded Systems).
ليه نحتاج نموذجًا مدمجًا أصلًا، ما دام النموذج الكبير أدقّ؟ لأن الدقّة مش المعيار الوحيد. فيه أربعة دوافع عملية:
- الخصوصية: المعالجة على الجهاز معناها إن البيانات ما بتغادرش الجهاز أصلًا.
- الاستجابة: مفيش رحلة ذهاب وعودة للخادم، فالزمن أقلّ بكثير.
- العمل دون اتّصال: النموذج بيشتغل بلا إنترنت.
- التكلفة: مفيش فاتورة استدلال سحابي لكل استدعاء.
والثمن المدفوع هو القدرة: نموذج بحجم بضع مئات الملايين من المعاملات مش هيضاهي نموذجًا بمئات المليارات في المهامّ المفتوحة.
ولذلك النمط الشائع هو التوزيع: نموذج مدمج على الجهاز للمهامّ المتكرّرة البسيطة، مع تحويل المهامّ الصعبة لنموذج أكبر في السحابة.
مثال عملي
لوحة مفاتيح عربية ذكية على الهاتف بتقترح الكلمة التالية أثناء الكتابة.
الاقتراح ده لازم يظهر خلال أجزاء من الثانية ومع كل حرف، وبيتعامل مع كل ما تكتبه — بما فيه كلمات مرور ورسائل خاصة. إرسال ده كله لخادم سيكون بطيئًا ومكلفًا وكارثيًا للخصوصية. فالحلّ نموذج مدمج يشتغل محلّيًا.
مصطلحات مرتبطة
- Quantization — التكميم، من طرق تصغير النماذج.
- Distillation — التقطير.
- Edge AI — الذكاء الاصطناعي الطرفي.
المصادر: Google ML Glossary
