باختصار
GGUF صيغة ملفّ ثنائية لتخزين النماذج، مُحسَّنة للتحميل والحفظ السريع، ومصمّمة أساسًا لتشغيل النماذج (Inference) على جهازك الشخصي.
بالتفصيل
طوّر الصيغة جورجي غيرغانوف، مطوّر llama.cpp، وهي مصمّمة للعمل مع مكتبة GGML ومحرّكات تشغيل تانية.
الفرق الأساسي بينها وبين صيغ زي safetensors إن الأخيرة بتخزّن الموترات (Tensors) بس، يعني أرقام الأوزان. أمّا GGUF فبتخزّن الموترات ومعاها مجموعة موحّدة من البيانات الوصفية: معلومات المُجزّئ (Tokenizer)، وأحيانًا قالب المحادثة. النتيجة: ملفّ واحد فيه كل اللي محتاجه عشان تشغّل النموذج.
الميزة التانية المهمّة هي دعم مستويات مختلفة من التكميم (Quantization)، يعني تمثيل الأوزان بعدد بتّات أقل عشان الملفّ يصغر ويدخل في ذاكرة جهازك. تلاقي نفس النموذج بأكتر من نسخة: F16 وBF16 بدقّة كاملة تقريبًا، ونسخ زي Q4_K_M اللي بتستخدم في الغالب أوزان 4 بتّات مع الاحتفاظ بالأجزاء الحسّاسة بدقّة أعلى.
تشبيه بسيط: GGUF زي ملفّ مضغوط لفيلم فيه الصورة والترجمة والفصول مع بعض. تقدر تختار جودة أقل عشان يدخل على موبايلك، أو جودة أعلى لو عندك مساحة.
مثال عملي
عندك لابتوب ذاكرته 16 جيجابايت وعايز تشغّل نموذج 4 مليار معامل. النسخة غير المكمّمة BF16 من Qwen3.5-4B حجمها نحو 8.42 جيجابايت، أمّا نسخة Q4_K_M فحجمها نحو 2.74 جيجابايت. تنزّل الملفّ من Hugging Face، وتفتحه في LM Studio أو Ollama أو llama.cpp، ويشتغل محلّيًا من غير إنترنت. وعلى Hub نفسه فيه عارض بيوريك البيانات الوصفية وأشكال الموترات ودقّتها قبل ما تنزّل.
مصطلحات مرتبطة
- Quantization — التكميم.
- On-Device AI — الذكاء الاصطناعي على الجهاز.
- Inference — الاستدلال.
المصادر: Hugging Face Hub Docs
