باختصار
QLoRA طريقة ضبط دقيق (Fine-tuning) بتقلّل استهلاك الذاكرة لدرجة إنك تضبط نموذج بـ65 مليار معامل على بطاقة رسوميات واحدة بذاكرة 48 غيغابايت، مع الحفاظ على أداء الضبط الكامل بدقّة 16 بتّ.
بالتفصيل
الفكرة حسب الورقة (مايو 2023): النموذج الأصلي بيتجمّد ويتكمّم لـ4 بتّات، والتدرّجات بتعدّي من خلاله لمحوّلات LoRA صغيرة هي اللي بتتدرّب بس. ومعاها تلات ابتكارات لتوفير الذاكرة:
- NF4 (4-bit NormalFloat): نوع بيانات جديد مثالي من ناحية نظرية المعلومات للأوزان الموزّعة توزيع طبيعي.
- Double Quantization (التكميم المزدوج): تكميم ثوابت التكميم نفسها، عشان تقلّ الذاكرة أكتر.
- Paged Optimizers: لإدارة القفزات المفاجئة في استهلاك الذاكرة.
مثال عملي
الباحثين ضبطوا بالطريقة دي أكتر من ألف نموذج. وعائلة نماذجهم Guanaco تفوّقت على كل النماذج المفتوحة السابقة على اختبار Vicuna، ووصلت لـ99.3% من مستوى أداء ChatGPT، بعد 24 ساعة بس من الضبط على بطاقة رسوميات واحدة.
ومن نتايج الورقة كمان:
- الضبط على مجموعة بيانات صغيرة عالية الجودة بيدّي نتايج قويّة، حتى مع نماذج أصغر.
- تقييم GPT-4 بديل رخيص ومعقول للتقييم البشري لروبوتات المحادثة.
- اختبارات روبوتات المحادثة الحالية وقتها ما كانتش موثوقة في تقييم مستوى أدائها بدقّة.
والباحثين نشروا كل النماذج والكود، ومعاهم نوى CUDA للتدريب بـ4 بتّات.
مصطلحات مرتبطة
- LoRA — التكيّف منخفض الرتبة.
- PEFT — الضبط الدقيق الموفّر للمعاملات.
- Quantization — التكميم.
- Fine-tuning — الضبط الدقيق.
المصادر: arXiv — QLoRA (Dettmers et al.) — 2023-05-23
