باختصار
HyDE (اختصار Hypothetical Document Embeddings، أي تضمينات المستندات الافتراضية) طريقة بحث بتحوّل السؤال لإجابة افتراضية الأوّل، وبعدين تدوّر بالإجابة دي بدل السؤال.
بالتفصيل
المشكلة حسب الورقة (ديسمبر 2022): صعب تبني نظام بحث كثيف (Dense Retrieval) فعّال من غير بيانات صلة مسمّاة. الحلّ بخطوتين:
- توليد: نموذج لغوي بيتّبع التعليمات (زي InstructGPT) بيكتب مستند افتراضي بيجاوب السؤال. المستند ده بيمسك أنماط الصلة، لكنه مش حقيقي وممكن يكون فيه تفاصيل غلط.
- تأريض: مُرمِّز متعلّم بالتعلّم التبايني (زي Contriever) بيحوّل المستند لمتّجه تضمين. المتّجه ده بيحدّد منطقة في فضاء التضمين، والنظام بيجيب مستندات حقيقية قريبة منه.
والورقة بتقول إن «عنق الزجاجة» الكثيف في المُرمِّز بيفلتر التفاصيل الغلط، لأن التضمين بيمسك الفكرة العامة مش كل تفصيلة.
مثال عملي
سؤال قصير زي «ليه البطّارية بتسخن وقت الشحن السريع؟» ممكن ما يشبهش مستند تقني طويل في الصياغة. HyDE بيخلّي النموذج يكتب فقرة شبه المقالات التقنية، وبعدين يدوّر بيها، فيلاقي مقالات حقيقية بنفس الأسلوب والمصطلحات.
حسب الورقة، HyDE تفوّق بشكل كبير على Contriever، وأداؤه قريب من أنظمة بحث متدرّبة بضبط دقيق، في مهام زي البحث على الويب والإجابة عن الأسئلة والتحقّق من الحقائق، وبلغات منها السواحيلية والكورية واليابانية.
مصطلحات مرتبطة
- RAG — التوليد المعزّز بالاسترجاع.
- Semantic Search — البحث الدلالي.
- Embedding — التضمين.
- Contrastive Learning — التعلّم التبايني.
المصادر: arXiv — HyDE (Gao et al.) — 2022-12-20
