باختصار
ظاهرة الضياع في المنتصف (Lost-in-the-Middle Effect) هي ميل نموذج لغوي كبير لاستخدام المعلومات الموجودة في بداية ونهاية نافذة سياق طويلة بكفاءة أعلى من المعلومات الموجودة في المنتصف.
بالتفصيل
يعني: نظرًا لسياق طويل، ظاهرة الضياع في المنتصف بتخلّي الدقّة تبقى مرتفعة نسبيًا لو المعلومة اللازمة لتكوين الردّ قريبة من بداية السياق أو نهايته، ومنخفضة نسبيًا لو المعلومة اللازمة في منتصف السياق.
المصطلح مأخوذ من ورقة بحثية عنوانها «Lost in the Middle: How Language Models Use Long Contexts»، اللي وثّقت الظاهرة دي بشكل تجريبي عبر نماذج مختلفة.
والظاهرة دي بتناقض توقّعًا ساذجًا شائعًا: إن النموذج بيعامل كل موضع في السياق بنفس القدر من الاهتمام. الواقع إن الاهتمام (Attention) موزّع بشكل غير متساوٍ — منحنى على شكل U، بحدّة عند الأطراف وضعف في الوسط.
وده مش مجرّد ملاحظة أكاديمية، هو له أثر تصميمي مباشر في بناء الأنظمة اللي بتعتمد على السياق الطويل. لو بتبني نظامًا بيغذّي النموذج بمستندات مسترجَعة (زي أنظمة RAG)، وحطّيت أهمّ مستند في منتصف قائمة المستندات، النموذج معرَّض إنه «يفوته» رغم إنه موجود حرفيًا في المُدخَل.
ومن الاستراتيجيات العملية للتخفيف من الأثر: وضع المعلومات الأهمّ عمدًا في بداية أو نهاية الموجّه، وتقليل السياق غير الضروري بدل الاعتماد على «سياق أطول = أفضل».
مثال عملي
بتبني مساعدًا يجاوب على أسئلة من عقد قانوني طويل (30 صفحة). البند الأهمّ — شرط الإنهاء المبكّر — موجود في الصفحة 15، تقريبًا في المنتصف تمامًا.
لو سألت النموذج عن شرط الإنهاء، احتمال إنه «يفوته» أو يخلط بينه وبين بند تاني أعلى بكثير ممّا لو كان الشرط ده في الصفحة الأولى أو الأخيرة. الحلّ العملي: تعيد ترتيب أو تلخّص المستند بحيث تُقدَّم البنود الحرجة أولًا.
مصطلحات مرتبطة
- Context Length — طول السياق.
- Retrieval-Augmented Generation — التوليد المعزَّز بالاسترجاع.
- Self-Attention — الانتباه الذاتي.
المصادر: Google ML Glossary
