انتقل إلى المحتوى

مصطلح في خيطين

التوجيه بشجرة الأفكارTree-of-Thought Prompting

المعنى في سطر

التوجيه بشجرة الأفكار (ToT) بيخلّي النموذج يستكشف أكتر من مسار حلّ، ويقيّم كل مسار، ويكمّل في الواعد ويسيب الباقي، ويرجع لورا لو المسار فشل.

باختصار

التوجيه بشجرة الأفكار (Tree-of-Thought Prompting، واختصاره ToT) استراتيجية توجيه متقدّمة بتشجّع النموذج اللغوي إنه يتابع أكثر الحلول الوسيطة الواعدة ويحسّنها، ويتخلّى عن الباقي.

بالتفصيل

النماذج اللغوية عادةً بتقرّر رمز ورا رمز من الشمال لليمين، وده بيخلّيها تتعثّر في المهام اللي محتاجة استكشاف أو تخطيط للأمام، أو لما القرار الأوّل بيحدّد كل حاجة بعده. ورقة Tree of Thoughts (2023) اقترحت تعميمًا لسلسلة الأفكار (Chain of Thought): بدل مسار واحد، النموذج بيفكّر في مسارات متعدّدة ويقيّم اختياراته بنفسه، ويقدر يبصّ لقدّام أو يرجع لورا.

المسرد بيلخّص الخوارزمية كده: قسّم المشكلة لفروع (استراتيجيات محتملة) كل واحد فيه خطوات. خلّي النموذج يشتغل على كل فرع لوحده. اطلب منه يقيّم جودة الحلّ في كل فرع بعد كل خطوة. كمّل في الفروع الواعدة وسيب الباقي. ولو فرع واعد فشل في الآخر، ارجع وجرّب خطوات واعدة تانية.

الثمن هو استدعاءات أكتر للنموذج، يعني وقت وتكلفة أعلى. وحسب الورقة، في لعبة «24» حلّ GPT-4 بسلسلة الأفكار 4% بس من المسائل، مقابل 74% بشجرة الأفكار.

مثال عملي

لعبة 24: عندك الأرقام 4 و9 و10 و13 ولازم توصل لـ24. النموذج يجرّب فروعًا: «13 − 9 = 4» ثم يقيّم: هل الباقي (4، 4، 10) ممكن يوصل لـ24؟ نعم: (10 − 4) × 4 = 24. فرع تاني زي «4 + 9 = 13» يطلع أقل وعدًا فيتساب.

مصطلحات مرتبطة

المصادر: Google ML Glossary، arXiv — Tree of Thoughts — 2023-05-17