انتقل إلى المحتوى

مصطلح في خيطين

نموذج تعلّم الأدواتToolformer

المعنى في سطر

Toolformer نموذج لغوي تعلّم بنفسه متى يستدعي أداة مثل الآلة الحاسبة أو البحث، وبأيّ مدخلات، وكيف يستخدم النتيجة، بأمثلة قليلة لكل أداة.

باختصار

Toolformer نموذج لغوي تعلّم أن يعرف حدوده: يقرّر بنفسه متى يستدعي أداة خارجية عبر واجهة برمجية (API)، وبأيّ مدخلات، وكيف يدمج النتيجة في كلامه.

بالتفصيل

بدأت الورقة (فبراير 2023) من مفارقة طريفة: النماذج اللغوية تكتب الشعر وتحلّ ألغازًا من أمثلة قليلة، ثم تتعثّر في عملية حسابية يحلّها أبسط برنامج. كأنك تقابل فيلسوفًا يناقش الوجود ثم يخطئ في حساب الباقي من الخبّاز.

والحلّ: أن يتعلّم النموذج استخدام أدوات بسيطة، فيجمع بين قوّته وقوّتها. ويتّسم التدريب بأنه:

  • ذاتي الإشراف (Self-supervised).
  • يحتاج عددًا قليلًا من الأمثلة لكل أداة.

والأدوات التي استخدمها الباحثون: آلة حاسبة، ونظام للأسئلة والأجوبة، ومحرّكا بحث، ونظام ترجمة، وتقويم.

مثال عملي

النموذج يكتب: «ارتفع عدد سكّان المدينة من … إلى …، أي بنسبة». هنا يتوقّف، ولا يخمّن. يستدعي الآلة الحاسبة، ويأخذ الناتج، ثم يكمل الجملة.

وبحسب الورقة، حقّق Toolformer أداءً أفضل بكثير دون أمثلة (Zero-shot) في مهام متنوّعة، وكان غالبًا منافسًا لنماذج أكبر بكثير، دون أن يخسر قدرته الأساسية على الكتابة. التواضع، كما يبدو، مفيد للنماذج أيضًا.

مصطلحات مرتبطة

المصادر: arXiv — Toolformer (Schick et al.) — 2023-02-09