إيه هو الـ Self-supervised Learning؟ | التعلم الذاتي الإشراف

باختصار

الـ Self-supervised Learning هو إن النموذج يتعلم لوحده من البيانات من غير ما حد يصنفها ليه. بيعمل كده إنه يخبي جزء من البيانات ويحاول يتوقعه — زي ما تغطي كلمة في جملة وتحاول تخمنها من السياق.

بالتفصيل

فاكر لما كنت صغير وأبوك أو أمك كانوا بيقرأولك قصة وفجأة يوقفوا ويسألوك “تفتكر إيه اللي هيحصل بعد كده؟” — إنت من غير ما حد يعلمك، كنت بتستخدم السياق وفهمك للقصة عشان تتوقع الباقي. ده بالظبط اللي بيعمله الـ Self-supervised Learning.

في الطريقة دي، النموذج بيتعلم من البيانات نفسها من غير ما يحتاج حد يصنفها يدوياً. إزاي؟ بياخد البيانات ويخبي جزء منها ويحاول يتوقعه. مثلاً في النصوص: لو عنده جملة “القطة نايمة على الـ ___”، بيحاول يتوقع إن الكلمة الناقصة ممكن تكون “سرير” أو “كنبة”. ومع الوقت وملايين الجمل، النموذج بيتعلم يفهم اللغة بشكل عميق.

الـ Self-supervised Learning هو السر ورا نجاح النماذج اللغوية الكبيرة زي GPT وBERT. النماذج دي اتدربت على كميات ضخمة من النصوص من الإنترنت من غير ما حد يقعد يصنف كل جملة. النموذج لوحده اكتشف قواعد اللغة والمعاني والعلاقات بين الكلمات.

ليه الطريقة دي مهمة أوي؟

  • مش محتاجة تصنيف يدوي — وده بيوفر وقت ومجهود وفلوس كتير
  • بتقدر تستخدم كميات ضخمة من البيانات المتاحة على الإنترنت
  • النموذج بيطلع منها بفهم عميق للبيانات يقدر يستخدمه في مهام مختلفة

الفرق بينها وبين الـ Unsupervised Learning إن الـ Self-supervised Learning بيعمل مهمة محددة (التنبؤ بالجزء المخبي)، مش بس بيدور على أنماط في البيانات. والنموذج اللي بيطلع بيكون Pre-trained Model (نموذج مدرب مسبقاً) يقدر يتخصص بعد كده في أي مهمة.

مثال عملي

نموذج ChatGPT اتدرب بالـ Self-supervised Learning على مليارات الصفحات من الإنترنت. أثناء التدريب، كان بيشوف جزء من النص ويحاول يتوقع الكلمة اللي جاية. بعد ما اتدرب على كمية نصوص رهيبة، بقى يفهم اللغة كويس لدرجة إنه يقدر يكتب مقالات ويجاوب على أسئلة ويترجم — كل ده من غير ما حد يعلمه المهام دي مباشرة.

مصطلحات مرتبطة

شاهد أيضاً

إيه هو الـ Mixture of Experts (MoE)؟ | مزيج الخبراء

باختصار الـ Mixture of Experts (MoE) (مزيج الخبراء) — بنية نموذج فيها عدة شبكات “خبيرة” …

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *