إيه هو الـ Diffusion Transformer (DiT)؟ | محوّل الانتشار

باختصار

الـ Diffusion Transformer (DiT) (محوّل الانتشار) — دمج بين تقنية الـ Diffusion والـ Transformer — بدل ما نستخدم U-Net لتوليد الصور، بنستخدم Transformer وده بيدّي نتايج أحسن وبيتوسّع أسهل، وهو الأساس ورا نماذج زي SORA.

بالتفصيل

تخيّل إنك بتبني مصنع — كل قسم فيه وظيفة معينة وبيتعاون مع الأقسام التانية. الشبكات العصبية بتشتغل بنفس المبدأ.

اختيار المعمارية الصح بيفرق كتير في أداء النموذج. الـ Diffusion Transformer معمارية أو مكوّن بيأثر على إزاي النموذج بيعالج البيانات. الباحثين في شركات زي Google وMeta بيطوّروا معماريات جديدة كل سنة، وكل واحدة بتحاول تحل مشاكل المعماريات القديمة — سواء في السرعة أو الدقة أو استهلاك الذاكرة.

مثال عملي

نماذج زي ChatGPT وStable Diffusion وWhisper كلها مبنية على معماريات مختلفة. الباحثين بيجرّبوا تصميمات جديدة باستمرار — وكل معمارية ليها نقاط قوة وضعف. الـ Diffusion Transformer واحد من التصميمات أو المكونات اللي بتحدد إزاي النموذج بيعالج البيانات وبيطلع نتايج.

مصطلحات مرتبطة

• شبكة عصبية التفافية (CNN (Convolutional Neural Network))
• شبكة عصبية تكرارية (RNN (Recurrent Neural Network))
• مزيج الخبراء (Mixture of Experts (MoE))
• بنية مامبا (Mamba Architecture)
• بنية هجينة (Hybrid Architecture)