بنية النماذج
مزيج الخبراء (MoE)
عائلة من البنى ذات الخبراء الموجَّهين. وتفعّل الصيغ المتفرّقة الحديثة شبكات خبراء فرعية منتقاة لكل مدخل، فتزيد السعة دون تفعيل كل وسيط عند كل رمز.
المصطلحات الأساسية
- الخبراء (experts)
- الموجِّه (router)
- التنشيط المتناثر (sparse activation)
- موازنة الحمل (load balancing)
الروابط عبر المشروع
يبني على
تقنيات ذات صلة
أوراق ذات صلة
السياق التاريخي
المصادر الأولية
هذه خريطة تقنية منتقاة، لا ادّعاء بتغطية شاملة.