L10 · أصغر وأسرع وأرخص
رخيص التشغيل غالي الحفظ
تقول ما يوفّره خليط الخبراء وما لا يوفّره، على خادم مزدحم وعلى هاتف.
يحفظ Mixtral، وهو خليط خبراء (Mixture of Experts)، 46.7 مليار وزن، ويشغّل 12.9 مليارًا لكل رمز، كما بيّن الفصل L3. فهو يعمل كنموذج من 13 مليار وزن. لكن يجب أن يُحفظ كنموذج من 47 مليارًا، كل بايت منه، طوال الوقت.