MiMo-V2.6-Flash

Xiaomi

MiMo-V2-Flash هو نموذج أساسي مفتوح المصدر طورته شركة Xiaomi. بُني على معمارية Mixture-of-Experts (مزيج من الخبراء) بإجمالي 309 مليار معامل و15 مليار معامل مُنشَّط لكل رمز (token)، ويستخدم آلية انتباه هجينة من أجل...