نهال

Xiaomi: MiMo-V2.6-Flash

MiMo-V2.6-Flash هو نموذج أساسي مفتوح المصدر من Xiaomi. مبني على بنية Mixture-of-Experts بـ 309 مليار معامل إجمالي و 15 مليار مفعل لكل رمز، يستخدم آلية انتباه هجينة.

المواصفات