Mimo-V2-Flash 架构 QA
基于 Mimo-V2-Flash 主报告的配套 QA。覆盖 Hybrid Dispatch MoE 路由、MTP×2 投机解码、SwiGLU FFN 等核心主题。
基于 Mimo-V2-Flash 主报告的配套 QA。覆盖 Hybrid Dispatch MoE 路由、MTP×2 投机解码、SwiGLU FFN 等核心主题。
Mimo-V2-Flash 是小米 Mimo 团队的开源 MoE 模型。核心创新为 Hybrid Dispatch(Sink+Bias 双机制)MoE 路由、MTP×2 投机解码、SwiGLU FFN 等。本期拆解整体架构、混合路由机制、MTP 设计及与同期模型的对比。
基于 M2.7 主报告的配套 QA。覆盖五代演进、Full Attention 回归、GQA+QK Norm、MoE 路由(sigmoid+routing bias)、MTP×3、训练体系等核心主题。
基于 Qwen3.5-MoE 主报告的配套 QA。覆盖混合注意力(GDN+Full Attention)、Gated DeltaNet 线性注意力、2048 专家 MoE、262K 上下文等核心主题。
V4-Flash(284B 总参 / 13B 激活)是 DeepSeek 2026-04-24 发布的旗舰 MoE 模型。核心创新为 CSA+HCA 混合稀疏注意力(长上下文 1M 支持)、62 层 384 专家 MoE、mHC 多通道残差替代 Pre-Norm、Muon 正交化优化器。本期完整拆解 V3.2→V4 演进、稀疏注意力双引擎、8 类 gating 负载均衡对比、FP4+FP8 混合量化,以及 13 类架构组合的 4D Parallelism 部署策略。