https://pillumina.github.io/tags/msa/ Recent content in Msa on CctoctoFX https://pillumina.github.io/imgs/icon_head.png https://pillumina.github.io/imgs/icon_head.png Hugo -- 0.148.2 en Mon, 15 Jun 2026 00:00:00 +0000 https://pillumina.github.io/posts/qa/minimax-m3-qa/ Mon, 15 Jun 2026 00:00:00 +0000 https://pillumina.github.io/posts/qa/minimax-m3-qa/ 基于 MiniMax-M3 主报告的配套 QA。覆盖 MSA 多阶段稀疏注意力、GQA 配置、MoE 路由、视觉编码器、MTP 投机解码、训练体系等核心主题。 https://pillumina.github.io/posts/architecture/minimax-m3/ Mon, 15 Jun 2026 00:00:00 +0000 https://pillumina.github.io/posts/architecture/minimax-m3/ MiniMax-M3 是 MiniMax 的旗舰多模态 MoE 模型。核心创新为 MSA（Multi-stage Sparse Attention）索引机制实现长上下文稀疏注意力、GQA（64Q/8KV）、256E MoE（k=8, sigmoid+bias）、视觉编码器（ViT+MLP投影）、MTP×1 投机解码。本期完整拆解 MSA 三阶段索引、MoE 路由数据流、视觉编码架构及训练体系。