https://pillumina.github.io/tags/dsa/ Recent content in Dsa on CctoctoFX https://pillumina.github.io/imgs/icon_head.png https://pillumina.github.io/imgs/icon_head.png Hugo -- 0.148.2 en Wed, 10 Jun 2026 00:00:00 +0000 https://pillumina.github.io/posts/architecture/glm-5.1/ Wed, 10 Jun 2026 00:00:00 +0000 https://pillumina.github.io/posts/architecture/glm-5.1/ GLM-5.1（744B 总参 / 40B 激活）是智谱 AI 与清华联合发布的旗舰 Agent 大模型。核心创新为 DSA 动态稀疏注意力（top-2048, 节省 72.5% 注意力计算）+ MLA 潜 KV 压缩（理论 ~19 GB）+ 256+1 MoE（routed_scaling_factor=2.5）。本期完整拆解 78 层架构、DSA Indexer 7 步算子、MLA Muon Split、异步 Agent RL 训练体系，并与 M2.7 做全维度对比。