CctoctoFX
Yuxiao Huang
Software engineer working at the intersection of AI infrastructure and ML systems.
System architecture
Large language models
AI infrastructure
Technology & geopolitics
Grounded in systems thinking — no fluff, just signal.
LLM 系统分析方法论（一）：预备知识与参数分解
从 config.json 到参数量、FLOPs、KV Cache、推理显存的完整计算推导。覆盖 Full Attention / MSA / MLA / Mamba-2 / SWA / GDN 六种注意力架构。第一篇：矩阵乘法基础与参数分解。
Ornith-1.0-397B 架构 QA
Ornith-1.0-397B 架构 50 问，覆盖总参/激活/KV Cache、hybrid attention 3:1 设计、512E top-10 MoE、self-scaffolding RL、reward hacking 防御、位置编码及推理部署。
Ornith-1.0-397B 架构深度拆解
Ornith-1.0-397B 是 DeepReinforce AI 的 frontier-scale agentic coding 模型。核心创新在 self-scaffolding RL 后训练方法，架构层面继承 Qwen3.5-MoE：60层 hybrid attention（45线性+15 full）、512路 top-10 MoE FFN、1层 MTP 辅助头、256K 原生上下文、27层 ViT。本期完整拆解 397B 规模配置、FLOPs/KV Cache/推理显存、self-scaffolding RL 框架、reward hacking 防御及异步 GRPO 训练体系。
幻灯片嵌入功能演示
演示在文章详情页嵌入 HTML 幻灯片的能力——支持键盘/滚轮/触屏翻页、全屏播放、懒加载。由 guizang-ppt / frontend-slides 等工具生成的 HTML 放入 static/slides/ 即可。
从 claude-mem 看 Agent Memory 的设计哲学
一篇关于 agent 长期记忆的长文。前半部分拆 claude-mem 13.8.0 的实现，后半部分讨论 agent memory 设计里那些绕不开的本质问题——write-time 压缩、provider 抽象、统一框架、六个未解难题。
LLM 系统分析方法论（七）：推理服务性能建模
推理服务完整性能建模：从单 token 延迟到多请求并发，覆盖连续批处理、PagedAttention、Prefill-Decode 分离、推测解码、量化部署。含 Llama-70B 完整服务分析和 MoE 模型服务策略。跨 NVIDIA + Ascend 双平台。