Essays
MoE 强化学习的 40% 吞吐提升，究竟是通信收益还是整栈重排？
2026-09-26
Agent 改对了代码，为什么推理服务仍会失败？从 SWE-Serve 看生产正确性
2026-09-26
Agentic 推理需要更多 CPU，但不必把 CPU 固定绑在 GPU 上
2026-09-01
竞争单元从芯片挪到了机架：Hot Chips 2026 上的四张推理配方单
2026-08-26
decode 的三种切法：Hot Chips 2026 上 NVIDIA 把推理分离画成了一条前沿
2026-08-26
PD 分离与 AF 分离：大模型推理架构的技术解析与适用边界探讨
2026-08-25
统一框架：用 Token、KV、Activation 与 Gradient Flow 重读 LLM 性能模型
2026-07-21
训练扩展模型——Amdahl、MFU 与并行效率
2026-07-21
Serving 模型的性能骨架：从 TTFT/TPOT 拆账到 PD 分离的资源配比
2026-07-21
Roofline 如何解释 LLM 算子性能
2026-07-21
大模型系统为什么需要性能模型：从 Roofline 到排队论的五条主线
2026-07-21
通信模型——从 LogP 的注入间隙到 GPU Collective 的微秒拆解
2026-07-21
北向互联需要多少个 QP？1k/8k/16k 集群的预算算术与 8K 上限的风险清单
2026-07-16
南向互联全栈综述：物理介质、传输协议、通信拓扑与上层应用的四轴地图
2026-07-15
推测解码的冰山模型：选 draft model，先看 latency，别看语言能力
2026-07-06
四种 scale-up fabric 在数据链路层和事务层的分野：NVLink、UALink、SUE、UnifiedBus
2026-06-30
生成式引擎优化（GEO）：从概念到大规模测量的全景解读
2026-06-25
GEO 的阴暗面：品牌操控、安全漏洞与治理盲区
2026-06-25
华为灵衢 UnifiedBus 综述：先把协议和拓扑分开，再谈超节点
2026-06-24
Google TPU 架构演进：从单卡 ASIC 到可调度互联域
2026-06-22
超节点南向互联：六条路线、三类哲学与系统契约之争
2026-06-21
UALink 综述：开放 Scale-Up Fabric 如何变成系统契约
2026-06-21
SUE 综述：以太网交换芯片如何进入 Scale-Up 互联
2026-06-21
NVLink 演进史：从 P100 四条链路到 Rubin/Feynman 的机架级 fabric
2026-06-21
大规模 embedding 基建综述：容量、新鲜度、一致性、吞吐怎么互相让位
2026-06-20
推理引擎之后：LLM Serving Control Plane 的生态位战争
2026-06-17
Mooncake 源码架构分析：从 KV Cache Store 到推理数据面操作系统
2026-06-16
UALink 与光互连重塑 Scale-Up 边界：带宽断崖去哪了
2026-06-16
跨数据中心训练的主线正在从堆 GPU 转向重写同步边界
2026-06-16
算力异构化：大模型训练从硬件到框架的全栈综述
2026-06-11
调度理论给推理引擎发裁决书：从 Little's Law 到 KV 约束的四层地基
2026-06-11
KV Cache 池化的南向选择：scale-up 内存语义的收益边界
2026-06-10
大规模分布式推理的调度层（下）：从相位、区域到学出来的路由
2026-06-08
大规模分布式推理的调度层（上）：KV cache 如何把负载均衡变成状态局部性问题
2026-06-08
KVCache：从推理工作负载到系统设计范式
2026-06-02
从 KV Cache 底座到推理统一数据面：Mooncake 的架构演化、生态落地与选型
2026-06-02
KV Cache 不再只有一种增长公式：从 GQA、MLA 到混合注意力的推理系统重构
2026-06-01
DeepSeek V4 的注意力架构抉择：从 2% KV Cache 反推 CSA/HCA 的工程逻辑
2026-05-28
Agentic 推理的性能重构：KV Cache 与系统调度的十个新判断
2026-05-28
异构混推国家标准制定的国际参照系
2026-05-28
代码是 Agent 的基础设施：Harness 工程学的兴起
2026-05-26
超节点时代的软件栈演进：把机柜当成运行时边界
2026-05-26
KV Cache 前缀匹配的设计分野：SGLang Radix Tree、vLLM 链式哈希与 TRT-LLM 两阶段 Claim
2026-05-13
CXL + KVCache 现状调研报告
2026-05-13
TensorRT-LLM 的 KVCache 架构：以 Block 为中心的三层存储与事件驱动路由
2026-05-09
生产级 Agent 的 Token 经济学：Claude Code 上下文工程、Anthropic 缓存接口与底层 KV Cache 基础设施
2026-05-08
KV Cache 在 Agent 长上下文场景的 Benchmark：现状、代表工作与研究空白
2026-04-08
强化学习异步训练方案深度解析：三派路线与技术选型
2026-03-17
vLLM：从 PagedAttention 到推理基础设施平台
2026-03-15
SGLang 如何管理 KVCache：从 RadixAttention 到 HiCache 的底层技术主线
2026-03-14
vLLM 如何管理 KV Cache：从 Block Pool 到调度器的运行时资源层
2026-03-12
本页通常由 JavaScript 渲染；当前为无脚本回退视图，以上为文章列表。