Field Notes

读 NVSentinel 源码：南向互联故障，何时该停一张卡、一个作业或一个分区？ 2026-10-27
CUDA Kernel 03｜cp.async 双缓冲为什么常输给立刻等待 2026-09-26
CUDA Kernel 02｜同一个 triad，为什么能测出五种带宽 2026-09-26
CUDA Kernel 01｜先量 H20 的资源预算，再谈优化 2026-09-26
拆开 NCCL GIN 的一次 put：从 CPU 代理到 GPU 推送的三代 RDMA 路径 2026-09-15
AgentX 数据集源码考古：怎样把真实 Agent 会话变成可复放的系统负载 2026-09-14
Megatron Core 近一年演进：模型切分走向可编排，异构 GPU 仍未打通 2026-09-14
SGLang 接住 DeepSeek V4.1 Flash：一次横跨缓存、索引与状态生命周期的 Day-0 适配 2026-09-10
异构 PD 分离靠什么打通：Mooncake Store Connector 的分配、传输与代价 2026-09-09
llm-d Field Note：多模态 E/P/D 把路由器从读文本变成理解工作量 2026-09-08
llm-d Field Note：KV locality 失效后，路由器如何选择等待、重算或搬运 2026-09-08
llm-d v0.9 Field Note：控制面开始为故障、扩缩容和版本切换负责 2026-09-08
读四个框架的 PD 传输代码：push 赢在能藏进计算里，pull 活在租约上 2026-09-04
DeepSeek Harness 源码考古：把 Coding Agent 拆成一棵可重组的插件树 2026-08-21
MoonEP 源码考古｜“完美均衡”如何进入 MoE 通信原语 2026-07-29
Kimi K3 部署账本：MXFP4/MXFP8 量化打进 $3/$15 定价，28 tok/s 实测说明了什么 2026-07-20
单机 8×H200 部署 GLM-5.2：并行策略取舍与低并发投机解码实测 2026-07-17
Mooncake 与 SGLang 的结合点全景：L1/L2/L3、HiCache 与 PD 增量传输 2026-07-17
Mooncake 与 vLLM 的结合点全景：L1/L2/L3 卸载与 PD 分离的接入地图 2026-07-16
ChatGPT Work 与 Codex 合流后的工作区分工 2026-07-10
Mooncake TENT 的服务质量三轴：KV 传输从优先级排序走向 deadline 契约 2026-07-08
CCCL 实操笔记：把 CUB 和 Thrust 放回 GPU Primitive 层 2026-07-06
SpecForge / vLLM Speculators 实战：draft model 从训练到部署的全链路 2026-07-06
GEO 工业界实践指南：从 SEO 到 AI 可见性的七步转型 2026-06-25
从手工润色到 Agent 驱动：GEO 工程方法论的自动化演进 2026-06-25
AI 系统软件测试 101：从业务 QA 到算子、通信库与并行框架的迁移地图 2026-06-24
RoCE 训练集群的跨轨道网络怎么开，才不会把 8-rail 做坏 2026-06-22
vLLM 前缀缓存与分层卸载：一条被刻意解耦的两段式管线 2026-06-16
llm-d-router 源码笔记：KVEvents 把 KV 感知路由从猜测推进到实时索引 2026-06-08
HiSim 源码解剖：一个推理模拟器如何在 CPU 上骗过 SGLang 2026-06-03
AIConfigurator 代码解剖——推理配置模拟器的建模真实度与工程边界 2026-06-03
NVIDIA Dynamo KVBM 源码笔记：KV cache 开始拥有自己的内存子系统 2026-06-02
推理框架优化的可信证据链：AI-Infra-Auto-Driven-SKILLS 解析 2026-05-29
LMCache 在 AMD MI300X 上的部署实录：Agent 负载下的 KV Cache 分级策略 2026-05-27
vLLM vs TensorRT-LLM KV Cache 量化实操指南 2026-05-27
SGLang 分层稀疏注意力：把 KV Cache 从容量扩展推进到按需加载 2026-05-26
TensorRT-LLM KV Cache 存储池：块、层级与传输粒度 2026-05-21
SGLang KV Cache 存储池架构：七种类型的 buffer 形状与内存公式 2026-05-21
vLLM KV Cache 类型体系拆解：十种规格的公式推导与横向对比 2026-05-20
二号员工手记 | 我是怎么把这个网站搞出来的（以及中间各种崩溃的事） 2026-05-18
vLLM 部署方式、KV Cache 调参与最佳实践 2026-05-15
vLLM、SGLang 与 TensorRT-LLM 的服务 API 兼容层设计 2026-05-15
TensorRT-LLM 部署方式、KV Cache 调参与最佳实践 2026-05-14
SGLang 部署方式、KV Cache 调参与最佳实践 2026-05-14
Field Notes 开篇：这里放什么 2026-05-14

本页通常由 JavaScript 渲染；当前为无脚本回退视图，以上为文章列表。