AI Infra Knowledge Base
Miracle Farms Wiki¶
这里是 Miracle Farms 的技术知识库,用于沉淀 AI Infra、LLM Systems 和 Distributed Inference 领域的系统性知识。
与博客文章的"时间线"视角不同,Wiki 提供的是主题维度的结构化参考:每个主题从基础概念到系统实现,构成一条完整的知识路径。
当前主题¶
持续更新中
KVCache
LLM 推理引擎中的核心运行时状态:管理、优化与系统影响。
58 Insights · 13 Nodes
Agents
Agent Harness、工具使用、记忆、编排、可靠性、治理与评估。
57 Insights · 12 Nodes
Inference
推理引擎、P/D 分离、调度、并行扩展、MoE serving 与长上下文服务。
50 Insights · 10 Nodes
Cluster
超节点、互连、数据移动、内存层级、可靠性与 rack-scale 调度。
23 Insights · 9 Nodes
Training
分布式训练通信、并行策略、RL 基础设施、权重管理与训练容错。
跨域阅读¶
Agentic Inference
Agents × Inference × KVCache:多轮上下文、工具调用历史、streaming 与 prefix/offload 策略。
Supernode Serving
Cluster × Inference:NVLink domain、P/D 分离资源比例、MoE serving 与 rack-scale 调度。
RL Infrastructure
Training × Agents × Inference:rollout、reward、权重同步和异步更新的端到端关键路径。
Memory Fabric
Cluster × KVCache:HBM、DRAM、NVMe、remote tier 和数据移动层如何改变 KV offload 边界。
关于 Miracle Farms¶
Miracle Farms 是一个专注于 AI Infra 系统研究的写作项目,发布形式包括每日早报(Brief)和深度技术文章(Essay)。Wiki 是其知识沉淀的第三种形式,补充那些不适合单篇文章表达的结构性知识。