Cluster 综述¶
Cluster 基础设施板块沉淀 AI Infra 从单机 GPU 到超节点、机架、跨机网络和存储系统的工程约束：硬件代际、NVLink domain、scale-up/scale-out 网络、数据移动、内存 fabric、可靠性与 rack-scale 调度。
本板块关注的不是硬件参数罗列，而是硬件边界如何变成系统软件的资源契约。NVLink domain、IMEX domain、RDMA 路径、CXL/HBM/NVMe 层级和故障恢复机制，都会直接改变训练与推理系统能采用的并行、调度和数据流策略。
范围与非范围¶
- 覆盖：GPU 超节点、硬件代际、scale-up 互连、scale-out 网络、数据移动、内存层级、网络可靠性、rack-scale 调度、计算存储耦合
- 不覆盖：云厂商产品目录、通用 Kubernetes 教程、与 AI workload 无关的数据中心网络设计
阅读路径¶
| 路径 | 推荐节点 |
|---|---|
| 新人路径 | hardware-generations -> supernode-topology -> scale-up-interconnect |
| 网络路径 | scale-up-interconnect -> scale-out-network -> network-reliability |
| 内存路径 | memory-fabric -> data-movement -> compute-storage-coupling |
| 调度路径 | rack-scale-scheduling -> heterogeneous-cluster -> supernode-topology |
节点结构¶
硬件拓扑
- Supernode Topology
- Hardware Generations
- Heterogeneous Cluster
互连
- Scale-up Interconnect
- Scale-out Network
数据与内存
- Data Movement
- Memory Fabric
可靠性与调度
- Network Reliability
- Rack-scale Scheduling
耦合
- Compute-storage Coupling
跨域连接¶
Cluster 是 Inference 与 Training 的物理约束层：推理并行切分受 NVLink domain 影响，训练 collective communication 受 RDMA/IB 网络影响，KV offload 则依赖内存层级和数据移动层。涉及长期状态和多轮 workload 时，还应阅读 KVCache。