KVCache Knowledge Index¶
写作和检索先读本索引,再读节点 YAML。立场仅取未过期且未被替代的条目;暂定立场须至少 3 条方向一致的 medium 支撑。 本轮结晶审计 包含立场依据、矛盾裁决和知识缺口。
知识体系状态¶
- 节点总数: 40
- 有 Insights 的节点: 21
- Insight 总条目: 249(stale 33、superseded 5,两者可重叠;有效 211)
- high 条目: 2
- 上次结晶: 2026-11-04
- 覆盖文章数: 107
- 定位: 活跃飞轮(使用率 100%、引用率 58%、闭环率 52%;日志已按文章去重)
节点索引¶
算法维度¶
| 节点 | Bloom | Insights | 当前核心立场 |
|---|---|---|---|
| attention-variants | evaluate | 13 | 暂定:KV 容量按注意力结构和指定模型版本核算,跨长度结果须分列。 |
| sparsity | apply | 12 | 暂定:按查询选取与跨步跨层复用须分开建模,不能一概判为不可预取。 |
| compression-quantization | evaluate | 18 | 暂定:量化需分测读带宽、驻留容量、精度与物理取数粒度,格式和后端联合验收。 |
系统维度¶
| 节点 | Bloom | Insights | 当前核心立场 |
|---|---|---|---|
| runtime-architecture | apply | 12 | 暂定:KV 状态成为调度可见对象,分配权、连接器职责与状态身份须明确。 |
| storage-hierarchy | evaluate | 26 | 暂定:KV 分层须联合验收访问生命周期、布局与按时恢复能力。 |
| paged-kv | apply | 5 | 暂定:分页化解容量碎片,剪枝、I/O 与回收粒度仍须对齐。 |
| prefix-cache | evaluate | 19 | 前缀稳定与可达性决定复用,工作集越过 KV 容量可触发命中率陡降。 |
| offload | evaluate | 25 | 暂定:卸载收益随访问粒度、搬运原语和硬件变化,稀疏需求不能只按带宽估算。 |
| lifecycle | apply | 3 | — |
部署维度¶
| 节点 | Bloom | Insights | 当前核心立场 |
|---|---|---|---|
| pd-disaggregation | evaluate | 15 | 暂定:KV 交接须区分增量状态与持久范围,统一提交点和租约生命周期。 |
| routing | evaluate | 14 | 暂定:亲和与均衡须按容量、轮间间隔及状态重取成本联合选择。 |
工作负载 / 评估 / 未来¶
| 节点 | Bloom | Insights | 当前核心立场 |
|---|---|---|---|
| workload-multiturn | remember | 1 | — |
| workload-agent | apply | 7 | 暂定:Agent 容量按会话累积与停等复用估算,并单测重算及语义精度。 |
| workload-reasoning | remember | 1 | — |
| evaluation-benchmarks | evaluate | 5 | 暂定:分别测等并发、等容量与复用开关;会话回放不等于任务质量。 |
| future-system | understand | 2 | — |
框架对比¶
| 节点 | Bloom | Insights | 当前核心立场 |
|---|---|---|---|
| framework-vllm | apply | 4 | 暂定:调度器掌握 GPU block 分配,第一方卸载和外置连接器须按接口边界验收。 |
| framework-sglang | apply | 4 | 暂定:存储池随模型架构静态选择,HiCache 管策略,外部存储管机制。 |
| framework-trtllm | apply | 5 | 暂定:KV 层级与标准挂点须结合精度和版本验收,旧版最优不外推。 |
| framework-lmcache | apply | 3 | — |
| framework-mooncake | apply | 17 | 暂定:Store、传输与 Conductor 分工明确,本地性和租户准入须显式配置。 |
无 Insights 节点(19 个,bloom=remember,立场 —):
| parallelism | elasticity | workloads | workload-coding | workload-rag | crossings | crossing-algo-system | crossing-system-deployment | crossing-deployment-workload | crossing-algo-workload | crossing-paradigms | evaluation | evaluation-metrics | evaluation-scenarios | future | future-algorithm | future-deployment | future-workloads | frameworks |
活跃矛盾¶
3 处;同节点自动筛查 15 对进入逐项复核,另复核新增条目和历史争议。详见审计记录。
知识缺口¶
19 个无 Insight 节点;workload-multiturn / workload-reasoning 各仅 1 条有效条目,lifecycle 仅 2 条 medium;源码快照需按当前版本重走。
上次结晶记录¶
2026-11-04:新增 stale 19 条、后继标记 4 条,Bloom 变动 4 处;全部节点立场重新评估。每域补 1 个场景自评,独立互证候选见审计报告。