跳转至

KVCache Knowledge Index

写作和检索先读本索引,再读节点 YAML。立场仅取未过期且未被替代的条目;暂定立场须至少 3 条方向一致的 medium 支撑。 本轮结晶审计 包含立场依据、矛盾裁决和知识缺口。

知识体系状态

  • 节点总数: 40
  • 有 Insights 的节点: 21
  • Insight 总条目: 249(stale 33、superseded 5,两者可重叠;有效 211)
  • high 条目: 2
  • 上次结晶: 2026-11-04
  • 覆盖文章数: 107
  • 定位: 活跃飞轮(使用率 100%、引用率 58%、闭环率 52%;日志已按文章去重)

节点索引

算法维度

节点 Bloom Insights 当前核心立场
attention-variants evaluate 13 暂定:KV 容量按注意力结构和指定模型版本核算,跨长度结果须分列。
sparsity apply 12 暂定:按查询选取与跨步跨层复用须分开建模,不能一概判为不可预取。
compression-quantization evaluate 18 暂定:量化需分测读带宽、驻留容量、精度与物理取数粒度,格式和后端联合验收。

系统维度

节点 Bloom Insights 当前核心立场
runtime-architecture apply 12 暂定:KV 状态成为调度可见对象,分配权、连接器职责与状态身份须明确。
storage-hierarchy evaluate 26 暂定:KV 分层须联合验收访问生命周期、布局与按时恢复能力。
paged-kv apply 5 暂定:分页化解容量碎片,剪枝、I/O 与回收粒度仍须对齐。
prefix-cache evaluate 19 前缀稳定与可达性决定复用,工作集越过 KV 容量可触发命中率陡降。
offload evaluate 25 暂定:卸载收益随访问粒度、搬运原语和硬件变化,稀疏需求不能只按带宽估算。
lifecycle apply 3 —

部署维度

节点 Bloom Insights 当前核心立场
pd-disaggregation evaluate 15 暂定:KV 交接须区分增量状态与持久范围,统一提交点和租约生命周期。
routing evaluate 14 暂定:亲和与均衡须按容量、轮间间隔及状态重取成本联合选择。

工作负载 / 评估 / 未来

节点 Bloom Insights 当前核心立场
workload-multiturn remember 1 —
workload-agent apply 7 暂定:Agent 容量按会话累积与停等复用估算,并单测重算及语义精度。
workload-reasoning remember 1 —
evaluation-benchmarks evaluate 5 暂定:分别测等并发、等容量与复用开关;会话回放不等于任务质量。
future-system understand 2 —

框架对比

节点 Bloom Insights 当前核心立场
framework-vllm apply 4 暂定:调度器掌握 GPU block 分配,第一方卸载和外置连接器须按接口边界验收。
framework-sglang apply 4 暂定:存储池随模型架构静态选择,HiCache 管策略,外部存储管机制。
framework-trtllm apply 5 暂定:KV 层级与标准挂点须结合精度和版本验收,旧版最优不外推。
framework-lmcache apply 3 —
framework-mooncake apply 17 暂定:Store、传输与 Conductor 分工明确,本地性和租户准入须显式配置。

无 Insights 节点(19 个,bloom=remember,立场 —):

| parallelism | elasticity | workloads | workload-coding | workload-rag | crossings | crossing-algo-system | crossing-system-deployment | crossing-deployment-workload | crossing-algo-workload | crossing-paradigms | evaluation | evaluation-metrics | evaluation-scenarios | future | future-algorithm | future-deployment | future-workloads | frameworks |

活跃矛盾

3 处;同节点自动筛查 15 对进入逐项复核,另复核新增条目和历史争议。详见审计记录。

知识缺口

19 个无 Insight 节点;workload-multiturn / workload-reasoning 各仅 1 条有效条目,lifecycle 仅 2 条 medium;源码快照需按当前版本重走。

上次结晶记录

2026-11-04:新增 stale 19 条、后继标记 4 条,Bloom 变动 4 处;全部节点立场重新评估。每域补 1 个场景自评,独立互证候选见审计报告。