扩散语言模型 KV 缓存量化流程图

扩散语言模型 KV 缓存量化流程图

概览

扩散语言模型 KV 缓存量化的三区流程图。这是一张可编辑的 PowerPoint 图,依据 CC BY 4.0 许可改编自论文原图。

图中内容

(a) 块扩散解码过程:提示词 + 标准答案 token 条和图例(提示词、掩码、已解码、已量化 token 与 token 置信度);初始分配轨迹中斜纹掩码格随中间步 t = 1 … 0 逐步解码,右侧置信度小柱对照 0.5 阈值 → 迭代细化循环(Build x → Score s[i, t] → Min-Cost Max-Flow → Update Trajectory)→ 阈值 0.8、解码顺序重新排列的细化轨迹。(b) 离线策略构建:候选保护热力图(每组 × token,附分数色条)接到逐层 token 保护策略表(Layer / Policy / Num,● 块初始化注意力、▲ 量化误差、◆ 注意力 × 误差三种标记)。(c) 在比特预算下的在线 KV 缓存量化:1. 每层的 KV 缓存分组,2. 保护重要 token(top-k,描边格),3. 混合精度量化(品红格),再经扩散语言模型解码器 → 输出序列。每个方框、箭头、标签和公式都是原生形状,改配色、改文字、拆开单独用都行,适合组会汇报、开题、论文配图和海报。

文件格式

下载包含:.pptx(1 页,17.54 × 9.56 英寸;PowerPoint、Keynote、WPS、LibreOffice 都能打开;Google Slides 也能用,但复杂自由曲线可能略有偏移)、.svg、.drawio。附原尺寸预览图 preview.png,另有 1200 px 网页预览图。

形状与编辑

631 个原生可编辑形状:343 个自选图形、71 个文本框、217 个自由曲线、0 条线条/连接线。不含任何嵌入图片,全部矢量。可编辑内容:全部文字和公式(t = 1、t = 0、s[i, t])、token 条与轨迹里的每个格子、斜纹掩码格、带虚线阈值的置信度小柱、弯曲步进箭头、迭代细化循环的方框和箭头、热力图格子和分数色条、策略表格和 ● ▲ ◆ 标记、带描边保护格的量化行、解码器与输出框、灰色块状箭头和所有虚线面板。

嵌入图片与字体

本文件不含任何嵌入图片,全部为矢量。正文用 Calibri,公式统一用 Times New Roman(Calibri 随 Microsoft Office 安装,Times New Roman 是 Windows 和 macOS 自带;LibreOffice 会用等宽度的 Carlito 和 Liberation Serif 显示)。上下标是真正的上标 / 下标文字格式,不是公式编辑器对象。SVG 里的文字仍是可编辑文字;draw.io 文件是逐个形状转换的,个别位置可能要微调。本文件是忠实重绘,不是作者的原始源文件。

来源与许可 改编自论文 KV Cache Quantization for Diffusion Language Models 的图 2,作者 Yan Tai, Yunan Ding, Guangzhao Li, Siqi Luo, Chaoyang Zhang, Guangtao Zhai, Guodong Guo, Xiaohong Liu(arXiv:2610.39853,https://arxiv.org/abs/2610.39853)。原图采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。由 叫我Alonzo就好了/alonzolab 重绘为可编辑形状并做了修改。本商品与原作者无关,也未获原作者认可。

有疑问或反馈?请发邮件至 [email protected]