视觉语言模型 Token 剪枝架构图

概览

VLM 两阶段视觉 token 压缩的四面板彩色架构图。这是一张可编辑的 PowerPoint 图，依据 CC BY 4.0 许可改编自论文原图。

图中内容

(a) 两阶段联合压缩，配计算 / 显存 / 精度三轴权衡三角。(b) 空间密度信号：切块为 H×W 个 token、3×3 / 5×5 / 7×7 邻域、密度分数公式 ρ_ij 和分数图。(c) 预填充：按密度把源集合 A 二分合并到目标集合 B，得到 N′ = N(1−r) 个 token。(d) 解码：按 ρ 给视觉 KV 排序，保留 top-k、驱逐其余，再送入 LLM 解码器。每个方框、箭头、标签和公式都是原生形状，改配色、改文字、拆开单独用都行，适合组会汇报、开题、论文配图和海报。

文件格式

下载包含：.pptx（1 页，14.83 × 7.37 英寸；PowerPoint、Keynote、WPS、LibreOffice 都能打开；Google Slides 也能用，但复杂自由曲线可能略有偏移）、.svg、.drawio。附原尺寸预览图 preview.png，另有 1200 px 网页预览图。

形状与编辑

354 个原生可编辑形状：242 个自选图形、69 个文本框、6 个自由曲线、37 条线条/连接线。另有 2 张嵌入图片（见下方说明）。可编辑内容：全部文字和密度分数公式（分式、求和、⟨𝐱_ij, 𝐱_i′j′⟩、𝒩_w(i, j)）、每个 token / KV 格子、邻域网格、分数图和色条、二分合并弧线、柱状图、三角形和说明框。

嵌入图片与字体

有 2 处是嵌入位图：示例食物照片和它的切块版本。文字统一用 Times New Roman（Windows 和 macOS 自带；LibreOffice 会用等宽度的 Liberation Serif 显示）。𝒩、ℰ、𝒮 这类花体数学字母用 Cambria Math（随 Microsoft Office 安装），其他软件会自动换成数学字体。上下标是真正的上标 / 下标文字格式，不是公式编辑器对象。SVG 里的文字仍是可编辑文字；draw.io 文件是逐个形状转换的，个别位置可能要微调。本文件是忠实重绘，不是作者的原始源文件。