Visual Contrastive Self-Distillation

论文元数据

• Authors: Yijun Liang, Yunjie Tian, Yijiang Li, Yuqi Jia, Furong Huang, Tianyi Zhou, Di Fu
• Publication date: 2026-07-23T00:00:00.000Z
• arXiv: https://arxiv.org/abs/2607.21556
• PDF: https://arxiv.org/pdf/2607.21556
• Project: https://joliang17.github.io/VisualCSD/
• Code: https://github.com/joliang17/VCSD
• 本次阅读输入： 文本回退 + 已定位图像

---

论文标题：Visual Contrastive Self-Distillation

阅读范围与证据边界

• 本解读基于论文 arXiv:2607.21556v1 的全文文本提取结果，包含正文、公式、表格转录、图注、参考文献和附录证明；输入模式是文本回退（text fallback），而非直接审阅原始 PDF。
• 下文严格区分：作者主张指论文的解释与结论；论文直接证据指提取文本中明确报告的实验、数值、公式与图注；分析者判断指基于这些材料对机制、证据强度和复用价值的评估。
• 我没有直接检查 PDF 的页面布局、颜色、曲线几何、图中空间关系、视觉标记，或文本提取与图注中未保留的图表细节。因此，不会把图中的颜色、趋势形状、热力图分布或定性示例的视觉呈现当作已独立核验的证据。
• 论文未在当前材料中提供多随机种子方差、置信区间、显著性检验、训练数据的详细组成与去重信息、完整超参数搜索过程及外部复现实验；这些缺失限制了对稳定性、泛化性和公平比较的判断。
• 论文使用的若干相关方法和 2026 年工作仅以作者引用形式出现；本文不对其原始论文的具体实现或结论作超出当前文本的断言。

1. 一页速览：值不值得看

项目	判断
问题	VLM 的 on-policy self-distillation（OPSD）需要“教师—学生信息不对称”才能产生有效学习信号。已有方法常依赖答案提示、推理轨迹、视觉区域/裁剪等额外信息；本文问：能否只用原图及一个去内容控制图构造这种不对称？
一句话方法	对同一学生生成前缀，EMA 教师分别看原图和内容擦除图，计算逐 token 的条件对数概率差，用该差值在原图教师的高可信候选集合内重加权，再以全分布 forward KL 蒸馏给学生。
真正新意	核心新意不是一般的 contrastive decoding，也不是 EMA 自蒸馏本身，而是将“原图—去内容图”的同模型、同前缀、仅视觉条件不同的 token 分布差，转成训练时的密集视觉依赖信号，并以原图分布作锚防止比值放大低概率 token。
关键结果	在 ViRL39K 后训练、七项 VLM 基准平均准确率下，Qwen3-VL 的 2B/4B/8B 从 Base 的 62.27/71.30/72.51 提至 67.04/73.16/76.26；相对匹配 OPSD，8B 高 2.54 点。Qwen3.5 的 2B/4B/9B 也分别优于 Base 2.90/2.83/4.27 点。
可信度	中等。 六个模型规模、七项基准及若干消融方向一致，方法机制也有明确目标函数；但实验仅围绕一个训练集、固定且很短的 90-step 预算，缺少方差、统计检验、跨数据/跨架构复现，以及对答案提示基线资源公平性的充分说明。
相关性	对 VLM 后训练、视觉 grounding、OPSD / RLHF 风格的分布塑形高度相关；对 Diffusion-RLHF 没有直接实验，但“matched condition contrast + plausibility anchor”的信号构造思想可迁移。
建议	精读。 值得重点读第 3 节目标构造、4.3–4.7 消融与附录的 KL 正则化解释。若目标是直接寻找可投产的 VLM 训练配方，则应先复现实验并验证更大训练预算下是否仍稳定。

Figure 1｜第 2 页。 Figure 1: Comparison of different sources of target asymmetry. Existing methods sharpen the teacher distribution using privileged answers or visual evidence. Our method instead contrasts teacher predictions under the original image and a content-erased control, producing a visually in- formed target using only the image and question, without auxiliary supervision. 图像按 caption/版面候选定位并从原 PDF 页面渲染；本报告的分析性结论仍以正文与 caption 为依据，未将未执行的视觉模型审阅伪装为视觉证据。

2. 方法论拆解

2.1 问题与已有路线的缺口

作者针对的不是“如何额外增强视觉输入”，而是更具体的 OPSD 信号问题：学生沿自身 rollout 的前缀生成回答，EMA 教师若在完全相同的输入和前缀下给出分布，教师目标与学生现有预测接近，蒸馏缺乏新增信息。

理解本文只需保留四条路线：

1. 外部教师的 on-policy distillation（OPD）
   学生在自己的轨迹上获得更强教师的 token 级监督。其优势是训练状态与推理状态对齐，代价是外部教师的推理与维护成本。本文保留 on-policy 前缀，但用 EMA 自教师替代外部教师。

2. 带 privileged information 的 OPSD
   教师可看到答案提示、推理轨迹或专家示范，学生不可见，从而制造信息不对称。作者以 answer-hint OPSD 作为主要对照。其局限是需要训练数据附带答案或额外监督。

3. 视觉证据增强的 OPSD
   教师使用裁剪、区域、证据视图等更聚焦的视觉条件。其局限是往往需要定位器、标注或人为设计的图像处理。VCSD 不试图提供“更好的视觉证据”，而是比较“有实例图像内容”和“没有实例图像内容”时的预测变化。

4. 推理时视觉对比解码
   既有 contrastive decoding 会比较原图/退化图或不同模型的 logits，直接修改推理 token 选择。VCSD 的区别是：对比发生在训练目标构造中，部署时只保留更新后的学生，因此不增加推理分支和推理成本。

作者真正修补的失败点是：仅靠 on-policy rollout 决定“在哪些状态学习”，却没有说明 EMA 自教师“提供什么额外监督”。VCSD 的回答是：视觉内容被移除时显著降概率的 token，更可能依赖该实例的视觉信息，因此可作为一个局部、密集的视觉 grounding 信号。

2.2 核心机制与流程

给定 prompt—图像对 $(P,J)$，学生为 ${\pi }_{\theta }$，EMA 教师为 ${\pi }_{\varphi }$。学生首先在原图条件下生成 on-policy 回答：

$$y\sim {\pi }_{\theta }(\cdot \mid P,J).$$

在第 $t$ 个位置，固定学生已经生成的前缀 $y_{<t}$。教师不生成两条独立轨迹，而是在相同 prompt、相同前缀、相同参数下做两次 next-token 评估：

• 原图条件：$p_{\varphi ,t}^J(v)={\pi }_{\varphi }(v\mid P,J,y_{<t})$；
• 控制图条件：$p_{\varphi ,t}^0(v)={\pi }_{\varphi }(v\mid P,J_{\mathrm{ctrl}},y_{<t})$。

其中 $J_{\mathrm{ctrl}}=C(J)$ 是与原图同尺寸的黑色 RGB 图像。作者强调它保留多模态输入接口、预处理路径和视觉 token 数，只移除实例级图像内容。这个设计的目的，是避免把“是否输入图像”与“图像具体内容”混在一起。

第一个核心量为逐 token 的视觉条件对比：

$${\Delta }_t(v)=\log p_{\varphi ,t}^J(v)-\log p_{\varphi ,t}^0(v).$$

变量 $v$ 是词表 token。若 ${\Delta }_t(v)>0$，表示在原图存在时，教师更偏好 token $v$；若为负，则该 token 在内容被擦除后反而更受偏好。它在方法中的角色是“相对于控制条件的视觉依赖度”，而非传统正负样本式表征对比损失。

但单用 ${\Delta }_t(v)$ 有显著风险：一个原图下几乎不可能的 token，也可能因控制图下概率更低而得到很大 log-ratio。因此作者先定义原图教师的相对可信候选集：

$$S_t(\beta )=\left\{v\in V:p_{\varphi ,t}^J(v)\ge \beta \underset{u\in V}{\max }{p}_{\varphi ,t}^J(u)\right\}.$$

其中 $\beta \in [0,1]$ 是阈值。该式的必要假设是：原图教师的高相对概率候选大体构成合理语言与视觉语义支持集。它并不保证所有保留 token 正确，只是限制后续重加权不能由极低先验概率 token 主导。

最终的 contrast-shaped target 为：

$$q_t^{\star }(v)=\frac{1[v\in S_t(\beta )]p_{\varphi ,t}^J(v)\exp \left(\alpha {\tilde{\Delta }}_t(v)\right)}{{\sum }_{u\in S_t(\beta )}{p}_{\varphi ,t}^J(u)\exp \left(\alpha {\tilde{\Delta }}_t(u)\right)}.$$

这里 $\alpha \ge 0$ 控制视觉对比强度；${\tilde{\Delta }}_t$ 与 ${\Delta }_t$ 相同，但作者将指定终止 token 的对比值置零以提高训练稳定性。它把两个信号分工：

• $p_{\varphi ,t}^J$：决定哪些 token 本来就合理，并提供语言流畅性与语义先验；
• ${\tilde{\Delta }}_t$：只在这些合理候选中偏向更依赖当前图像内容的 token；
• $S_t(\beta )$：作为硬约束，阻断低概率 token 被比值异常放大。

学生以完整词表分布的 forward KL 拟合目标：

$${\mathcal{L}}_{\mathrm{VCSD}}=T_{\mathrm{KD}}^2{\mathbb{E}}_{(P,J),y}\left[\frac{1}{|y|}\sum _{t=1}^{|y|}{D}_{\mathrm{KL}}\left(\mathrm{sg}[q_t^{\star }]\parallel p_{\theta ,t}\right)\right].$$

其中 $\mathrm{sg}$ 表示目标停止梯度，$T_{\mathrm{KD}}$ 为蒸馏温度。教师随后以 EMA 更新：

$$\varphi \leftarrow \mu \varphi +(1-\mu )\theta .$$

作者的理论解释是：$q_t^{\star }$ 等价于在原图教师分布上进行一次 KL 正则化的局部策略更新，隐式 reward 为 ${\tilde{\Delta }}_t(v)$。这在数学上成立：对支持集上的分布 $q$ 最大化视觉 reward 期望，同时惩罚其偏离原图教师分布，闭式解正是上述指数重加权目标。

不过，把 ${\Delta }_t(v)$ 解释为条件 PMI 的前提很强。它需要黑图条件下的 $p_{\varphi }(v\mid J_{\mathrm{ctrl}},H_t)$ 足够接近“去除实例图像信息后的预测” $p_{\varphi }(v\mid H_t)$。黑图仍可能携带模型已学习的“黑图/空图”分布偏置，也未必等价于真正的无视觉语义条件；作者将其称为 controlled surrogate，较为谨慎，但这一近似尚未被直接验证。

2.3 关键设计与创新判断

1. 同一 EMA 教师的双视觉条件比较

   • 解决什么：不引入外部教师、答案提示或额外视觉证据的情况下制造 OPSD 目标不对称。
   • 为什么可能有效：固定文本上下文、前缀和参数后，概率变化更容易归因于视觉内容条件。
   • 证据是否表明必要：$\alpha =0$ 时性能较 $\alpha =1$ 低 2.33 个 aggregate 点，支持“对比项”有贡献。
   • 创新判断：是本文最核心的方法贡献。其组成元素并非全新，但将条件对比转化为 on-policy 自蒸馏目标的组合具有明确方法辨识度。

2. 原图概率锚点与 plausibility support

   • 解决什么：避免 likelihood-ratio 信号奖励原图下不可信的 token，降低自蒸馏递归漂移。
   • 为什么可能有效：先验分布约束可把视觉敏感性限制在语义和语言上原本合理的局部区域。
   • 证据是否表明必要：作者报告去掉 support 限制后，长训练阶段 aggregate 逐步退化；但该证据主要来自 Qwen3-VL-2B 单一设定。
   • 创新判断：这是使方法可用的关键稳定化设计，更像对比解码中合理性约束向蒸馏场景的迁移，而非独立概念创新。

3. 全分布 forward KL，而不是仅选 token 或序列级 reward

   • 解决什么：保留视觉对比后目标分布的多个合理候选，而非把信号压成单 token 标签。
   • 为什么可能有效：视觉问题可能存在多个语义相近候选，mode-covering 的 forward KL 更能保留教师分布质量。
   • 证据是否表明必要：在 Qwen3-VL-2B 上，forward KL 的 aggregate 为 67.04，高于 JSD 的 66.25 和 reverse KL 的 64.77。
   • 创新判断：是合理的蒸馏选择，证据支持其在当前设定较优，但不足以说明对所有 VLM 或长序列任务普遍最优。

4. 黑图作为默认控制条件

   • 解决什么：以廉价、统一方式移除实例图像内容，同时保持输入尺寸与视觉编码流程。
   • 为什么可能有效：黑图、噪声、模糊和 no-image 在文本报告中获得相近 aggregate，暗示关键可能是“去实例内容”而非具体退化算子。
   • 证据是否表明必要：反而表明黑图本身并不特殊；高斯噪声控制在报告中略高于黑图（67.14 对 67.04）。
   • 创新判断：工程选择，而非核心方法贡献。其优势是实现简单，不是被证明最优。

2.4 可迁移的方法论

对 VLM / RLHF 风格后训练的直接迁移价值较高：

• 可迁移的训练信号：将“原输入”与“结构保持、信息删除的控制输入”下的预测差，构造成 token 级偏好或密集 reward。对需要降低语言先验主导、提升视觉依赖的 VLM 任务尤其合适。
• 可迁移的稳定化模式：不要直接最大化条件差，而应保留原条件模型分布作为 anchor，并限制作用 support。这一模式也可用于文本中的证据遮蔽、音频中的片段静音或多模态输入中的模态缺失控制。
• 可迁移的实验思路：比较不同控制构造是否产生一致收益，能帮助区分“特定增强技巧有效”与“信息移除本身有效”。本文四种控制的接近结果是有价值的诊断设计。
• 对 Diffusion / RLHF 的可能迁移：可把原条件与内容移除条件下的去噪 score、动作分布或偏好模型输出之差作为局部奖励，再以原条件分布为 KL reference。但这只是分析者判断，论文没有在 diffusion 上验证；扩散过程是连续、多步且噪声层级相关的，不能直接照搬 token 级公式。
• 迁移风险：控制输入若引入显著 OOD 偏置，差值可能衡量“模型对异常输入的反应”而非目标证据依赖；并且若原模型视觉编码弱，$\Delta$ 可能接近噪声，递归自蒸馏会放大错误偏好。

3. 关键证据与实验审计

证据一：六个模型规模、七项基准的主结果

展示了什么 → 在 ViRL39K 上后训练后，VCSD 在 Qwen3-VL 的 2B、4B、8B 和 Qwen3.5 的 2B、4B、9B 六种配置中，均取得该表最高或总体最优的七基准平均准确率。
支持什么 → 支持 VCSD 在这两个 Qwen 系列、该训练集、90 优化步和该评测协议下，优于未训练 Base，并通常优于答案提示 OPSD。
仍不能证明什么 → 不能证明该优势来自更强“真实视觉理解”而非对这七项 benchmark 的联合适配；不能证明跨训练数据、跨视觉编码器、跨更长预算仍成立，更不能证明优于所有使用特权信息或外部教师的策略。

最有代表性的数字是：

• Qwen3-VL-2B：Base 62.27，OPSD 64.89，VCSD 67.04；
• Qwen3-VL-8B：Base 72.51，OPSD 73.72，VCSD 76.26；
• Qwen3.5-9B：Base 74.97，OPSD 74.73，VCSD 79.24。

作者主张 VCSD 的增益覆盖通用感知、视觉数学、高分辨率理解与幻觉基准，而不是只由单一 benchmark 驱动。表中确有多个分项改善，尤其 Qwen3-VL-2B 对 OPSD 的七项均有提升；但并非所有规模、所有单项都严格占优。例如 Qwen3.5-9B 的 V* 项中 OPSD 为 87.96，高于 VCSD 的 85.86。故更精确的结论应是：aggregate 和多数任务上有一致优势，而非每项能力单调优于所有基线。

公平性方面，论文称每个模型块比较 Base、已发表的 answer-hint OPSD 与 VCSD，但当前文本没有充分交代 OPSD 是否使用相同训练步数、rollout 数、调参预算、温度、EMA 机制及其他工程细节。由于 answer-hint OPSD 使用参考答案而 VCSD 不使用，信息条件本身不对等是研究问题的一部分；但训练实现预算是否匹配仍是判断“方法更优”所必需的信息。

证据二：对比强度与 plausibility restriction 消融

展示了什么 → 在 Qwen3-VL-2B 上，$\alpha =1$ 相比 $\alpha =0$ 的七基准平均准确率高 2.33 点；$\alpha \in [1,1.5]$ 内性能据称变化不足 1%；移除 plausibility support（$\beta =0$）时，随着训练延长出现性能退化。
支持什么 → 支持视觉条件对比不是无效装饰，且“只在原图可信 token 集内重加权”可能缓解递归目标失真。
仍不能证明什么 → 不能证明 $\Delta$ 精确测量了视觉因果证据，也不能证明 $\beta =0.1$ 是跨模型、跨数据最优或稳定的默认值。

这是本文最关键的机制性证据。$\alpha =0$ 保留其余目标构造但去除视觉条件对比，因此与完整方法的差异相对干净，能够较直接支持对比项的作用。相反，support 的长期稳定性主要由图注及文字描述支持；由于未直接视觉检查曲线，也没有每个 checkpoint 的原始数值、重复运行方差或其它模型规模的复现，不能把“progressive degradation”提升为普遍规律。

作者还报告无 anchor 时 aggregate 仅从 67.04 降至 66.78，却在其定义的“非目标语言 token rollout 比例”上出现更高 language drift。该结果说明 anchor 的价值更可能是生成稳定性和语言一致性，而非主能力增益。值得注意的是，论文没有给出该 drift 指标的具体数值、语言定义、目标语言分布或人工质量审查，因此“显著减少语言漂移”的量级和实际影响仍不足以独立判断。

证据三：散度选择和控制图构造

展示了什么 → 在 Qwen3-VL-2B 上，forward KL、JSD、reverse KL 的 aggregate 分别为 67.04、66.25、64.77；黑图、噪声、模糊、no-image 控制的 aggregate 分别为 67.04、67.14、66.36、66.24。
支持什么 → 支持在当前目标构造下，forward KL 是较好的蒸馏散度；并支持“移除实例内容”的作用可能比黑图的具体像素形式更重要。
仍不能证明什么 → 不能证明 forward KL 的 mode-covering 性是性能差异的唯一原因，也不能证明所有控制条件等价，更不能排除各控制输入引发不同预训练偏置但在 aggregate 上恰好相近。

这两项消融提高了方法完整性。尤其控制图比较避免了“黑色本身是一种特殊提示”的明显质疑。不过，它们仍只报告一个模型配置；且 no-image 与黑图是否经过相同多模态 token 路径、是否触发模型不同的缺图模板行为，当前材料没有完全说明。论文的“control 保留视觉 token 数”描述明确适用于黑图，但未足以确认 no-image 变体与其他变体的计算路径严格可比。

定性案例：视觉计数示例

展示了什么 → 论文给出 MathVista 的一例：Base 输出 6169，OPSD 输出 8519，VCSD 输出正确答案 7519；作者说明关键在正确数出七个 thousand-cubes。
支持什么 → 该案例与“VCSD 更关注实例图像证据”的解释一致。
仍不能证明什么 → 单例不能证明方法普遍改善视觉计数，也不能隔离 rollout 随机性、语言表述差异或题目特定结构的影响。

由于这是文本回退材料，无法独立检查该图中积木、红绿标记、空间排列或图像是否真的无歧义；只能确认论文文本报告了上述预测及作者解释。因此它是机制一致性示例，不是高强度因果证据。

4. 批判性判断与复用建议

4.1 证据强度

总体判断：中等。

被直接支持的部分：

• 在报告的 ViRL39K 后训练和七基准评测设置下，VCSD 在六个 Qwen 模型配置中得到较强 aggregate 结果。
• 移除视觉条件对比、改变散度或取消 plausibility restriction，会在至少一个核心配置中造成可观察性能或稳定性变化。
• 控制图不局限于黑图，说明方法不完全依赖某一种固定遮蔽模板。
• 部署时只保留学生模型，因此“无需额外推理时分支”是由方法结构直接支持的结论。

仅与结果一致、但尚未被证明的部分：

• ${\Delta }_t(v)$ 是否可靠代表“实例级视觉证据贡献”，而不是控制图 OOD 效应、视觉编码器不确定性或 prompt—image 交互偏置。
• VCSD 是否真正改善“视觉 grounding”而非只改善当前七基准上的分布匹配；单个计数案例与 token contrast 可视化不足以证实这一能力归因。
• 所谓条件 PMI 近似是否在实际模型中成立。论文给出形式推导，但没有实证验证 $p(v\mid J_{\mathrm{ctrl}},H_t)$ 近似无实例视觉信息的反事实分布。
• 相比 answer-hint OPSD 的优越性是否可泛化到不同数据质量、不同答案可得性和不同训练预算。

4.2 主要局限与失败条件

1. 控制图未必是理想反事实，影响机制解释与泛化
   黑图、噪声、模糊并不等同于“只去掉实例视觉信息”。它们可能造成预训练分布外输入、改变视觉 encoder 激活或触发缺失模态行为。若控制条件本身有系统偏置，$\Delta$ 将混入这种偏置，削弱“视觉证据 reward”的解释。

2. 实验覆盖窄，影响泛化结论
   所有后训练都使用 ViRL39K，模型集中于 Qwen3-VL/Qwen3.5，且每组仅 90 optimization steps。结果不能说明该方法对其他 VLM 架构、闭源模型、视频/多图任务、OCR 密集任务、长链推理或更大规模后训练仍可靠。

3. 缺少重复试验和统计报告，影响结果可靠性
   当前材料没有 seed 方差、置信区间、统计显著性或 benchmark 层面的误差分析。2–4 个点的 aggregate 增益看起来有实际意义，但无法判断其中有多少来自训练采样波动或评测噪声。

4. 主基线的资源与实现可比性信息不足，影响比较公平性
   论文说明 OPSD 教师用参考答案、VCSD 不用答案，但未充分展开两者是否采用一致的总前向计算、优化设置和超参数调优。VCSD 每个前缀需教师在两种图像条件下评估，训练时成本并非“免费”；论文只明确没有额外推理时成本。

5. 递归自蒸馏仍可能放大教师盲点，影响工程部署
   EMA 教师来自学生自身，无法引入外部知识或纠正系统性视觉误解。plausibility support 可限制低概率异常 token，但也会限制跳出原模型错误模式的能力；若原图教师对关键视觉对象本就不给足概率，VCSD 不会凭空恢复它。

4.3 最有价值的下一步验证

1. 验证控制条件是否真在测量实例视觉依赖
   使用语义保持但对象替换、局部遮挡、图文错配、随机配对图像等控制，并比较 $\Delta$ 与人工标注的视觉依赖 token 是否一致。若不同控制产生互相矛盾的 reward 排序，当前 PMI/视觉证据解释应显著降级。

2. 做跨数据、跨架构、跨预算的多 seed 复现
   至少覆盖另一套 VLM、独立训练集、长于 90 steps 的训练以及多随机种子，并报告均值方差与训练成本。若 VCSD 在长预算下稳定、跨架构保持对 matched OPSD 的优势，才能将其视为通用后训练方法，而非短程配方。

3. 分离“视觉 grounding 改善”与“benchmark 分数改善”
   在受控视觉计数、细粒度属性、图文反事实和幻觉诊断任务上，报告错误类型、图像依赖性和 token-level calibration。若增益只集中于原有 benchmark 模板而不改善反事实视觉依赖，方法价值应重新定位为评测适配而非 grounding 提升。

4.4 最终复用结论

• 最值得借鉴： “条件变化产生的预测差”可用作无需标注的密集学习信号；关键是固定其他条件，只改变待归因的信息源。
• 必须一并借鉴： 原条件分布锚点、相对 plausibility support 和终止 token 保护。直接按 log-ratio 重排全词表，很可能造成低概率 token 放大与递归漂移。
• 不要照搬： 不应默认黑图就等价于无视觉信息，也不应把 $\Delta$ 直接称为真实因果视觉贡献或 PMI；控制输入需要针对模型接口和任务进行验证。
• 适用场景： 有原始多模态输入、可构造低成本内容擦除控制、希望提高输入依赖性且不希望在部署时增加多分支推理的后训练任务。
• 技术路线判断： 建议纳入 VLM post-training / self-distillation 的候选路线，优先作为“视觉依赖奖励构造”的实验基线；对 Diffusion-RLHF 可做小规模机制迁移验证，但当前不应直接作为成熟方案投入大规模训练。

5. 必要概念与文献地图

必要概念

• On-policy distillation（OPD）：学生在自己采样出的响应前缀上接受教师分布监督，减少离线教师轨迹与实际学生推理轨迹之间的不匹配。
• On-policy self-distillation（OPSD）：教师和学生来自同一模型系统，通常以 EMA 参数形成较平滑教师；难点是如何制造足够有信息量的教师目标。
• EMA teacher：以学生参数移动平均得到的教师 $\varphi \leftarrow \mu \varphi +(1-\mu )\theta$。它提供时间平滑，但不天然提供新信息。
• 条件对比（conditioning contrast）：固定 prompt、前缀和模型，只比较原图与控制图条件下的 token 概率差。本文的 ${\Delta }_t(v)$ 是此概念的具体实现。
• Plausibility support：仅保留原图教师概率不低于其最大概率某一比例的 token 集合。作用是限制重加权只发生在原本可接受的候选内。
• Forward KL distillation：最小化 $D_{\mathrm{KL}}(q^{\star }\parallel p_{\theta })$，促使学生覆盖目标分布支持的候选。本文将其与 reverse KL、JSD 比较。
• KL-regularized policy update：在获得 reward 的同时惩罚新策略偏离参考策略的优化形式。本文用它解释为何指数重加权目标是一个局部最优分布。
• 条件 pointwise mutual information（条件 PMI）近似：理想形式衡量 token 在给定文本上下文时由图像额外提供的信息；本文以控制图预测作为“无实例图像信息”分布的近似，属于有待验证的解释。

关键前作

• Agarwal et al., 2024, On-policy Distillation of Language Models: Learning from Self-generated Mistakes：提供 OPD 的基本思想：在学生自生成轨迹上进行 token 级教师监督；本文继承其 on-policy 训练范式。
• Li et al., 2023, Contrastive Decoding: Open-ended Text Generation as Optimization：提出以预测分布对比调整生成，并使用合理性约束；VCSD 将类似的分布重加权思想从推理阶段转到训练目标构造。
• Leng et al., 2024, Mitigating Object Hallucinations in Large Vision-Language Models through Visual Contrastive Decoding：使用视觉条件对比改善 VLM 推理时生成；本文与其共享“视觉条件差异”思想，但不在推理时修改解码。
• Zhao et al., 2026, Self-distilled Reasoner: On-policy Self-distillation for Large Language Models：论文的主要 OPSD 对照来源，使用 privileged answers / reasoning 相关不对称；VCSD 的核心卖点是不依赖这种答案侧信息。
• Yuan et al., 2026, Vision-OPD: Learning to See Fine Details for Multimodal LLMs via On-policy Self-distillation：代表用视觉证据或更聚焦视觉条件制造不对称的路线；VCSD 的定位是避免额外区域证据、定位模型或裁剪流程。