vLLM 为无置信头草稿模型支持自适应验证
热点事件持续更新
vLLM 为无置信头草稿模型支持自适应验证
1 篇报道1 个报道来源23 小时前更新
先了解这件事
AI 综述
2026 年 10 月 14 日，vLLM 官方博客发布消息称，其自适应验证（AV）现已支持所有基于草稿模型的投机解码类型。此前 AV 依赖草稿模型自带置信头来给出置信分，本次更新针对没有置信头的草稿模型，改用在线拟合的估计器从草稿 logits 推导目标模型接受该 token 的概率，并直接作为置信分使用。该功能落地于 PR #52228，对没有置信头的草稿模型通过 enable_adaptive_verification 启用；当草稿模型既无置信头、其所有后端又支持变长注意力时，在线估计器会被自动选中。此外，目标模型的注意力后端必须支持变长验证。报道同时指出，MTP 与 EAGLE 从 AV 中获得的收益少于 DFlash 与 DSpark。目前进展为功能已发布并给出启用条件，尚无后续跟进报道。
AI 根据报道生成 · 2 小时前更新
最新进展10月14日 08:00
vLLM 为无置信头草稿模型加入在线拟合接受率估计报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- vLLM BlogvLLM 为无置信头草稿模型加入在线拟合接受率估计
vLLM 的自适应验证（AV）现已支持所有基于草稿模型的投机解码类型，在草稿模型没有置信头时，用在线拟合的估计器从草稿 logits 推导出目标模型接受该 token 的概率，直接作为置信分使用。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。