机器之心·· 7 小时前AI 评分43
EMNLP 2026 | SpecTr-GBV 统一多草稿与块验证,加速大模型推测解码
EMNLP 2026 | 大模型推理如何再快一步?SpecTr-GBV统一多草稿与块验证,加速推测解码
AI 导读
中国人民大学等团队提出 SpecTr-GBV,将 multi-draft 与 greedy block verification(GBV)统一进同一推测解码框架,把多条 draft token blocks 与 target token block 的验证写成最优传输问题,在保持输出分布一致性的同时追求更长的期望接受长度。
来源:机器之心 · mp.weixin.qq.com