WaveFront Decoding自推测解码论文发布
热点事件持续更新
WaveFront Decoding自推测解码论文发布
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年10月6日,用户 /u/pmttyji 在 r/LocalLLaMA 发布 WaveFront Decoding(WFD)论文。该框架是一种面向循环语言模型的无训练自推测解码方法,利用中间循环输出作为草稿预测,并借权重共享将不同位置与循环深度的 token 状态合并为一次批处理调用。据发布内容,在六个 Spec-Bench 任务类别上,WFD 相对自回归解码在 Ouro-2.6B 上取得 2.42 倍加速、在 Huginn-3.5B 上取得 3.54 倍加速,持续优于 draft-then-verify;跨循环 KV 共享进一步降低 wavefront KV 流量,使 Huginn-3.5B 上的加速提升至 4.81 倍。发布者称代码已公开。上述加速数据与代码可用性均为该发布来源的说法,尚待独立验证。
AI 根据报道生成 · 2 小时前更新
最新进展10月6日 21:18
WaveFront Decoding:面向循环语言模型的无训练自推测解码框架报道时间线
沿着报道,了解事件的不同侧面。
10月6日
- r/LocalLLaMAWaveFront Decoding:面向循环语言模型的无训练自推测解码框架
WaveFront Decoding(WFD)是一种面向循环语言模型的无训练自推测解码框架,利用中间循环输出作为草稿预测、并借权重共享将不同位置与循环深度的 token 状态合并为一次批处理调用。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。