ORL扩散语言模型加速方法开源

2026年10月17日，有研究者在 r/MachineLearning 发布 On-Policy Residual Learning（ORL）方法，称其可在不牺牲生成质量的前提下显著加速扩散语言模型（dLLM），并同步开源模型、训练代码、评测流程与自研推理引擎 dlmrt。据该报道，配合 dlmrt，ORL 在单张 RTX 5090 上实现 2,788 tokens/s，在 8× B200 上 DiffusionGemma 26B MoE 达 7,708 tokens/s。发布者说明，上述数字均为单请求解码（batch size 1），并非并发请求的聚合吞吐；GPU 数字为特定基准上的峰值结果，不是任意提示下的平均值。发布者还表示，拥有 RTX 5090 的用户可用 dlmrt 尝试 LLaDA-2.1-mini ORL NVFP4 检查点。目前该事件仅有这一篇主报道，尚无跟进报道，相关性能数据均来自发布方自述。

AI 根据报道生成 · 1 天前更新