机器之心·· 7 小时前AI 评分60
阿里千问提出 TRACE：FP4 W/A 与 FP4 KV Rollout 下强化学习 Rollout 最高加速 5.4 倍
FP4 W/A+FP4 KV的强化学习也能「又快又稳」：阿里千问提出TRACE，Rollout最高加速5.4倍
AI 导读
阿里千问联合俄亥俄州立大学提出 TRACE，用 Rollout 侧真实的 FP4 量化结果反向指导训练侧舍入方向，减少两条低精度路径之间的差异。
来源：机器之心 · mp.weixin.qq.com
阿里千问提出 TRACE：FP4 W/A 与 FP4 KV Rollout 下强化学习 Rollout 最高加速 5.4 倍