机器之心·· 4 小时前AI 评分62
清华提出 ActionOPD:动作级在线蒸馏让 Agent 学决策而非抄 Token
蒸馏Agent,学决策而非抄Token!清华提出动作级在线蒸馏ActionOPD
AI 导读
清华大学研究团队提出 ActionOPD(Action-level On-Policy Distillation),在学生实际访问的状态下以高层语义动作作为监督单元,把期望教师动作似然转化为带语义奖励的策略梯度,无需教师 Token log-prob 或同源 Tokenizer。
来源:机器之心 · mp.weixin.qq.com