跳到正文
Hugging Face Blog·· 2025-05-25AI 评分12

Liger GRPO 与 TRL 集成在 DeepSpeed ZeRO3 下出现形状不匹配

🐯 Liger GRPO meets TRL

AI 导读

用户测试 Liger GRPO loss 与 TRL 集成时,在 DeepSpeed ZeRO3、bf16 精度下使用 Qwen2.5-0.5B-Instruct 训练,触发形状不匹配报错。错误发生在 liger_kernel 的 fused_linear_ppo 前向计算中,经 torch._dynamo 编译后抛出。

来源:Hugging Face Blog · huggingface.co