Hugging Face Blog·· 25 天前AI 评分40
基于 Hugging Face Jobs 的 Async GRPO LoRA 训练：用 Bucket 和代理替代 NCCL
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI 导读
TRL v1.14 的 AsyncGRPOTrainer 现已支持只训练并同步 LoRA adapter 到 vLLM，rank-1 adapter 仅几 MB，可通过挂载在多个 HF Jobs 上的 Storage Bucket 传递，无需 NCCL。
来源：Hugging Face Blog · huggingface.co