Hugging Face Blog·· 2025-06-03AI 评分52
TRL 支持 vLLM 与 GRPO 训练同卡共置
No GPU left behind: Unlocking Efficiency with Co-located vLLM in TRL
AI 导读
Hugging Face 博客介绍 TRL 新增 vLLM 共置(colocate)模式,训练与推理共享同一批 GPU,不再需要单独的 vLLM 服务器进程。
来源:Hugging Face Blog · huggingface.co