Hugging Face Blog·· 2021-04-16精选AI 评分60
Hugging Face 发布 Accelerate 库，五处改动让 PyTorch 训练脚本支持分布式与混合精度
Introducing 🤗 Accelerate
AI 导读
Hugging Face 发布 Accelerate 库，面向希望保留训练循环控制权的 PyTorch 用户，用统一 API 封装分布式训练（单机或多机多 GPU、TPU）与混合精度所需的样板代码。
推荐理由
原文给出五处代码改动即可跑分布式与混合精度的具体做法，便于对照现有 PyTorch 训练脚本评估迁移成本。
来源：Hugging Face Blog · huggingface.co