跳到正文
Hugging Face Blog·· 2022-06-28AI 评分42

使用 DeepSpeed 加速大模型训练:Accelerate 库实践指南

Accelerate Large Model Training using DeepSpeed

AI 导读

Hugging Face 展示了如何用 Accelerate 库无需改代码即可启用 DeepSpeed ZeRO,在 2×24GB NVIDIA Titan RTX 上微调 900M 参数的 microsoft/deberta-v2-xlarge-mnli。

来源:Hugging Face Blog · huggingface.co