跳到正文
Hugging Face Blog·· 2022-12-14AI 评分38

Habana Gaudi2 对比 Nvidia A100 80GB:训练与推理速度基准测试

Faster Training and Inference: Habana Gaudi®2 vs Nvidia A100 80GB

AI 导读

Habana Gaudi2 在 BERT 预训练和 Stable Diffusion 推理上约为 Nvidia A100 80GB 的两倍速度。BERT 预训练中 Gaudi2 吞吐达 1580.2 samples/s(BS=32),A100 为 981.6;Stable Diffusion 推理延迟 0.925s/img,A100 为 2.63s。

来源:Hugging Face Blog · huggingface.co