Hugging Face Blog·· 2022-12-14AI 评分38
Habana Gaudi2 对比 Nvidia A100 80GB:训练与推理速度基准测试
Faster Training and Inference: Habana Gaudi®2 vs Nvidia A100 80GB
AI 导读
Habana Gaudi2 在 BERT 预训练和 Stable Diffusion 推理上约为 Nvidia A100 80GB 的两倍速度。BERT 预训练中 Gaudi2 吞吐达 1580.2 samples/s(BS=32),A100 为 981.6;Stable Diffusion 推理延迟 0.925s/img,A100 为 2.63s。
来源:Hugging Face Blog · huggingface.co