Hugging Face 在 AMD 第五代 EPYC（Turin）CPU 上验证 Llama 3.1 8B 推理性能

Hugging Face 与 AMD 合作验证了基于 Zen5 架构的第五代 EPYC（Turin）CPU 对 Hugging Face 生态的支持，在 Meta Llama 3.1 8B 推理测试中，128 核 Turin 相比 96 核 Genoa 在多数配置下吞吐量提升约 2 倍。