用 Intel Sapphire Rapids 加速 PyTorch Transformers：推理篇

Hugging Face 联合 Intel 测试了 PyTorch Transformers 在第四代 Xeon（Sapphire Rapids）上的推理性能，对比上一代 Ice Lake，在 distilbert-base-uncased、bert-base-uncased、roberta-base 三个模型上测量了 16 与 128 token 句子的单条及批量推理延迟。