Hugging Face Blog·· 2021-01-26AI 评分28
Hugging Face Transformers 中的 TensorFlow 模型提速:BERT 等模型性能提升并支持 TensorFlow Serving
Faster TensorFlow models in Hugging Face Transformers
AI 导读
Hugging Face 在 Transformers v4.2.0 中优化了 TensorFlow 版 BERT、RoBERTa、ELECTRA 和 MPNet,在 GPU V100、序列长度 128 下推理速度比 Google 官方实现快约 10%,比 v4.1.1 快一倍。
来源:Hugging Face Blog · huggingface.co