Hugging Face Blog·· 2022-11-02AI 评分38
Hugging Face 在 Optimum Intel 中集成 OpenVINO,加速 Transformer 模型推理
Accelerate your models with 🤗 Optimum Intel and OpenVINO
AI 导读
Hugging Face 将 Intel OpenVINO 集成进 Optimum Intel,用户可基于 OpenVINO 2022.2 在多种 Intel 处理器上对 Transformers 模型执行推理,并用 NNCF 在数分钟内完成量化以降低模型体积和预测延迟。
来源:Hugging Face Blog · huggingface.co