跳到正文
Hugging Face Blog·· 2022-11-02AI 评分38

Hugging Face 在 Optimum Intel 中集成 OpenVINO,加速 Transformer 模型推理

Accelerate your models with 🤗 Optimum Intel and OpenVINO

AI 导读

Hugging Face 将 Intel OpenVINO 集成进 Optimum Intel,用户可基于 OpenVINO 2022.2 在多种 Intel 处理器上对 Transformers 模型执行推理,并用 NNCF 在数分钟内完成量化以降低模型体积和预测延迟。

来源:Hugging Face Blog · huggingface.co