跳到正文
Hugging Face Blog·· 2023-05-25AI 评分40

用 NNCF 和 🤗 Optimum 为 Intel CPU 优化 Stable Diffusion

Optimizing Stable Diffusion for Intel CPUs with NNCF and 🤗 Optimum

AI 导读

Hugging Face 联合 OpenVINO 的 NNCF 框架,通过量化感知训练(QAT)结合 Token Merging 优化 Stable Diffusion 的 UNet 模型,在 Intel CPU 上实现相比 PyTorch 5.1 倍推理加速和 4 倍模型体积缩减。

来源:Hugging Face Blog · huggingface.co