Hugging Face Blog·· 2023-05-25AI 评分40
用 NNCF 和 🤗 Optimum 为 Intel CPU 优化 Stable Diffusion
Optimizing Stable Diffusion for Intel CPUs with NNCF and 🤗 Optimum
AI 导读
Hugging Face 联合 OpenVINO 的 NNCF 框架,通过量化感知训练(QAT)结合 Token Merging 优化 Stable Diffusion 的 UNet 模型,在 Intel CPU 上实现相比 PyTorch 5.1 倍推理加速和 4 倍模型体积缩减。
来源:Hugging Face Blog · huggingface.co