Hugging Face Blog·· 2026-07-23精选AI 评分62
Diffusers 原生支持 Nunchaku 4-bit 扩散推理
Bringing Nunchaku 4-bit Diffusion Inference to Diffusers
AI 导读
Hugging Face 在 Diffusers 中集成 Nunchaku Lite,可直接用 from_pretrained() 加载 Nunchaku 风格 4-bit 量化检查点,无需自定义 pipeline 或本地 CUDA 编译。
推荐理由
原文给出 Nunchaku Lite 在 Diffusers 中的原生加载方式与量化工具链,读者可据此判断消费级 GPU 跑扩散模型的内存与延迟取舍。
来源:Hugging Face Blog · huggingface.co