Hugging Face Blog·· 2023-10-24精选AI 评分62
Hugging Face 实测 SDXL 的简单推理优化
Exploring simple optimizations for SDXL
AI 导读
Hugging Face 在 A100 40GB 上实测了 SDXL 的多种推理优化，未优化管线占用 28GB 显存、耗时 72.2 秒，改用 fp16 后降至 21.7GB 和 14.8 秒。
推荐理由
Hugging Face 官方给出 SDXL 在 Diffusers 中的显存与延迟实测数据，可直接对照选择优化组合。
来源：Hugging Face Blog · huggingface.co