Hugging Face Blog·· 2021-09-14精选AI 评分62
Hugging Face 发布开源优化工具库 Optimum
Introducing Optimum: The Optimization Toolkit for Transformers at Scale
AI 导读
Hugging Face 发布开源库 Optimum,目标是成为 Transformer 生产性能的优化工具包,让模型在特定硬件上训练和推理达到更高效率。Optimum 与硬件伙伴合作构建,首个案例是与 Intel 的 Neural Compressor 配合,演示如何为 Intel Xeon CPU 量化模型。
推荐理由
Hugging Face 官方开源 Optimum,读者可了解它如何把模型加速与硬件适配的复杂度封装起来。
来源:Hugging Face Blog · huggingface.co