跳到正文
Hugging Face Blog·· 2021-09-14精选AI 评分62

Hugging Face 发布开源优化工具库 Optimum

Introducing Optimum: The Optimization Toolkit for Transformers at Scale

AI 导读

Hugging Face 发布开源库 Optimum,目标是成为 Transformer 生产性能的优化工具包,让模型在特定硬件上训练和推理达到更高效率。Optimum 与硬件伙伴合作构建,首个案例是与 Intel 的 Neural Compressor 配合,演示如何为 Intel Xeon CPU 量化模型。

推荐理由

Hugging Face 官方开源 Optimum,读者可了解它如何把模型加速与硬件适配的复杂度封装起来。

来源:Hugging Face Blog · huggingface.co