跳到正文
Hugging Face Blog·· 2025-09-11精选AI 评分62

Hugging Face 详解 transformers 为 OpenAI gpt-oss 引入的优化技巧

Tricks from OpenAI gpt-oss YOU 🫵 can use with transformers

AI 导读

Hugging Face 发布博客,介绍为支持 OpenAI gpt-oss 系列而在 transformers 中做的多项升级,包括可从 Hub 下载的零构建 Kernel、MXFP4 量化、张量并行、专家并行、动态滑动窗口层与缓存、连续批处理与 Paged Attention,以及更快的模型加载。

推荐理由

Hugging Face 官方拆解了为 gpt-oss 引入 transformers 的七项工程改动,可据此了解量化、并行与缓存优化的落地方式。

来源:Hugging Face Blog · huggingface.co