IBM 发布 Granite Speech 5.0 系列三款语音模型
Granite Speech 5.0: Transcribe, Translate, and Attribute more Accurately and Faster
IBM 更新 Granite Speech 系列,新增 granite-speech-5.0-2b,并修订 granite-speech-5.0-470m-turboctc 与 granite-speech-4.1-2b-plus。
原文给出三款语音模型的能力分工与量化指标,读者可据此判断企业转写与翻译场景该选哪一款。
我们很高兴分享 IBM Granite Speech 系列的三个更新:一个新的语音语言模型 granite-speech-5.0-2b,以及社区已在使用的两个模型的修订版本 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。它们共同覆盖了企业语音工作的完整范围:高准确度的转录和翻译、边缘端极快的转录,以及说话人身份和说话时间与说话内容同样重要的录音。
| 模型 | 状态 | 新增内容 | 最适合 |
|---|---|---|---|
granite-speech-5.0-2b |
新增 | 更准确、对噪声和混响更稳健的自动语音识别(ASR)、语言 ID 提示、2,000 词关键词偏置、更好的长音频翻译 | 高准确度多语言转录和翻译 |
granite-speech-5.0-470m-turboctc |
更新 | 多语言、原生标点和大小写,并且对噪声和混响更稳健 | 高吞吐量和设备端转录 |
granite-speech-4.1-2b-plus |
更新 | 改进的说话人归属、时间戳、关键词偏置和长语音性能 | 会议、通话和其他多人录音 |
Granite Speech 5.0 2B:更准确、更稳健、更多控制
granite-speech-5.0-2b 是 granite-speech-4.1-2b 在相同参数规模下的后继版本。它可以转录英语、法语、德语、西班牙语、葡萄牙语和日语,并在这些语言与英语之间互译,另外还支持英语到意大利语和普通话的翻译。它基于 390,000 小时的公开音频训练,并使用了为日语 ASR、关键词偏置和翻译构建的合成数据。
与 4.1 2B Speech 相比的新增内容:
- 更准确、更稳健的英语 ASR: 在英语短音频基准上准确度更高,并且更好地处理噪声、混响和远场麦克风语音。
- 语言 ID 提示: 在提示中指定输入语言,以引导多语言转录。
- 更好的长音频和对话式翻译: 面对更自然的语音,翻译在更长时间内保持稳定,而不仅是简短的朗读句子。
- 最多 2,000 词的关键词列表: 在所有支持的语言中,将转录和翻译偏向产品名称、人名和缩写。
- 按需输出标点和大小写: 在提示中要求格式化输出;在我们的测试集上,大小写 F1 范围为 89.7 到 99.5。
该模型以 Apache 2.0 许可发布,并支持 Transformers、vLLM、llama.cpp 以及面向 Apple Silicon 的 mlx-audio。
图 1:granite-speech-5.0-2b 在平均英语 WER(5.06%)上位列顶级开放权重 ASR 模型第 2 名。数值越低越好。结果为非官方结果,截至 2026 年 10 月 15 日,并在 Open ASR Leaderboard 的公开英语短音频测试集上取平均。
Granite Speech 5.0 Turbo CTC:现已支持多语言、更稳健、速度更快
当我们在 8 月推出 Turbo CTC 时,它是一个仅支持英语、为速度而构建的 470M 参数编码器。本次修订保留了这一规模,并增加了用户最常要求的三项功能:
- 多语言转录: 英语、日语、西班牙语、德语、法语、意大利语和葡萄牙语。
- 原生标点和大小写: 转录结果可直接阅读,无需单独的标点或大小写处理步骤。
- 在困难声学环境中更稳健: 明确针对混响音频的训练使 Turbo CTC 在有回声的房间和远场录音中更稳健。
它同时也更快。通过编译单个 Conformer 块并在整个堆栈中复用其计算图,我们缩短了预热时间,并将 Turbo CTC 在 Open ASR Leaderboard 上的 RTFx 提升至 19,870,而发布时约为 12,600 RTFx:在相同准确率水平下约快 1.6 倍。
图 2:Open ASR Leaderboard 上的平均 WER 与 RTFx 对比(英语短语音,9 个公开测试集,截至 2026 年 10 月)。WER 越低、RTFx 越高越好;RTFx 采用对数刻度。
Granite Speech 4.1 2B Plus:更准确地识别谁在说、何时说
更新后的 granite-speech-4.1-2b-plus 针对企业实际拥有的录音进行了调优:会议、客服通话以及多位说话人长时间进行的访谈。它保留 4.1 的名称,因为架构、提示格式和 API 均未改变,因此它是当前模型的直接替换版本,仅权重有所改进。本次修订改进了四个方面:
- 说话人归属:更准确地标注说话人身份。词级说话人分离错误率(WDER)下降 7%,说话人归属 WER(cpWER)整体下降 7%。
- 时间戳:平均时间戳偏移(AAS)缩短一半以上,使字幕、搜索和复核中的时间更精确。
- 长语音性能:长语音测试集上的 WER 下降 24%。
- 关键词偏置:使用 20 词关键词列表时,偏置关键词的错误率下降 45%。
| 能力 | 指标 | 上一版本 | 更新后模型 |
|---|---|---|---|
| 时间戳,所有语音 | AAS(平均时间戳偏移) | 210.86 | 98.54 |
| 时间戳,短语音 | AAS(平均时间戳偏移) | 29.27 | 26.20 |
| 关键词偏置 | 偏置词 WER,20 词列表 | 11.79 | 6.48 |
| 长语音 | WER,长语音测试集 | 13.53 | 10.22 |
| 说话人归属 | WDER | 4.40 | 4.10 |
| 说话人归属转录 | cpWER | 30.50 | 28.48 |
表 1:所有指标均为错误率,因此越低越好。更详细的结果请参阅模型卡。
开始使用
不确定该选哪个模型?从这里开始:
- 需要高转录准确率、翻译或关键词偏置?使用 granite-speech-5.0-2b。
- 需要原始速度或设备端转录?使用 granite-speech-5.0-470m-turboctc,并通过我们的 WebGPU 流式演示在浏览器中试用。
- 处理会议或多说话人通话?使用 granite-speech-4.1-2b-plus。
这些模型均以 Apache 2.0 许可证发布,并在 Transformers 中提供原生支持。完整的评估结果、架构细节、训练数据和使用示例见各模型卡。对于需要额外风险检测的生产部署,我们建议将它们与 Granite Guardian 搭配使用。
试用一下,并告诉我们你的想法!
来源:Hugging Face Blog · huggingface.co
