Sarvam AI 发布决策模型 Sarvam Prism,基于 Sarvam 105B 开放权重
Introducing Sarvam Prism
Sarvam AI 发布 Sarvam Prism,一个基于 Sarvam 105B 的 System One 决策模型,在 B200 GPU 上以 44 ms 中位响应时间取得三项指数平均 71.8 分,是所测 25 个决策模型中 100 ms 以内得分最高的。
原文给出了与 24 个决策模型的同硬件对比、校准误差和排序稳定性数据,可据此判断决策模型在自动化工作流中的可用边界。
推出 Sarvam Prism

2026年11月3日·8 分钟阅读
今天我们发布 Sarvam Prism,这是一个基于 Sarvam 105B 构建的 System One 决策模型。
Typeface 上个月开创了这一类别,并以卡尼曼的 System One 思维为其 Jev 模型命名——System One 是快速而直觉的判断模式,处理人们一天中做出的大部分决定。企业中的大量工作就是一系列这样的决策,而校准良好的决策模型恰好能融入这些工作流。
同类最佳的准确率与速度:在我们测试的 25 个决策模型中,Prism 在准确率与速度的帕累托前沿上树立了新标杆。该模型得分为 71.8,在 B200 GPU 上响应时间仅 44 ms,是我们测试的 25 个模型中 100 ms 以下得分最高的模型(按三项指数平均)。我们相信 System One 模型会随规模提升而改进,并受益于混合专家架构的权衡,因此 Prism 基于 Sarvam 105B-10B 基座训练。
企业可信赖的校准:企业要实现工作流自动化,就必须信任模型对其输出的置信度。Prism 的误差始终处于其置信区间内,且其答案不受选项呈现顺序的影响。
打造你自己的版本:每个企业都有自己做出决策的方式,这由其数据以及这些决策的结果所塑造。我们以开放权重发布 Prism,以便企业能在自己的数据上训练这一校准基座,并在自己的基础设施上运行。
准确且快速
我们在相同基准上亲自用三项指数测试了 Prism 和其他 24 个决策模型。对于能在相同硬件(B200)上运行的每个模型,我们都使用其自带的推理代码进行了计时。
准确且快速
三项指数平均得分与中位响应时间对比,25 个决策模型
- Sarvam Prism
- 由我们计时
- 仅 API(报告时间)
- 各响应时间下的最佳得分
平均得分 ↑
58
62
66
70
74
78
0
50
100
150
200
250
300
帕累托前沿
每请求中位响应时间(ms)→
Sarvam Prism:71.8,44 ms
| 模型 | 平均 | Jev | Artificial Analysis | 印度语言 | 响应时间(ms) |
|---|---|---|---|---|---|
| mammoth-1 | 75.2 | 75.3 | 70.2 | 80.1 | 284 |
| GLiDE 1.2 | 73.2 | 72.0 | 68.1 | 79.4 | 116 |
| Sarvam Prism | 71.8 | 67.0 | 65.9 | 82.5 | 44 |
| elephant-1 | 71.3 | 72.2 | 67.6 | 74.0 | 145 |
| StartLux-27B | 70.8 | 72.9 | 61.5 | 78.1 | 117 |
| KnowLine-35B | 70.8 | 70.7 | 59.2 | 82.6 | 50 |
| d3-ultra | 70.3 | 71.6 | 62.8 | 76.4 | 229 |
| KnowLine-26B | 69.1 | 68.2 | 57.6 | 81.4 | 63 |
| AutoTrust-JEV-27B | 68.5 | 67.3 | 60.7 | 77.6 | 72 |
| OneJev-27B | 68.4 | 69.6 | 58.3 | 77.2 | 27 |
| H2O-Lightning-31B | 68.2 | 67.9 | 59.9 | 76.7 | 46 |
| Perplexity Decider v1.2 | 68.0 | 67.7 | 61.2 | 75.0 | 117 |
| d3 | 66.9 | 65.5 | 60.3 | 75.0 | 115 |
| Torchcast-27B | 66.5 | 65.1 | 59.6 | 74.8 | 32 |
| StartLux-9B | 66.2 | 70.0 | 58.8 | 69.8 | 60 |
| VisionJEV | 65.3 | 66.4 | 57.3 | 72.3 | 117 |
| Jev 1.14 | 64.5 | 60.7 | 61.9 | 70.8 | 196* |
| Amos 1 large | 63.4 | 64.9 | 55.5 | 69.7 | 121 |
| StartLux-4B | 63.3 | 67.8 | 58.4 | 63.7 | 60 |
| KnowLine-4B | 63.1 | 66.8 | 57.0 | 65.6 | 43 |
| OneJev-9B | 62.8 | 65.3 | 53.4 | 69.6 | 10 |
| Clef | 62.6 | 61.7 | 54.8 | 71.2 | 222 |
| Microsoft-Decision-1 | 61.1 | 57.8 | 55.6 | 70.0 | 85* |
| Perplexity Decider Flash | 60.3 | 60.1 | 58.4 | 62.4 | 62 |
| Clef-Flash | 58.1 | 56.2 | 52.1 | 66.0 | 162 |
越靠左上越好。响应时间为单块 NVIDIA B200 GPU 上每请求的中位数。
各指数得分
各指数及其平均值,以及中位响应时间(越高越好)
- Sarvam Prism(44 ms)
- Perplexity Decider v1.2(117 ms)
- Jev 1.14(196 ms*)
- Clef(222 ms)
- Microsoft-Decision-1(85 ms*)
Jev 决策指数Sarvam Prism
67.0
Perplexity Decider v1.2
67.7
Jev 1.14
60.7
Clef
61.7
Microsoft-Decision-1
57.8
Artificial Analysis(我们的)Sarvam Prism
65.9
Perplexity Decider v1.2
61.2
Jev 1.14
61.9
Clef
54.8
Microsoft-Decision-1
55.6
印度语言Sarvam Prism
82.5
Perplexity Decider v1.2
75.0
Jev 1.14
70.8
Clef
71.2
Microsoft-Decision-1
70.0
平均Sarvam Prism
71.8
Perplexity Decider v1.2
68.0
Jev 1.14
64.5
Clef
62.6
Microsoft-Decision-1
61.1
405060708090
得分,坐标轴从 40 开始
| 指数 | Sarvam Prism | Perplexity Decider v1.2 | Jev 1.14 | Clef | Microsoft-Decision-1 |
|---|---|---|---|---|---|
| Jev Decision Index | 67.0 | 67.7 | 60.7 | 61.7 | 57.8 |
| Artificial Analysis(我们的) | 65.9 | 61.2 | 61.9 | 54.8 | 55.6 |
| 印度语言 | 82.5 | 75.0 | 70.8 | 71.2 | 70.0 |
| 平均 | 71.8 | 68.0 | 64.5 | 62.6 | 61.1 |
* 公开报告的响应时间;这些模型仅提供 API。
该得分是三项指数的平均值。第一项是 Jev Decision Index,包含 37 个公开基准。第二项是我们对 Artificial Analysis Decision Index 的复现,其中我们将其私有知识测试替换为精选的难题,并包含一个“我不知道”选项。第三项是内部的印度语言基准。响应时间是对逐个发送的 1,000 次请求取中位数,每个模型均运行其开发者自己的推理代码。Jev 1.14 和 Microsoft-Decision-1 仅通过 API 提供,因此我们绘制了它们报告的响应时间(196 毫秒和 85 毫秒)。从我们的集群实测,它们分别耗时 431 毫秒和 533 毫秒。
Prism 在响应时间低于 100 毫秒的模型中平均得分最高。少数模型总体得分更高,但它们的响应时间要长两到六倍。Prism 在我们复现的 Artificial Analysis 难题上表现最强,这些题目会奖励模型因其校准后的决策而回答“我不知道”而非猜测。在印度语言上,它的表现与我们测试的最佳模型持平或更好。
可信赖的置信度
企业通过仅在置信度高于阈值时才采取行动来实现决策自动化。只有当输出的置信度经过校准,即其错误率应低于模型的预期错误率时,这样做才安全。我们在 Jev Decision Index 的公开基准和我们的内部印度语言基准上评估了校准情况。
可信赖的置信度
以至少 90% 置信度给出的答案的预期错误与实际错误(越低越好)
- 模型预期的错误
- 实际:Sarvam Prism
- 实际:不超过预期
- 实际:超过预期(×N)
英语
Sarvam Prism
3.3
2.2
Clef
2.8
2.3
Perplexity Decider
1.4
2.0×1.5
Microsoft-Decision-1
1.7
3.1×1.8
Jev 1.14
1.3
3.5×2.7
0%1%2%3%4%5%
错误率(占高置信度答案的百分比)
印度语言
Sarvam Prism
5.4
4.4
Clef
3.9
15.3×3.9
Perplexity Decider
3.0
8.1×2.7
Microsoft-Decision-1
3.0
10.1×3.3
Jev 1.14
3.4
16.1×4.8
0%5%10%15%20%
错误率(占高置信度答案的百分比)
| 模型 | 英语:预期 | 英语:实际 | 印度语言:预期 | 印度语言:实际 |
|---|---|---|---|---|
| Sarvam Prism | 3.3% | 2.2% | 5.4% | 4.4% |
| Clef | 2.8% | 2.3% | 3.9% | 15.3% |
| Perplexity Decider | 1.4% | 2.0% | 3.0% | 8.1% |
| Microsoft-Decision-1 | 1.7% | 3.1% | 3.0% | 10.1% |
| Jev 1.14 | 1.3% | 3.5% | 3.4% | 16.1% |
英语:37 个公开基准,226,088 道题。印度语言:同样的基准在 10 种印度语言和 Hinglish 下的版本,20,108 道题。
在我们测试的从 50% 到 95% 的每一个阈值上,Prism 的错误率都低于其置信度分数所预测的水平,英语和印度语言均是如此。对于置信度在 90% 或以上的英语回答,Prism 预测错误率为 3.3%,实际错误率为 2.2%。Clef 与之接近,预测 2.8%,实际 2.3%。Perplexity Decider、Microsoft-Decision-1 和 Jev 1.14 则分别将自身错误率低估了 1.5 倍、1.8 倍和 2.7 倍。
在印度语言中,Prism 预测错误率为 5.4%,实际为 4.4%。其他模型的实际错误率是其置信度分数所预测值的 2.7 到 4.8 倍。
相同答案,任意顺序
改变选项顺序可能会改变模型的答案。我们在 2,000 个问题上测试了 Prism 是否会出现这种情况。我们将这些问题以打乱选项的方式运行四次,以不打乱的方式运行四次。Prism 的答案在每一次打乱中都保持不变,且没有额外计算或准确率损失。
相同答案,任意顺序
2,000 个问题中答案发生变化的比例(越低越好)
- 选项被打乱为四种顺序
- 同一请求重复发送四次
- Sarvam Prism
Sarvam Prism,固定顺序
0.0%
0.0%
Clef
0.1%
0.0%
Sarvam Prism,按发送时的选项顺序
4.0%
0.0%
Microsoft-Decision-1
4.8%
4.8%
mammoth-1
8.8%
0.0%
GLiDE 1.2
8.9%
0.0%
Perplexity Decider v1.2
10.3%
0.0%
Jev 1.14
12.3%
5.6%
0%5%10%15%
答案发生变化的问题比例(%)
| 模型 | 打乱顺序 | 95% 区间 | 重复发送 |
|---|---|---|---|
| Sarvam Prism,固定顺序 | 0.0% | 0 至 0.2% | 0.0% |
| Clef | 0.1% | 0 至 0.4% | 0.0% |
| Sarvam Prism,按发送时的选项顺序 | 4.0% | 3.3 至 5% | 0.0% |
| Microsoft-Decision-1 | 4.8% | 3.9 至 5.8% | 4.8% |
| mammoth-1 | 8.8% | 7.6 至 10.1% | 0.0% |
| GLiDE 1.2 | 8.9% | 7.7 至 10.2% | 0.0% |
| Perplexity Decider v1.2 | 10.3% | 9 至 11.7% | 0.0% |
| Jev 1.14 | 12.3% | 11 至 13.9% | 5.6% |
Perplexity Decider、GLiDE 1.2 和 mammoth-1 对同一请求给出相同答案,但当选项被打乱时,它们会改变 9-10% 的答案。Jev 1.14 在没有任何变化时会改变 5.6% 的答案,在打乱时会改变 12.3%。Prism 按发送时的顺序读取选项,对同一请求给出相同答案,在打乱时改变 4.0%。Prism 通过在评分前将选项放入一个固定顺序(无论它们以何种顺序到达),并以原始选项名称返回每个概率,从而弥合了这一差距。经过这一步,它在 2,000 个答案中改变了 0 个。
我们已在真实用例中测试了 Prism,例如语音到语音测试框架、轨迹评估、提示注入防护、客户支持意图路由、模型路由和文档智能。
我们正在分享一些早期基准测试结果,并将在未来陆续发布更多。
智能体轨迹评估
智能体的工作需要检查,既要确认任务是否成功,也要确认该次运行是否需要人工审核。我们使用了三组录制的运行数据。AgentRewardBench 包含在 AssistantBench、VisualWebArena、WebArena 和 WorkArena 上的网页智能体运行,由专家标注。τ-bench 包含客户服务对话,按任务是否完成进行标注。Who&When 和 TRAIL 包含失败的运行,标注了出错的步骤和负责的智能体。所有五个模型都在相同的 700 次运行(1,770 个问题)上进行了评分。
每个答案都与已知的正确标签进行核对,绝不依赖另一个 AI 模型的判断。对于任务是否成功或是否需要审核,标签来自审查了每次网页智能体运行的人类专家(AgentRewardBench),或来自环境对最终结果的自动检查(τ-bench)。对于哪个智能体导致了失败,人工标注者在每次失败的运行中标记了负责的智能体(Who&When、TRAIL)。
评判 agent 运行
准确率评判 700 条录制的 agent 运行(越高越好)
- Sarvam Prism
- Clef
- Jev 1.14
- Microsoft-Decision-1
- Claude Haiku 5.5
任务是否成功?Sarvam Prism
75.0%
Clef
71.6%
Jev 1.14
71.8%
Microsoft-Decision-1
71.3%
Claude Haiku 5.5
66.0%
该运行是否需要人工审核?Sarvam Prism
86.4%
Clef
80.4%
Jev 1.14
81.9%
Microsoft-Decision-1
83.4%
Claude Haiku 5.5
77.9%
哪个 agent 导致了失败?Sarvam Prism
69.6%
Clef
60.9%
Jev 1.14
65.2%
Microsoft-Decision-1
45.7%
Claude Haiku 5.5
37.0%
所有问题Sarvam Prism
78.5%
Clef
76.4%
Jev 1.14
76.4%
Microsoft-Decision-1
75.7%
Claude Haiku 5.5
70.7%
0%25%50%75%100%
准确率(%)
| 问题 | Sarvam Prism | Clef | Jev 1.14 | Microsoft-Decision-1 | Claude Haiku 5.5 |
|---|---|---|---|---|---|
| 任务是否成功? | 75.0% | 71.6% | 71.8% | 71.3% | 66.0% |
| 该运行是否需要人工审核? | 86.4% | 80.4% | 81.9% | 83.4% | 77.9% |
| 哪个 agent 导致了失败? | 69.6% | 60.9% | 65.2% | 45.7% | 37.0% |
| 所有问题 | 78.5% | 76.4% | 76.4% | 75.7% | 70.7% |
所有问题还包括重复循环、副作用、运行首次出错的步骤以及错误类型。
Prism 在单块 GPU 上约半秒即可完成一次完整 agent 运行的评分。它只读取一次 trace,就能同时为全部五个问题打分。通过 API 调用的 Claude Haiku 5.5 每次运行的中位耗时为 2.5 秒,每 1,000 次运行花费 $0.64。这使得 Prism 成为更快、更便宜的替代方案。Prism 每个问题最多可处理 131,072 个 token,因此长 trace 可以一次性评估,而无需分块处理。
Agent 安全护栏
该测试使用一个内部基准,包含九项任务共 5,517 个问题,基于 2026 年 7 月以来公布的漏洞构建。模型需要判断制品是否属于钓鱼活动的一部分、传入的提示是否试图进行越狱,并将攻击类型归类到 MITRE 框架中。
我们将在未来几周扩展该评测集并公开发布。
安全决策
在我们内部网络安全基准(5,517 个问题)上的准确率(越高越好)
Sarvam Prism
89.0%
Clef
84.5%
Jev 1.14
78.6%
Microsoft-Decision-1
76.1%
50%60%70%80%90%100%
准确率(%),坐标轴从 50% 开始
| 模型 | 准确率 |
|---|---|
| Sarvam Prism | 89.0% |
| Clef | 84.5% |
| Jev 1.14 | 78.6% |
| Microsoft-Decision-1 | 76.1% |
Prism 得分 89.0%,领先于 Clef(84.5%)、Jev 1.14(78.6%)和 Microsoft-Decision-1(76.1%)。
工作原理
Prism 是 Sarvam 105B 的 LoRA 微调版本。它以状态、问题和选项作为输入,并在单次前向传播中处理它们。一个小型评分头为每个选项返回一个概率,无需逐 token 生成。
训练目标
Prism 通过两个等权重的损失项学习选项上的概率分布。第一个是带 5% 标签平滑的交叉熵,用于抑制完全确定性。第二个是 Brier 损失,它衡量概率的平方误差,使自信的错误代价高昂。我们将 Prism 的校准归因于这两项训练选择。
注意力掩码
状态和问题构成一个双向读取的块。每个选项能看到该块和自身,但永远看不到其他选项,且每个选项都从相同位置开始。只有答案 token 能看到一切,选项正是在那里进行比较。将选项隔离使每个判断相互独立。在块内双向读取可在 Jev Decision Index 上增加约 3 分。
跨 Token 的注意力可见性
一个问题两个选项的三个注意力掩码
- 状态
- 问题
- 选项 A
- 选项 B
- 答案
- 被屏蔽
标准:从左到右
SQABAns
SQABAns
块,内部从左到右
SQABAns
SQABAns
Prism:块,双向
SQABAns
SQABAns
行:执行读取的词。列:它能看到的词,按类别着色。S = 状态,Q = 问题,A 和 B = 两个选项,Ans = 答案 token。
中间到右侧:在 Jev Decision Index 上约 +3 分。
状态和问题块是完全双向的,因此标准的无掩码内核可以精确计算它。只有选项和答案行这一细条需要自定义掩码。以这种方式拆分计算,使超过 2048 个 token 的请求的注意力速度提升 2.6 倍。FP8 使 Jev Decision Index 分数变化了 0.01 分。总的来说,这些步骤使 Prism 速度提升 15.1 倍。
一个注意力掩码,分两部分计算
Prism 针对一个问题两个选项的掩码
- 快速内核,无掩码
- 掩码内核,仅这些行
- 被屏蔽
状态QABAns
状态QABAns
状态 + 问题:一个完整的正方形快速内核,无需掩码
选项 + 答案:一个细条掩码内核,仅这些行
行:执行读取的词。列:它能看到的词。Q = 问题,A 和 B = 两个选项,Ans = 答案 token。
让它变快
Prism 最初在两张 B200 GPU 上以 16 位精度运行,每个中位请求耗时 664 毫秒。我们将权重转换为 FP8,使模型能装入单张 GPU,在一个分组内核中运行全部 128 个专家,将前向传播捕获为 CUDA Graph,将 FP8 转换折叠进专家内核,并将微调适配器合并到模型权重中。这些措施共同将中位请求时间降至 44 毫秒,比最初快 15 倍,且精度没有下降。
使用 Prism
Prism 的权重位于 Hugging Face,采用
Apache 2.0 许可证。Prism 在单张至少 120 GB 内存的 GPU 上以 FP8 运行。它也可通过 Sarvam API 在
Sarvam Indus 上使用。每个请求接收一个状态、一个问题以及任意数量能放入上下文窗口的选项,并为每个选项返回一个概率。文档可在
此处获取。
来源:Sarvam AI · sarvam.ai