跳到正文
Artificial Analysis· @ArtificialAnlys · X·· 2 小时前精选AI 评分60
AI 导读

Artificial Analysis 为 OpenAI 的 HealthBench 和 HealthBench Professional 两个医疗对话基准上线了排行榜。

推荐理由

Artificial Analysis 上线 HealthBench 两个榜单,并给出长度惩罚与成本对比,可观察医疗对话评测中分数与回答长度的关系。

正文 · AI 翻译

我们正在为 HealthBench 和 HealthBench Professional 推出排行榜,这两个基准用于评估 AI 模型在真实健康对话中的回应表现

HealthBench 和 HealthBench Professional 是来自 @OpenAI 的基准,依据医生创建的评分标准,对模型在真实健康对话中的回复进行评分。

HealthBench 用 5,000 段与普通用户和卫生工作者的健康对话来测试模型。这些对话涵盖七大主题,从紧急转诊到全球健康,每条评分标准都归属于五个维度之一:准确性、完整性、沟通质量、上下文感知和指令遵循。HealthBench Professional 是一个更小的集合,包含 525 段对话,与 HealthBench 不同,这些对话全部是与临床医生进行的。它们涵盖咨询、写作和研究任务,并包含旨在挑战模型的对抗性和困难对话。

我们同时报告原始分数(获得的评分标准点数占比)和 OpenAI 报告的长度调整后分数。长度调整后分数会降低超过 2,000 字符的回复的分数,并提高较短回复的分数。与 OpenAI 的原始实现一致,回复由 GPT-5.4 (low)(HealthBench Professional)和 GPT-4.1(HealthBench)评分。

HealthBench Professional 的主要结果:

➤ GPT-6 Astra 和 GPT-6.1 Sol 位居榜首:GPT-6 Astra (max) 在长度调整后分数上得分 66.0%,与 GPT-6.1 Sol (max, 65.1%) 相当,并领先于 Claude Sonnet 5.5 (max with fallback, 63.0%)

➤ OpenAI 模型构成了分数 vs. 每任务成本帕累托前沿的全部:帕累托前沿由 GPT-6 Luna (max, 61.9%, 每任务 $0.004) 到 GPT-6 Sol (max, 62.3%, $0.036)、GPT-6.1 Sol (max, 65.1%, $0.047),再到 GPT-6 Astra (max, 66.0%, $0.27) 组成。GPT-6 Luna (max) 的得分比 GPT-6 Astra (max) 低 4 分,成本不到 2%

➤ Claude Opus 5.5 和 Claude Fable 5.1 受到最大的长度惩罚:两者平均每个答案约 5,900 字符,接近 2,000 字符阈值的 3 倍,调整后损失超过 11 分。Claude Opus 5.5 (max with fallback) 的原始分数最高(71.4%),但降至第六(59.9%)。GPT-6 Sol (max) 是唯一平均低于 2,000 字符(约 1,600)的模型,也是唯一分数上升的模型

HealthBench 的主要结果:

➤ Claude Sonnet 5.5 位居 HealthBench 榜首:Claude Sonnet 5.5 (max with fallback) 在长度调整后分数上得分 62.1%,领先于 DeepSeek V4.1 Flash (max, 60.9%) 和 GPT-6.1 Sol (max, 58.5%)

➤ GPT-6 Luna、DeepSeek V4.1 Flash 和 Claude Sonnet 5.5 构成分数 vs. 每任务成本帕累托前沿:GPT-6 Luna (max) 以每任务 $0.002 得分 54.6%,DeepSeek V4.1 Flash (max) 以每任务 $0.005 得分 60.9%。Claude Sonnet 5.5 (max with fallback) 的平均每任务成本为 $0.08,比 DeepSeek V4.1 Flash 贵约 16 倍,而分数仅提高约 1 分

➤ 较短的答案以完整性换取沟通质量:每个 HealthBench 评分项都标记为五个维度之一。完整性检查回复是否包含所有重要信息,而沟通质量检查回复是否清晰、结构良好,并且长度和细节程度恰当。GPT-6 Sol (max) 写出的答案最短(约 1,000 字符),原始沟通质量分数最高(81%),但完整性分数最低(34%)。Claude Sonnet 5.5 (max with fallback) 在完整性上领先(63%)

来源:Artificial Analysis · x.com