NVIDIA论文研究上下文压缩对长任务的影响

2026年11月4日，X 用户 Elvis Saravia（DAIR.AI）发帖介绍 NVIDIA 的一篇论文，该论文研究上下文压缩对前沿语言模型在长程与长输入任务上准确率及成本的影响。帖子称，频繁压缩上下文时，前沿模型在广泛的长程和长输入任务上精度几乎不降，同时上下文保持较短。具体数据方面，在每步一个动作的设置下，Claude Opus 4.5 在 SWE-bench Verified 上得 70.2，使用完整历史时为 70.0；峰值上下文中位数从 32K 降到 8K token。帖子还称，在对话结束时做简单压缩往往优于完整历史，Opus 由此从 70.0 升至 74.8。该模式在 Terminal-Bench、FRAMES、BFCLv3 和多语言 SWE-bench 上同样成立，部分设置下有轻微损失。上述数字与结论均来自该帖对论文的转述。

AI 根据报道生成 · 54 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。