跳到正文
Anthropic News·· 2023-05-11精选AI 评分80

Anthropic 将 Claude 上下文窗口从 9K 扩展至 100K tokens

Introducing 100K context windows

AI 导读

Anthropic 宣布将 Claude 的上下文窗口从 9K 扩展到 100K tokens,约合 7.5 万词,可一次提交数百页材料进行分析,对话可持续数小时甚至数天。官方称处理 10 万 tokens 文本不到一分钟,并举例把《了不起的盖茨比》全文(72K tokens)载入 Claude-Instant 并改动一行,模型 22 秒内找出差异。100K 上下文窗口现已在 API 中提供。

推荐理由

官方给出上下文窗口从 9K 扩到 100K 的具体数字与实测案例,可据此判断长文档处理场景的可用性。

正文 · AI 翻译


我们将 Claude 的上下文窗口从 9K 扩展到 100K token,相当于约 75,000 个单词!这意味着企业现在可以提交数百页的材料供 Claude 消化和分析,与 Claude 的对话可以持续数小时甚至数天。

普通人阅读 100,000 token 的文本大约需要 5 个多小时[1],之后他们可能需要更长的时间来消化、记忆和分析这些信息。Claude 现在可以在不到一分钟内完成这些工作。例如,我们将《了不起的盖茨比》的全文加载到 Claude-Instant 中(72K token),并修改了一行,说 Carraway 先生是“一名在 Anthropic 从事机器学习工具开发的软件工程师”。当我们让模型找出不同之处时,它在22 秒内给出了正确答案。

除了阅读长文本之外,Claude 还可以帮助从那些支撑你业务运转的文档中检索信息。你可以将多个文档甚至一整本书放入提示中,然后向 Claude 提出需要在文本许多部分之间综合知识才能回答的问题。对于复杂问题,这很可能比基于向量搜索的方法效果要好得多。Claude 可以遵循你的指令,像人类助手一样返回你要找的内容!

我们的合作伙伴对更大的上下文窗口对其业务意味着什么感到兴奋。100K 相当于大约 6 小时的音频——AssemblyAI 对此做了一个很棒的演示,他们将一档长篇播客转录成 58K 个单词,然后使用 Claude 进行摘要和问答。你可以在这里观看完整演示。借助 100K 上下文窗口,你可以:

  • 消化、总结和解释财务报表或研究论文等密集文档
  • 根据公司年报分析其战略风险与机遇
  • 评估一项立法的利弊
  • 识别法律文件中的风险、主题和不同形式的论证。
  • 通读数百页开发者文档,并找出技术问题的答案
  • 通过将整个代码库放入上下文来快速制作原型,并智能地在其基础上构建或修改

100K 上下文窗口现已在我们的 API 中提供。如果你正在使用 Claude,可以在这里了解更多关于应调用哪些模型版本的信息。如果你还没有使用 Claude,可以在这里申请访问权限。

[1] https://www.sciencedirect.com/...

相关内容

Anthropic 投资 1 亿美元培训 10,000 名工程师,以弥合企业 AI 人才缺口

Anthropic 将向 Claude Frontier Academy 投资 1 亿美元,到 2027 年底培训 10,000 名 Frontier Deployed Engineers,来自 Accenture、Bain、CBA、Deloitte、McKinsey、Morgan Stanley 和 Novo Nordisk 的首批学员已经开课。

阅读更多

Barclays 扩展 Claude 以升级运营并改善客户体验

英国全能银行 Barclays 正在扩大与 Anthropic 的战略合作,以在其全球业务中整合安全的企业级 AI 系统。

阅读更多

Claude 发现了一种具有类 CRISPR 重复序列的新型酶系统

我们宣布在 Anthropic 成立一个新的生命科学研究团队和实验室。本文介绍这项工作背后的团队,并分享早期成果:在我们的科学家仅提供高层方向的情况下,Claude 发现了一个具有类似 CRISPR 特性的新型酶系统。

阅读更多

来源:Anthropic News · anthropic.com