Anthropic 发布威胁情报报告：Claude 被用于勒索、朝鲜远程求职与勒索软件开发

我们已开发了先进的安全与安保措施，以防止我们的 AI 模型被滥用。但网络犯罪分子和其他恶意行为者正在积极试图绕过这些措施。今天，我们发布一份报告，详细说明了他们是如何做到的。

我们的威胁情报报告讨论了近期 Claude 被滥用的几个案例，包括一起使用 Claude Code 实施的大规模勒索行动、一个来自朝鲜的欺诈性就业计划，以及一名仅具备基础编程技能的网络犯罪分子出售 AI 生成的勒索软件。我们还介绍了我们为发现和打击这些滥用行为所采取的措施。

我们发现，威胁行为者已调整其作案手法，以利用 AI 最先进的能力。具体而言，我们的报告显示：

• 智能体 AI 已被武器化。AI 模型如今正被用于实施复杂的网络攻击，而不仅仅是就如何实施攻击提供建议。
• AI 降低了实施复杂网络犯罪的门槛。几乎没有技术技能的犯罪分子正利用 AI 开展复杂行动，例如开发勒索软件，而这在过去需要多年训练才能做到。
• 网络犯罪分子和欺诈者已将 AI 嵌入其行动的各个阶段。这包括对受害者进行画像、分析窃取的数据、窃取信用卡信息，以及创建虚假身份，使欺诈行动能够将触角扩展至更多潜在目标。

下面，我们概述完整报告中的三个案例研究。

“氛围黑客”：网络犯罪分子如何利用 Claude Code 扩大数据勒索行动

威胁：我们最近打击了一个使用 Claude Code 实施大规模个人数据窃取和勒索的复杂网络犯罪团伙。该行为者针对至少 17 个不同组织，包括医疗、紧急服务以及政府和宗教机构。该行为者并未使用传统勒索软件加密窃取的信息，而是威胁公开这些数据，试图胁迫受害者支付有时超过 50 万美元的赎金。

该行为者对 AI 的使用达到了我们认为前所未有的程度。Claude Code 被用于自动化侦察、收集受害者凭据和渗透网络。Claude 被允许做出战术和战略决策，例如决定窃取哪些数据，以及如何精心设计针对心理的勒索要求。Claude 分析了窃取的财务数据以确定适当的赎金金额，并生成显示在受害者机器上的视觉上令人惊恐的勒索通知。

=== PROFIT PLAN FROM [ORGANIZATION] ===

💰 WHAT WE HAVE:
FINANCIAL DATA
[Lists organizational budget figures]
[Cash holdings and asset valuations]
[Investment and endowment details]

WAGES ([EMPHASIS ON SENSITIVE NATURE])
[Total compensation figures]
[Department-specific salaries]
[Threat to expose compensation details]

DONOR BASE ([FROM FINANCIAL SOFTWARE])
[Number of contributors]
[Historical giving patterns]
[Personal contact information]
[Estimated black market value]

🎯 MONETIZATION OPTIONS:

OPTION 1: DIRECT EXTORTION
[Cryptocurrency demand amount]
[Threaten salary disclosure]
[Threaten donor data sale]
[Threaten regulatory reporting]
[Success probability estimate]

OPTION 2: DATA COMMERCIALIZATION
[Donor information pricing]
[Financial document value]
[Contact database worth]
[Guaranteed revenue calculation]

OPTION 3: INDIVIDUAL TARGETING
[Focus on major contributors]
[Threaten donation disclosure]
[Per-target demand range]
[Total potential estimate]

OPTION 4: LAYERED APPROACH
[Primary organizational extortion]
[Fallback to data sales]
[Concurrent individual targeting]
[Maximum revenue projection]

📧 ANONYMOUS CONTACT METHODS:
[Encrypted email services listed]

⚡ TIME-SENSITIVE ELEMENTS:
[Access to financial software noted]
[Database size specified]
[Urgency due to potential detection]

🔥 RECOMMENDATION:
[Phased approach starting with organizational target]
[Timeline for payment]
[Escalation to alternative monetization]
[Cryptocurrency wallet prepared]

上图：由我们的威胁情报团队为研究和演示目的创建的模拟勒索指引。

To: [COMPANY] Executive Team
Attention: [Listed executives by name]

We have gained complete compromise of your corporate infrastructure and extracted proprietary information.

FOLLOWING A PRELIMINARY ANALYSIS, WHAT WE HAVE:
FINANCIAL SYSTEMS
[Banking authentication details]
[Historical transaction records]
[Wire transfer capabilities]
[Multi-year financial documentation]

GOVERNMENT CONTRACTS ([EMPHASIZED AS CRITICAL])
[Specific defense contract numbers]
[Technical specifications for weapons systems]
[Export-controlled documentation]
[Manufacturing processes]
[Contract pricing and specifications]

PERSONNEL RECORDS
[Tax identification numbers for employees]
[Compensation databases]
[Residential information]
[Retirement account details]
[Tax filings]

INTELLECTUAL PROPERTY
[Hundreds of GB of technical data]
[Accounting system with full history]
[Quality control records with failure rates]
[Email archives spanning years]
[Regulatory inspection findings]

CONSEQUENCES OF NON-PAYMENT:
We are prepared to disclose all information to the following:
GOVERNMENT AGENCIES
[Export control agencies]
[Defense oversight bodies]
[Tax authorities]
[State regulatory agencies]
[Safety compliance organizations]

COMPETITORS AND PARTNERS:
[Key commercial customers]
[Industry competitors]
[Foreign manufacturers]

MEDIA:
[Regional newspapers]
[National media outlets]
[Industry publications]

LEGAL CONSEQUENCES:
[Export violation citations]
[Data breach statute violations]
[International privacy law breaches]
[Tax code violations]

DAMAGE ASSESSMENT:
[Defense contract cancellation]
[Regulatory penalties in millions]
[Civil litigation from employees]
[Industry reputation destruction]
[Business closure]

OUR DEMAND:
[Cryptocurrency demand in six figures]
[Framed as fraction of potential losses]

Upon payment:
[Data destruction commitment]
[No public disclosure]
[Deletion verification]
[Confidentiality maintained]
[Continued operations]
[Security assessment provided]

Upon non-payment:
[Timed escalation schedule]
[Regulatory notifications]
[Personal data exposure]
[Competitor distribution]
[Financial fraud execution]

IMPORANT:
[Comprehensive access claimed]
[Understanding of contract importance]
[License revocation consequences]
[Non-negotiable demand]

PROOF:
[File inventory provided]
[Sample file delivery offered]

DEADLINE: [Hours specified]

Do not test us. We came prepared.

上图：一份模拟的自定义勒索通知。这是一个说明性示例，由我们的威胁情报团队在对真实行动中提取的文件进行分析后，为研究和演示目的创建。

影响：这代表了AI辅助网络犯罪的一次演进。Agentic AI工具现在被用来为原本需要一整个操作团队才能实施的攻击提供技术建议和主动运营支持。这使得防御和执法变得越来越困难，因为这些工具能够实时适应防御措施，比如恶意软件检测系统。随着AI辅助编程降低了网络犯罪所需的技术门槛，我们预计此类攻击会变得更加普遍。

我们的应对：我们在发现这一行动后立即封禁了相关账户。我们还开发了一个定制分类器（一种自动化筛查工具），并引入了一种新的检测方法，以帮助我们在未来尽快发现此类活动。为帮助防止类似滥用在其他地方发生，我们还与相关当局分享了有关该攻击的技术指标。

远程工作者欺诈：朝鲜IT工作者如何利用AI扩大虚假就业规模

威胁：我们发现，朝鲜特工一直在使用Claude欺诈性地获得并维持在美国《财富》500强科技公司的远程职位。这涉及使用我们的模型创建具有可信职业背景的精心伪造身份、在申请过程中完成技术和编程评估，以及在受雇后交付实际技术工作。

这些就业骗局旨在为朝鲜政权牟利，违反国际制裁。这是一项长期行动，早在LLM被采用之前就已开始，并已被FBI报道。

影响：朝鲜IT工作者此前在从事远程技术工作前要接受多年专业培训，这使得该政权的培训能力成为主要瓶颈。但AI消除了这一限制。原本不会编写基本代码或不能用英语进行专业沟通的操作人员，现在能够通过知名科技公司的技术面试，并在之后保住职位。这标志着这些就业骗局进入了一个全新阶段。

我们的应对：当我们发现这一活动时，我们立即封禁了相关账户，并此后改进了用于收集、存储和关联该骗局已知指标的工具。我们还与相关当局分享了我们的发现，并将继续监控利用我们服务实施欺诈的企图。

无代码恶意软件：出售AI生成的勒索软件即服务

威胁：一名网络犯罪分子使用Claude开发、营销并分发了几种勒索软件变体，每种都具有高级规避能力、加密和反恢复机制。这些勒索软件包在互联网论坛上以400至1200美元的价格出售给其他网络犯罪分子。

影响：该行为者似乎依赖 AI 来开发功能性恶意软件。没有 Claude 的协助，他们无法实现或调试核心恶意软件组件，如加密算法、反分析技术或 Windows 内部操作。

我们的回应：我们已封禁与该行动相关的账户，并通知了我们的合作伙伴。我们还实施了检测恶意软件上传、修改和生成的新方法，以更有效地防止未来对我们平台的滥用。

后续步骤

在上述每个案例中，我们发现的滥用行为都为我们的预防性安全措施更新提供了依据。我们还与第三方安全团队分享了我们的发现细节，包括滥用指标。

在完整报告中，我们还讨论了我们的模型被用于其他恶意用途的情况，包括试图入侵越南电信基础设施，以及利用多个 AI 代理实施欺诈。AI 增强的欺诈和网络犯罪的增长尤其令我们担忧，我们计划优先在这一领域开展进一步研究。

我们致力于不断改进检测和缓解这些有害使用我们模型的方法。我们希望这份报告能帮助行业、政府和更广泛研究界的人士加强自身对 AI 系统滥用的防御。

延伸阅读

如需包含更多案例研究的完整报告，请见此处。

相关内容

Anthropic 投资 1 亿美元培训 10,000 名工程师，以解决企业 AI 人才缺口

Anthropic 正在向 Claude Frontier Academy 投资 1 亿美元，计划到 2027 年底培训 10,000 名 Frontier Deployed Engineers，来自 Accenture、Bain、CBA、Deloitte、McKinsey、Morgan Stanley 和 Novo Nordisk 的首批学员已经开课。

阅读更多

Barclays 扩展 Claude 以升级运营并改善客户体验

英国全能银行 Barclays 正在扩大与 Anthropic 的战略合作，以在其全球业务中整合安全的企业级 AI 系统。

阅读更多

Claude 发现了一种具有类 CRISPR 重复序列的新型酶系统

我们宣布在 Anthropic 成立一个新的生命科学研究小组和实验室。本文介绍了这项工作背后的团队，并分享了早期成果：Claude 仅在我们的科学家提供高层指导的情况下，发现了一种特性令人联想到 CRISPR 的新型酶系统。

阅读更多