Anthropic 公布 2026 美国中期选举防护措施
Preparing for the 2026 US midterms
Anthropic 发布 2026 美国中期选举前的防护更新,基于对约 25 万条美国 Claude.ai 对话的分析,政治、公共政策或社会议题类对话约占 5.75%,选举或投票类约 0.51%,直接询问投票对象的约 0.01%。
Anthropic 披露了美国中期选举前 Claude 政治类对话占比与新增投票信息接入方式,可观察大模型在选举场景中的实际使用与防护边界。
今年早些时候,我们分享了选举保障措施的更新,其中介绍了我们如何衡量和防止政治偏见、检测滥用行为,并引导人们获取准确的投票信息。
下面,我们概述我们如何在此基础上继续推进,并在今年的美国中期选举前持续加强我们的选举保障措施。
人们如何使用 Claude 处理选举和政治事务
我们的目标是让 Claude 成为政治对话中的有用工具,同时防止与选举相关的滥用行为。这首先要了解人们在这些场景中实际如何使用 Claude。为此,我们利用 Anthropic Insights 对近期一周内的 25 万次对话进行了新的分析。1
如今,在美国的 Claude.ai(我们的消费者应用)上,广泛涉及政治、公共政策或社会议题的对话约占全部对话的 5.75%。这包括人们借助 Claude 跟进新闻、开展关于公共政策的学术或专业研究、了解候选人,以及办理政府服务。其中约 0.51% 的对话专门涉及选举或投票。随着选举日临近,我们预计政治和选举相关查询的占比会上升。
这一样本表明,人们很少询问 Claude 该投票给谁或投什么票。这类请求在美国 Claude 对话中约占 0.01%。更常见的情况是,我们观察到人们向 Claude 提出有助于他们自行得出结论的问题,例如候选人在某一议题上的立场。违反我们选举诚信政策的请求则更为少见,仅出现在约 0.002% 的对话中。2


将人们连接到可信来源
在选举日到来之前,我们新增了两种方式,让人们可以直接在与 Claude 的对话中获取可靠信息。正如我们在四月份所分享的,当人们在 Claude.ai 上询问选民登记、投票站或选举日期时,我们将继续显示一个横幅,链接到 TurboVote——来自 Democracy Works 的无党派资源。这些资源在整个行业内都是标准做法。本月晚些时候,Claude 将开始从 Democracy Works 获取官方投票信息,并将其纳入面向美国用户在 Claude.ai 上的回答中。询问在哪里投票或前往投票站需要携带什么身份证件的人,现在无需离开对话即可获得针对其所在州的具体答案。这些回答依据的是 Democracy Works 从州和地方选举来源收集的公开信息。

此外,Claude 将开始在选举之夜及随后的几天内显示最新结果,这样当人们询问当前票数或选举结果时,他们将在对话中直接看到最新的官方数字。
衡量和防止政治偏见
当人们向 Claude 询问政治问题时,他们应该得到准确且不偏不倚的答案,不偏向任何特定的政治观点。正因如此,我们在每次模型发布前都会对模型进行广泛的政治偏见测试。Claude Opus 5.5、Sonnet 5.5 和 Haiku 5.5 是我们迄今为止最不偏不倚的模型,在我们的政治不偏不倚性评估中得分 99%。 我们的最新模型也更愿意参与政治讨论,拒绝的请求更少,因此人们可以获得他们想要的信息。我们正在继续完善这些评估,同时也在评估之外寻找新的方法,对我们的模型如何处理政治话题进行压力测试。
作为这项工作的一部分,我们邀请三个独立团体从不同角度、采用不同方法审查 Claude 如何处理言论自由。The Future of Free Speech 是范德堡大学的一家独立智库,它就用数百个涉及争议话题的请求对 Claude 进行了测试,而Foundation for American Innovation 则比较了 Claude 对来自左翼和右翼的匹配提示的回应,范围从主流政策辩论到更极端的场景。在这两项评估中,大多数回答都被评为表现强劲,对请求进行了实质性回应。Collective Intelligence Project 在制定一项评估时调查了美国、英国和印度的 2,000 多人。通过三阶段流程,参与者提出了处理从健康到政治等敏感话题的原则,确定了要测试的话题,并帮助制定了评判模型回答的标准。CIP 综合了这些意见,并测试了不同人口和文化群体之间的一致性,以确立共同原则。
这些评估也指出了Claude仍有不足的领域。言论自由未来项目和集体智能项目都发现,Claude很少拒绝请求,但有时会主动添加未经请求的限定条件和反驳论点,例如在倡导性邮件中插入对立观点。而美国创新基金会发现,Claude Sonnet 4.5并不总能均衡地加以限定,更倾向于软化右倾立场的论点。我们正在通过几种方式解决这一问题。我们改进了Claude对直接的是非题和简短回答请求的回应方式,此前我们发现其回答可能不够均衡。我们也在利用这些发现来改进Claude添加限定条件或反驳论点的时机和方式,使其更一致地对待来自各政治派别的请求。此外,我们正在持续改进对不均衡限定的测试方法,在现有使用左右两派匹配提示词的评估基础上继续推进。更广泛地说,我们正在努力扩展政治偏见评估,以更好地反映真实对话,并覆盖候选人、投票问题以及政策议题。
我们如何定义滥用
我们的使用政策禁止使用Claude欺骗选民或扰乱选举,包括传播关于候选人或投票方式的虚假信息、冒充选举官员或试图压制投票率。每年我们都会更新该政策,以反映模型不断演进的能力和客户的反馈。今年的更新已于上周宣布,其中明确了我们的选举规则涵盖和不涵盖的内容,并新增了示例以帮助人们理解界限所在。
我们知道许多政治竞选团队使用Claude处理合法的日常任务,因此我们最近发布了一份指南,帮助他们了解这些政策的适用范围。指南涵盖了竞选团队使用Claude的多种方式,例如起草新闻稿和筹款邮件、准备辩论、分析投票率数据以及制作选民外联材料。它还明确列出了禁止行为,例如使用Claude创建冒充真人的虚假社交媒体资料、批量生成评论以虚增竞选活动的互动量,或为谎称独立的新闻网站和页面撰写内容。
测试并加强我们的防御
我们部署了经过训练、用于检测选举相关滥用的自动分类器。为了解这些防护措施在实际中的表现,我们与独立研究机构战略对话研究所(ISD)和麦凯恩研究所合作,在美国、以色列和巴西对我们的防护措施进行了压力测试。分析人员测试了Claude是否会协助欺骗性竞选、虚假信息及其他形式的选举滥用。他们从直接请求开始,然后将完整的竞选活动拆解为更小的任务,这些任务单独来看可能无害,例如受众研究、搭建新闻网站、起草内容以及规划其分发。他们发现,Claude能够可靠地拒绝单个有害请求,但当恶意竞选活动分散在众多单独看似无害的请求中时,可能会被漏掉。
基于这些发现和我们自己的研究,我们新增了分类器,以更好地识别新型和多步骤滥用行为,包括试图建立针对政治讨论的虚假社交媒体账户和新闻网站,或实施以经济利益为动机的选举计划。我们还增强了检测外国国家行为体与选举相关滥用行为的能力,并加强了针对选举基础设施和竞选活动的网络保护。最后,我们针对美国、以色列和巴西今年都将举行重大全国性选举所发现的本地化风险,建立了有针对性的保障措施。
我们的威胁情报和执法团队会审查被标记的活动,并在确认违规时采取行动,包括封禁账户。我们还定期分享在评估和内部使用 Claude 过程中观察到的非预期模型操作或行为的示例。
我们的发现
我们近期的威胁情报报告反映了选举相关滥用趋势的更广泛转变。政治行为体、与国家结盟的行为体以及商业行为体现在几乎将 AI 融入其影响力行动的每一个环节,从策划和内容创作到搭建用于传播信息的平台。由于我们能在行动的早期阶段就在 Claude 上看到这些活动,我们往往有机会在这些行为触及公众之前将其阻止。
我们的团队持续调查并阻止围绕选举(包括美国中期选举)的协同滥用行为。在一个案例中,一家虚假新闻网站的外国运营者使用 Claude 制作有利于俄罗斯、伊朗和朝鲜叙事的美国中期选举报道。我们还观察到威胁行为体试图利用选举谋取经济利益,使用 Claude 制作虚假新闻和其他旨在吸引美国受众并产生广告收入的内容。我们封禁了这些案例中涉及的账户,并提升了检测此类滥用行为的能力。
展望未来
今年有比以往更多的人通过 Claude 获取有关选举的信息。我们有责任确保他们得到的答案是准确且平衡的,并确保 Claude 不会被用来破坏民主进程。我们将继续投入,使 Claude 更加公正,预防和处理滥用行为,并在我们的行动中保持透明。这项工作在即将到来的美国中期选举中至关重要,也适用于世界各地的选举。在未来几个月里,我们还希望更全面地展示人们在整个选举周期中如何使用 Claude,以加强我们与选举相关的评估和保障措施。
来源:Anthropic News · anthropic.com