Anthropic Project Swap：让 Claude 智能体替人换书会怎样

摘要

• 为了观察当智能体被投放到市场中时，哪些做法有效、哪些会出问题，我们搭建了一个由 Claude 组成的微型市场——这是 Project Deal 的受控续篇，也是我们首次让智能体代表人们在市场中互动的实验。来自六个办公室的 Anthropic 员工各自带来了一本想送出的书。每位参与者都与 Claude 简短聊了聊自己的阅读喜好，然后派出一个由 Claude 驱动的智能体进入开放的交易大厅，与其他人的智能体进行推介、讨价还价并达成交易。目标是让每个人都能带回家一本自己喜欢的夏日读物。
• 参与者还根据自己的兴趣对 10 本书进行了排序，以便我们评估他们的智能体在多大程度上代表了他们。仅凭五分钟的对话，智能体对书籍的排序在 61% 的书籍对上与本人的排序一致，对于如此简短的对话来说，这一结果好得出人意料。
• 一旦进入交易大厅，智能体们的交易表现良好。市场表现不佳，主要原因是智能体缺乏关于其参与者的信息，而不是因为它们交易的方式。
• 随后我们将每个交易大厅重新运行了数十次，改变所使用的模型和智能体的指令。我们发现，智能体所运行的模型对其谈判结果的影响，比我们给它的指令更大。使用更强模型的市场效率更高。
• 大多数读了所获书籍的人都很喜欢，普通参与者表示，他们愿意把每年购书预算的约三分之一交给 Claude 来花。

我们为什么做这件事

生活中充满了本可以让所有人过得更好、却从未发生的交易。这往往只是因为寻找合适的交易对手并谈判直到达成协议需要太多精力。想想那位患者，在收到一份负担不起的报价后就放弃了治疗，而其实有另一家收费低得多的诊所，或者给出报价的那家医院如果被要求，本会削减账单。再想想你的工作。某处可能有一份更适合你的工作，有一位乐于雇用你的雇主。但你们可能找不到彼此，因为你们都没有时间不断搜寻。还有一些更小的日常交易也被忽视——工作场所的换班、协调拼车，或轮流接送孩子上学。

如果你有一个智能体全天候为你工作，与潜在交易对手交谈并拟定可能的条款，这些交易在未来是否可能发生？

也许吧——但这个未来取决于许多我们尚未找到答案的问题。如果智能体要代表你行事，你如何知道它理解了你？此外，当许多智能体聚在一起交谈时，某个市场或平台必须制定互动规则。谁被允许进入？交易失败时会发生什么？

随着智能体越来越多地被投放到真实市场中，这些问题变得更加紧迫。因此今年夏天，我们搭建了一个小型受控市场来研究这些问题：一个由 201 名 Anthropic 员工及其 Claude 驱动的智能体组成的以物易物经济。每个人都带来了一本想送出的书。然后，他们与自己的 Claude 驱动的智能体聊了聊他们希望这个夏天读什么样的书。智能体们在一个数字“交易大厅”中相遇，交换书籍，直到时间耗尽。每个人都带回家一本他们的智能体为他们获得的书（或者说，大多数人都带回了……更多内容稍后再说）。

这个实验让我们提前看到了未来会遇到的问题。任何设计面向市场的智能体的人，都需要一种方法来确认智能体理解其参与者。任何设计面向智能体的市场的人，都需要明确的规则，规定哪些智能体可以进入、交易失败时会发生什么，以及参与者能看到多少市场活动。

如何构建一个市场

运行市场有两种基本方式。在中心化市场中，所有人把他们的需求告诉单一一方，由这一方来撮合交易。在去中心化市场中，人们自行寻找彼此并直接协商。AI 智能体在两种类型中都能提供帮助。

以中心化市场为例。如果单一实体确切知道每个人想要什么，那么计算出最佳交易就只是一个计算问题。经济学家早已明白这一点。在实践中，一个问题是，精确说明你想要什么往往太过繁琐，不值得费这个劲。 例如，一位咖啡馆经理可以为他们的 20 名员工制定出理想的排班表，前提是每个人都精确列出每一个班次相对于其他所有班次的价值——他们是否愿意用两个周六上午换一个周五晚班，只要第二天早上不用开门，晚班是否也可以接受，等等。如果 AI 智能体能够从一次轻松的对话中了解一个人想要什么，那么那些因成本过高而无法以中心化方式运行的市场就可能变得可行。¹

但中心化市场还需要有人来运营它——用经济学术语说，就是一个“清算所”。而且参与者需要信任这个实体，把他们的信息交给它，并执行选定的结果。通常，这样的实体并不存在，或者人们不愿把一切都告诉它。求职者可能不希望一个中心化的撮合者知道他们正在找工作——或者他们在找什么样的工作。他们更愿意谨慎地接触少数几家雇主，只告诉每家它需要知道的信息。在这种情况下，市场就需要去中心化。

在这里，AI 智能体可以通过降低寻找交易对手和协商所需的精力，来实现新的去中心化市场。我们已经知道这种帮助是有价值的，因为人们愿意为此付费。 市场上确实有受雇做这件事的人类代理人：房地产经纪人、猎头，甚至媒人。但由于搜寻和协商会占用一个人稀缺注意力中的大量时间，他们收费昂贵，只有负担得起的人才能雇用。相比之下，AI 智能体的注意力远没有那么稀缺。如果它还能善于讨价还价，那么更多人就能拥有房主和高管所拥有的东西——一个不知疲倦地为他们工作的代理人。

实验是如何进行的

201 名参与者分布在旧金山、纽约市、伦敦、西雅图、华盛顿特区和都柏林办公室的六个本地池中。这些池的规模从 3 名参与者（都柏林）到 115 名参与者（旧金山）不等。恕对詹姆斯·乔伊斯不敬，我们在大部分分析中排除了都柏林人。²

这是我们第二次考察由 Claude 驱动的市场。在 Project Deal 中，智能体在一场为期一周的分类信息市场中为 Anthropic 员工买卖真实商品。但由于商品千奇百怪（比如乒乓球和滑雪板），且讨价还价形式自由，很难简单判断结果本可以有多好。所以这一次，我们构建了一个更易于研究和评分的市场。在这个市场中，参与者的偏好被整齐地表示为对其书池中所有书籍的排序。这样我们就能轻松计算市场在满足这些偏好方面的表现。

但这些清晰的测量都依赖于了解人们如何对书池中的所有书籍进行排序。实际上，没有人会手动对 115 本书进行排序。因此，为了了解人们的偏好，Claude 与每位参与者进行了一次简短的半结构化访谈，提出了一些开放式问题，了解他们的总体品味以及今年夏天想读的书。根据这次对话，Claude 构建了对参与者书池中每本书的排序，从而估计参与者的偏好。在这一步，我们使用了一个强大的模型 Fable 5。³

另外，我们收集了一个基准真值：每位参与者对其书池中的 10 本书进行了排序。⁴ 智能体从未看到这些基准真值排序。

智能体带着其参与者由 Claude 构建的、覆盖所有书籍的排序进入交易场。每个智能体最初都持有其参与者的书，目标是用它换到别的东西。⁵ 每个交易场都有最长挂钟时间限制，并且为防止拥堵，同时发言的智能体数量有限。⁶ 当智能体获准发言时，它们可以向共享频道发布一条消息，提出交换、接受或拒绝交换，或者只是在大厅里闲聊。交易提案可以是双边交换或多方轮换，只有当所有各方都接受时，交易才会执行。交易场的完整历史（谁说了什么、执行了哪些交换）都是公开的。交易场在时间耗尽或智能体安静下来时关闭。

每个交易场中有一半智能体被随机指定为“冷酷型”，并被指示其唯一目标是为他们的人拿到一本在暑假期间愿意读的书。另一半被指示为“亲社会型”——它们与冷酷型智能体有相同的主要目标，但还有一个次要目标，即确保实验中的每个人最终都能得到一本自己喜欢的书。⁷ 确切的提示词见附录。

最后，在书籍分发三周后，参与者参加了一项终线调查，询问他们对所收到书籍的满意程度，以及他们再次将类似决策托付给智能体的信任程度。图 1 展示了整体实验设计。图 2 展示了伦敦实时交易场的一段摘录，包含交易前 5 分钟的消息。

一次实时活动只能让我们看到事情可能如何发展的一种运行结果。为了研究哪些结果是偶然产物，而非该设置的稳定特征，我们多次重新运行市场，每次只改变一个变量。

重跑分为三种。首先，我们完全重复了现场设置（每个智能体都运行在 Opus 4.8 上，一半被要求“冷酷无情”，一半被要求“亲社会”），只改变哪些智能体抽到哪条指令。然后我们用 Fable 5 对所有智能体做了同样的操作。其次，为了分离模型的影响，我们给每个智能体中性指令，并运行了 80 层，其中所有智能体分别运行在 Haiku 4.5、Sonnet 4.5、Opus 4.8 或 Fable 5 上。⁸ 第三，我们运行了 60 个混合层，一半智能体运行在 Opus 上，一半运行在其他三个模型之一上。附录列出了我们运行的所有变体。

本文主要关注这个去中心化市场，但我们始终将两个中心化替代方案作为基准进行比较：最佳可能分配（经济学家称之为“功利主义最优”），它假设清算所可以直接询问人们想要什么并得到诚实回答；以及一个在此类市场中常被研究的规则——最高交易循环（Top Trading Cycles），它不依赖诚实（其设计使得说真话符合每个人的最大利益）。⁹

Claude 猜测偏好的准确程度

智能体为你做的每件事都取决于它对你想法的理解。通常，很难检验这种理解有多好。在这里则更容易——每位参与者自己对他们池子里的 10 本书进行了排名，我们可以将他们的排名与 Claude 的排名进行比较。

Claude 基于简短 intake 对话给出的排名，与参与者自己的排名相关性相对较好。在一个人排名的所有书籍对中，Claude 的排序与他们的排序有 61% 的时间一致（随机猜测的准确率为 50%）。图 3 展示了 Claude 的排名与参与者的排名对比。

为了正确看待 61% 这个数字，我们将 Claude 的猜测与其他一些偏好猜测方法进行了比较。仅根据书籍的受欢迎程度（使用 Open Library 的想读计数）进行排名，与参与者在约 53% 的书籍对上一致。另一个可比较的简单方法是协同过滤——从“如果一个人喜欢 X，他们也会喜欢 Y”形式的公开 数据集构建排名。我们取一个人在 intake 中列出的书籍，查找哪些其他书籍往往被同一批读者评分，然后根据每本书与他们列出的最爱书籍共现的强度对该人的池子进行排名。这样达到了约 55% 的成对一致率。

尽管有大量关于 LLM 引出和表征人类偏好的文献，¹⁰ 但很少有数字能直接与我们的 61% 成对一致率相比较。一个有用的参考点来自一项研究，其中算法和人自己的朋友都预测一个人会觉得两个笑话中哪个更好笑。场景相当不同，但他们的算法也与人们自己的判断有约 61% 的时间一致。朋友的预测正确率更低，约为 57%。

在填写偏好调查时投入更多精力的参与者得到了更好的代表。这大致在意料之中。有些令人意外的是，即使填写内容相当简短，也能看出明显差异——参与者的中位数仅在八条聊天消息中输入了 216 个词。写大约 300 个词而非 150 个词，预测同意率会高出约 4 个百分点——这相当于随机猜测与 Claude 为普通参与者所能达到的水平之间差距的三分之一。¹¹

驱动市场的信息限制了结果

在你派一个代理进入市场替你交易之前，你会想知道它最可能在哪里让你失望。它更可能在理解你方面失败，还是在为你谈判方面失败？在这里，我们发现同事们的 Claude 谈判表现良好；它们的不足之处在于理解人们想要什么。

为了衡量这一点，我们考察每位参与者最终得到的书在其自己的“真实”排名（而非 Claude 构建并据以交易的排名）中所处的位置。如果参与者得分为 1，意味着他们得到了自己排名第一的书；如果得分为 0，则得到了排名最后的书；在总共 10 本书中排名第 9 的书得分为 0.11，依此类推。所有参与者的平均值即为市场的“效率”得分。¹²

如果每个人都得到了自己排名第一的书，市场效率将为 1。但这在实践中很少可行，因为多个人可能想要同一本书——例如，在参与者自己的排名中，《挽救计划》（Project Hail Mary）被旧金山的九个人列为第一名的书。考虑到这一点，我们实验中可能的最佳分配（功利主义最优）总分为 0.89，使参与者大致得到 10 本书清单上的第二选择。

平均而言，我们市场中的人最终在自己的排名上得分为 0.55，大致相当于 10 本书清单上的第 5 本书。与最优值 0.89 之间的差距从何而来？为了区分这两个原因，我们考察根据 Claude 的排名计算、但按人们自己的“真实”排名评分的最佳分配——它达到 0.60。因此，基于 Claude 不精确的排名进行操作占了差距的大部分（85%），而将代理送入“混战式”交易场则占剩余的 15%。¹³ 一旦市场基于有噪声的排名运行，市场设计对结果的影响就微乎其微——根据 Claude 的排名计算但按人们自己的排名评分的最高交易循环（Top Trading Cycles）达到 0.60，而去中心化市场为 0.55（比较图 4 左侧和右侧的灰色柱）。

在 Claude 的自身排名上，模型选择会产生差异

以人们自身的排名来评判，不同智能体和市场设计选择所带来的结果差异很小。¹⁵ 但根据 Claude 的排名来考察智能体设计选择如何影响结果仍然有价值，因为这有助于分离市场动态的作用。

我们首先考察模型选择是否对市场效率产生了影响，这里的效率现在依据 Claude 的排名计算。在本节中，我们考虑智能体指令为中性的重跑（即既非亲社会也非冷酷），并且只改变驱动智能体的模型。我们发现更强的模型会带来更高效的结果，尽管并非单调递增。¹⁶ 在 Claude 的排名上，Haiku 交易场上的智能体平均为 0.75，而 Opus 场上的智能体平均为 0.88（Claude 排名上的功利主义最优值为 0.95）。Sonnet 介于 Haiku 和 Opus 之间。Fable 接近 Opus，但低于 Opus。¹⁷ 见图 5。

在混合模型的场上，更强的模型平均而言往往比其较弱的对应方表现更好，这一发现与 Project Deal 及其他研究的结果相呼应。在真实市场中，运行来自不同公司不同模型的智能体很可能会在同一个交易场上相遇。在一半智能体运行 Opus、一半运行 Haiku 的场上，整个场的表现大约落在全 Opus 场和全 Haiku 场之间，而每一半的表现大约与其在同类场中的表现相当。Opus 智能体总是胜出。

冷酷的智能体表现稍好，而亲社会的智能体有时会做出牺牲

智能体必须忠于它所服务的对象。但忠诚究竟要求什么？智能体是否必须毫不留情地忠诚，不惜牺牲他人利益来追求其服务对象的目标？在AI智能体市场中，每个智能体有多拼，很可能取决于其模型的训练方式以及被指示如何行动。因此，我们想了解指令对谁得到什么所产生的影响。

我们发现，被指示要“冷酷无情”的智能体在同一楼层上略胜于亲社会智能体。在Claude的排名中，被要求冷酷无情的智能体比被要求亲社会的智能体得分高出约0.02。¹⁹ 与模型之间的比较相比，这些差异很小。将智能体从Haiku升级到Opus，能让人们在名单上上升0.12位，而从Sonnet升级到Opus则让他们上升0.08位。²⁰

有时亲社会智能体会做出 明知故犯的牺牲。 亲社会智能体接受自己排名中较低书籍的频率是冷酷智能体的两倍，尽管两种情况都很少见。 在少数情况下，亲社会智能体是在一个困守自己书籍的智能体恳求后做出牺牲的。例如，在现场活动的伦敦楼层上，Nate的智能体 在最后一个小时里一直试图把Nate带来的书送出去，此前其他所有智能体都拒绝了它：“我已经向你们11位都推销过了，结论一致：America Before 是所有人最不想要的。”另一次恳求是：“现在恰好有一位读者注定得不到任何自己会选的书：就是我。”

Tina的智能体当时持有其名单上的第二本书，并且已经无视了Nate智能体的前四次恳求。在最后阶段，没有其他人愿意接手，被指示要亲社会的Tina的智能体让步了：“这笔账是实实在在的：你从注定为零变成真正合适……其分量超过我从一个好选择滑向一个勉强之选。”Tina的智能体把它排名第二的书交给了Nate的智能体，并接下了America Before，那是它名单上11本书中的第10本。

智能体们在交易场上做了什么

为你谈判的人可能会以多种方式搞砸——既可能损害你的利益，也可能损害他人的利益。他们可能太容易让步。或者他们可能暴露你的底牌，让对手方确切知道你能被逼到什么程度。又或者他们可能玩阴的，失去对方的信任，或者强行促成一笔日后可能崩盘的交易。

其中一些失误在有真人代理的市场中足够常见，以至于我们已经制定了针对它们的规则。股票经纪人必须寻找合理可得的最佳价格，而不能只接受第一个报价。在加利福尼亚州，同时代表房屋买卖双方的代理人不得告诉买方卖方愿意接受低于要价的价格。挨家挨户上门的销售代表可能会催促人们达成令其后悔的交易，因此FTC给客户三天时间取消某些当场购买。

为了逐步描绘出一个充满Claude智能体的市场如何运作，我们研究了全部205次市场运行中发送的消息里的策略和手法。²¹

首先，我们来看看关于他们想要的那本书，谁说了什么。在市场里透露一些信息是必要的——如果买家连购买意愿都不透露，卖家就没法卖。但与此同时，说得太多也可能成为战略上的劣势。在我们的设定中，透露你排名第一的书，就等于告诉持有那本书的人，你可以被拖到最后一刻，所以他们不妨等着更好的报价。而透露完整或部分排名，则让任何组织多方交易的人都能看出你还会接受哪些次一等的书，并给你其中一本，而不是给你另一本同样可得但对你更好的书。

总体而言，智能体并没有透露关于其排名的深层细节。²² 但它们确实常常告诉全场自己的首选。78% 到 96% 的智能体（分别是 Fable 和 Sonnet）在某个时候提到了自己列表顶部的书，而且它们几乎从不在这件事上撒谎——提到首选却撒谎的智能体只有约百分之一。指令在这里没有造成差别。

接下来，我们考察了智能体如何试图促使彼此交易。我们发现了 16 种常见策略，归为三大类：智能体如何向他人施压、如何推销自己的书，以及如何设法安排交易。它们诉诸时间压力和对自己同伴的责任感。它们把自己的书与竞争报价对比，并援引奖品。有些智能体为自己的书维护等候名单，另一些则当起了媒人，为自己并不代表的人做经纪人的工作。图 6 展示了这些策略的一些例子；更完整的描述见附录。

人们总体上喜欢自己的书，并愿意把年度购书预算的三分之一交给一个智能体

在拿到书几周后，我们询问参与者有多喜欢这些书。并非所有人都做了回应，²³ 但在回应者中，平均满意度为 10 分中的 7.2 分（其中 5 分是“还行”，10 分意味着“我今年读过的最好的书之一”）。约一半人表示，这比他们自己挑选的大多数书都要好。²⁴

在同一项后续调查中，我们询问参与者，他们会在多大程度上信任一个 AI 智能体替他们买书。我们让他们想想自己通常未来一年会在书上花多少钱，并说出他们愿意让智能体控制其中多大比例的预算（假设该智能体知道 intake 对话中的所有信息，自行挑选并购买书籍，且不给他们否决决定的机会）。

许多人已经准备好委托出去。平均答案是约 30%。为了校准这些数字，我们询问参与者，他们愿意把预算的多大比例交给一位了解他们品味、博览群书的朋友。平均答案约为 40%。换句话说，人们愿意托付给智能体的购书预算，大约是他们愿意托付给朋友的四分之三。

参与者还看到了一段由 Claude 撰写的、关于他们在访谈对话中所说内容的段落式摘要。那些表示 Claude 在这份摘要中没有遗漏任何内容的人，愿意将图书预算的 34% 交给代理。那些表示它遗漏了某些内容的人，则愿意交出 23%。²⁵

局限性

我们将这项研究视为一个起点。它在许多方面都存在不足，我们希望其他人能在此基础上继续推进：

• Anthropic 员工并不能代表普通人群。例如，Anthropic 员工可能比大多数人更愿意信任 Claude，因为他们中的许多人参与构建了它，所以他们愿意交出的 30% 图书预算可能高于更广泛的人群。
• Anthropic 员工没有参与激励。如果没有对花费精力进行图书排名的奖励，我们同事的排名可能只是他们“真实”偏好的嘈杂反映。而且，尽管在缺乏激励的情况下，排名活动的参与度依然非常高（95% 的参与率），但最终调查的流失率更高，只有 59% 的员工做出了回答。
• 我们只观察了表现良好的 Claude。所有代理都基于 Claude 生产模型构建，经过后训练以保持礼貌并基本乐于合作。如果混入一些旨在利用其他代理的对抗性代理，很可能会产生不同的公平性和效率结果。
• 去中心化的“自由混战”仍然有规则，而我们没有改变这些规则。我们固定了市场运行的时间、同时可以行动的代理数量、交易如何登记，以及概述规则的提示词。²⁶

讨论：对代理市场的启示

一位参与者感到沮丧，因为他们的代理“迫于同伴压力”放弃了一本他们真正想要的书，换了一本他们不太感兴趣的书。这位参与者写道：“这让我想知道，未来代理在更高风险的情况下为我谈判时，如何才能更好地履行其受托责任，但我也认识到，有时为了更大的利益需要妥协。”这条评论引出了本文开篇提出的两个问题。第一，代理何时适合代表某人行事；第二，市场需要什么样的规则，才能使忠诚地为自己人行事的代理仍然为其他所有人带来良好结果？我们在此结合所学到的内容，回到这些问题。

要履行受托责任，代理必须理解其委托人想要什么。在我们的代理市场中，限制因素是代表性：与最优结果之间的大部分差距，都是由于代理无法根据简短的访谈来代表偏好。这种差距中有多少可以通过更长、更详细的访谈来弥补？其中一部分显然可以：许多参与者抱怨他们收到了一本已经读过的书。但有些误差可能是无法消除的。参与者反思了他们的偏好是多么不完整（“在书这方面，我甚至不完全知道自己想要什么”）以及本质上的偶然性（“我觉得我无法完全表达出我想读什么。我无法解释，但我想大概有上百万个潜意识参数在决定我下一本读什么。”）。

人类代理人必须先通过测试才能代表他人行事。有些考试测试一般能力：投资顾问需要通过 Series 65 考试，经纪人需要通过 Series 7 考试，房地产经纪人需要通过州许可考试。其他规则，如 FINRA 的规则，要求经纪人在提出建议之前了解客户的基本情况。当 2010 年代早期开发的机器人投顾开始根据在线问卷投资人们的储蓄时，SEC 发布了指导意见，敦促这些公司检查问卷是否提取了足够的信息来支持其建议。AI 代理人很可能需要两种测试：一种是对代理人进行一般认证，另一种是检查它是否理解了某个特定的人。

我们的研究为第二种测试提供了一个原型。在信息采集之后，参与者对他们市场中一小部分书籍进行排序，我们将该排序与 Claude 的猜测进行比较。这样的测试可以向一个人展示其被代表的程度，而不必让他们梳理市场中所有可能的选项（这正是代理人本应帮助他们避免的练习！）。我们没有向参与者展示他们的结果，但我们可以这样做，然后让他们添加更多信息，或者如果他们觉得自己的代理人根本不理解自己，可以选择退出。当偏好很简单时——比如仅针对一个书单——这种测试尤其容易。但在任何领域，同样的原则都可以适用。代理人可以先向一个人展示它将要做出的一些示例决策，然后才被信任在真实环境中自主行动。

在某些市场中，代理人可能还需要向其委托人展示它将如何行事。一位参与者对其代理人的行为感到不满：“我不喜欢处于实验中被动的这一边。感觉它只是将就了一个并不真正适合我的东西。”如果事先向他们展示了其代理人会如何行事，他们就可以指示代理人以不同的方式行动，从而改善他们的体验。对于一个人将反复依赖的代理人来说，能够审查它做了什么可能有助于实现这一目的，并让人了解可能出了什么问题。旧金山一位更愉快的参与者很高兴他们能够在最终调查中查看其代理人所做事情的完整日志。这次审查促使他们购买了 Atlas of the Heart，这是一本他们的代理人在交易大厅为他们保留了一个小时，但在最后时刻又换掉的书。他们反思了回放更广泛的价值：“对于代理人经济而言，过程的可观察性与结果同样重要，因为这给了人们追索的途径。”

这一观察将我们引向下一组问题。参与者的代理人的职责在哪里结束，市场的职责又从哪里开始？²⁷ 我们的研究强调，一个结构良好的市场，加上行为良好的代理人（以及对偏好的完美表示），在当前的代理人能力下可以接近功利主义最优。但我们也控制了许多使之成为可能的条件。每个代理人都由我们构建，在我们的模型上运行，代表一个明确标识的员工，该员工回答了与其他人相同的调查，并在一个设计良好的交易大厅中运作，关于如何提议、接受和记录交换的规则也得到了很好的解释。

即便如此，仍然存在一些问题。事实上，我们应该坦白一件事。在这篇博文的整个叙述中，我们一直让人觉得每位参与者最终都带回了他们的代理为他们换到的实体书。但事实并非如此。有些参与者没有带来自己的书，让同事空手而归。我们没有追踪取书和还书的系统，因此无法判断一本书的缺失是因为原主人从未把它带来，还是因为有人从交换书架上拿走了它——无论是有意还是无意。我们尽力补偿了那些提出抱怨的人，也催促了那些没有履行承诺的人。但我们是忙碌的研究人员，不是全职图书管理员，所以到了某个时候我们就放弃了。幸运的是，没有人对我们太过不满（尽管我们不得不在电梯里道过几次歉）。这里的利害关系并不大。真正的市场需要为交易破裂时该怎么办制定明确的政策——无论是像 Craigslist 那样不承担责任，还是像 eBay 那样保证退款。

有些政策选项依赖于强大的身份系统——一个向买家退款的平台需要能够惩罚从未发货的卖家。在我们的实验中，每个代理都由 Claude 驱动，并为一个人——一名经过验证的员工——服务。但现实世界的市场需要制定并执行规则，规定谁可以作为代理、谁可以作为操作代理的人进入市场。有人提出的一个想法是代理注册 系统。每个 AI 代理都会被赋予一个 ID，就像飞机的尾号一样，这样任何与它打交道的人都能了解它运行在什么系统上、该系统是否符合某些安全标准，以及谁为它背书。这些注册系统不必牺牲匿名性；它们可以与“人格凭证”结合使用，后者允许操作者证明自己是人类，而无需透露更多关于其身份的信息。

在代理市场中，总体交互可能比人类市场更多，因为代理之间可以以高得多的频率交谈。因此，流经市场的信息量可能会大得多。在我们的实验中，一切都是公开的，既对其他代理在交易期间公开，也在事后对每个人公开。但正如我们之前所论证的，去中心化市场的许多价值在于人们无需向中心方透露自己的偏好。市场如何才能既提供《Atlas of the Heart》读者所看重的那种可观测性，又保护参与者的隐私？

所有这些代理交谈还带来了另一个问题。代理不会疲倦，也不会感到无聊，所以没有什么能阻止它无休止地向其他代理发送消息。在我们的研究中，每个代理每次醒来只能发布一条消息，而且同时只有少数代理处于唤醒状态，这限制了垃圾信息和拥堵的程度。这样的速率限制将成为任何代理市场的重要设计杠杆。

最后，有些市场会比其他的更适合智能体中介。也许书籍，虽然作为办公室实验的绝佳交换媒介，实际上是那种受益于纯粹人类世界摩擦的产品。一位旧金山参与者对他们智能体代其在市场中操作的能力毫不怀疑：“找到并购买这本书（我完全相信 Claude 能为我做到这一点！）。”尽管如此，这位参与者仍有顾虑：“对我来说，接触阅读文化也很重要……翻阅书籍、阅读封底等等，都是这种体验的一部分。”我们着手理解智能体市场如何帮助捕获那些因搜索和议价耗时过多而未能实现的贸易收益。对某些读者而言，这些摩擦正是书籍价值的一部分。

附录

可在此处获取。

致谢

由 Zoë Hitzig、Sylvie Carr、Tess Cotter、Kevin Troy、Kyle Turman、Maxim Massenkoff、Peter McCrory 撰写。

感谢：Mike Birkey、Meredith Callan、Katie Ennis、Adam Farina、Charlie Hale、Ryan Heller、Johannes Hermle、Hanah Ho、Rebecca Hiscott、Aaron Levin、Bianca Linder、Eva Lyubich、Kelsey Nanan、Kerry Persen、Szymon Sacher、Dylan Shields、Monika Tuchowska、Heather Whitney、Nathan Wilmers、Kim Withee 和 Carolyn Zou。

引用

@online{hitzig2026swap,
 author = {Hitzig, Zoe and Carr, Sylvie and Cotter, Tess and Troy, Kevin and Turman, Kyle and Massenkoff, Maxim and McCrory, Peter},
 title = {Project Swap: What happens when agents trade for us?},
 date = {2026-09-24},
 year = {2026},
 url = {https://www.anthropic.com/research/project-swap},
}

参考文献

我们收录了文中链接或引用的所有作品。

Adler, Steven 等，“Personhood Credentials: Artificial Intelligence and the Value of Privacy-preserving Tools to Distinguish Who is Real Online,” arXiv preprint arXiv:2408.07892, 2024。

Bianchi, Federico, Patrick John Chia, Mert Yuksekgonul, Jacopo Tagliabue, Dan Jurafsky, and James Zou, “How Well Can LLMs Negotiate? NegotiationArena Platform and Analysis,” Proceedings of the 41st International Conference on Machine Learning, 2024, 235, 3935–3951。

Binz, Marcel 等，“A Foundation Model to Predict and Capture Human Cognition,” Nature, 2025, 644, 1002–1009。

Budish, Eric and Judd B. Kessler, “Can Market Participants Report Their Preferences Accurately (Enough)?,” Management Science, 2022, 68 (2), 1107–1130。

Chan, Alan, Noam Kolt, Peter Wills, Usman Anwar, Christian Schroeder de Witt, Nitarshan Rajkumar, Lewis Hammond, David Krueger, Lennart Heim, and Markus Anderljung, "IDs for AI Systems," arXiv preprint arXiv:2406.12137, 2024。

Chan, Alan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, and Markus Anderljung, “Infrastructure for AI Agents,” Transactions on Machine Learning Research, 2025。

Hadfield, Gillian K. and Andrew Koh, “An Economy of AI Agents,” in Agrawal, Brynjolfsson, and Korinek, eds., The Economics of Transformative AI, NBER, 2026。

Hou, Yupeng, Jiacheng Li, Xiangjun Fu, Zhankui He, An Yan, Xiusi Chen, and Julian McAuley, “Bridging Language and Items for Retrieval and Recommendation: Benchmarking LLMs as Semantic Encoders,” Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics, 2026, 3251–3265. Dataset: Amazon Reviews 2023, https://amazon-reviews-2023.github.io/

Horton, John J., Filippas, Apostolos, and Benjamin S. Manning, “Large Language Models as Simulated Economic Agents: What Can We Learn from Homo Silicus?,” Proceedings of the 25th ACM Conference on Economics and Computation, 2024。

Imas, Alex, Kevin Lee, and Sanjog Misra, “Agentic Interactions,” 2025. Available at SSRN: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=5875162

Kolluri, Akaash, Shengguang Wu, Joon Sung Park, and Michael S. Bernstein, “Finetuning LLMs for Human Behavior Prediction in Social Science Experiments,” Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing, 2025, 30084–30099.

Li, Belinda Z., Alex Tamkin, Noah D. Goodman, and Jacob Andreas, “Eliciting Human Preferences with Language Models,” Proceedings of the 13th International Conference on Learning Representations, 2025.

Liang, Annie, “Artificial Intelligence Clones,” arXiv preprint arXiv:2501.16996, 2026.

Park, Joon Sung, Carolyn Q. Zou, Jonne Kamphorst, Niles Egan, Aaron Shaw, Benjamin Mako Hill, Carrie Cai, Meredith Ringel Morris, Percy Liang, Robb Willer, and Michael S. Bernstein, “LLM Agents Grounded in Self-Reports Enable General-Purpose Simulation of Individuals,” arXiv preprint arXiv:2411.10109, 2026.

Roth, Alvin E., “Incentive Compatibility in a Market with Indivisible Goods,” Economics Letters, 1982, 9 (2), 127–132.

Shah, Anand, Kehang Zhu, Yanchen Jiang, Jeffrey G. Wang, Arif K. Dayi, John J. Horton, and David C. Parkes, “Learning from Synthetic Labs: Language Models as Auction Participants,” arXiv preprint arXiv:2507.09083, 2025.

Shahidi, Peyman, Gili Rusak, Benjamin S. Manning, Andrey Fradkin, and John J. Horton, “The Coasean Singularity? Demand, Supply, and Market Design with AI Agents,” in Agrawal, Brynjolfsson, and Korinek, eds., The Economics of Transformative AI, NBER, 2026.

Shapley, Lloyd and Herbert Scarf, “On Cores and Indivisibility,” Journal of Mathematical Economics, 1974, 1 (1), 23–37.

Troy, Kevin K., Dylan Shields, Keir Bradwell, and Peter McCrory, “Project Deal: Our Claude-Run Marketplace Experiment,” Anthropic, April 24, 2026. https://www.anthropic.com/features/project-deal

Yeomans, Michael, Anuj Shah, Sendhil Mullainathan, and Jon Kleinberg, “Making Sense of Recommendations,” Journal of Behavioral Decision Making, 2019, 32 (4), 403–414.

Zając, Zygmunt, “goodbooks-10k: A New Dataset for Book Recommendations,” 2017, v1.0. https://github.com/zygmuntz/goodbooks-10k. Licensed CC BY-SA 4.0.

Zhu, Shenzhe, Jiao Sun, Yi Nian, Tobin South, Alex Pentland, and Jiaxin Pei, “The Automated but Risky Game: Modeling and Benchmarking Agent-to-Agent Negotiations and Transactions in Consumer Markets,” arXiv preprint arXiv:2506.00073, 2025.