引入：智能体经济的到来

大飞: 大家好，这里是最佳拍档，我是大飞。AlphaZero 这个名字，关注人工智能的朋友应该都不陌生。当年它以自我对弈的方式征服国际象棋 and 围棋，几乎重新定义了什么是机器智能。但最近，它的核心作者**内纳德·托马塞夫（Nenad Tomasev）在接受 DeepMind 播客节目访谈时，抛出了一个更值得深思的判断：未来真正重要的，可能不是造出一个更强大的单一模型，而是让成百上千个 AI 智能体学会像人类社会组织一样分工协作。当这些智能体不再只是陪你聊天，而是开始替你行动、交易、甚至彼此谈判的时候，我们迎来的将不只是一个新工具，而是一种全新的经济形态——智能体经济（Agentic Economy）。但这个未来里头，也藏着大量我们还没想明白的问题。比如，智能体要在什么样的边界里行动？谁来确保它们不被互联网上的陷阱欺骗？当一万个智能体同时交互，我们又该怎么保证整个系统的安全呢？今天这期内容，我就顺着托马塞夫和主持人汉娜·弗莱（Hannah Fry）**的这场对话，来聊聊这些问题的答案。

什么是AI智能体

大飞: 不久前，一个 AI 助手基本上就是一个大语言模型，你问它一个问题，它给你一段回答，但没法真正去执行什么任务。托马塞夫在访谈开头就点出了这个分界：随着 **AI 智能体（AI Agent）**的出现，情况正在发生根本变化。Agent 这个概念本身其实并不新，早在大型语言模型火起来之前，人工智能领域就已经有在模拟三维环境里操作、收集物品和完成任务的智能体了。托马塞夫认为，在世界上采取行动，本身就是展现智慧的一种方式。现在的关键区别在于，智能体观察世界的状态并执行行动，在给定的环境里做出实际动作，而大语言模型只是对你的提示给出一个延续性的文本回复。当然，今天我们使用的 Agent 在内部仍然依赖大语言模型，所以这两个概念的边界并不是截然分明的。用托马塞夫的话说，仍然是大语言模型在制定行动方案，只不过身上系着一条安全带。

决策委派与智能体交互

大飞: 主持人的追问也很精准：智能体有更多的自主权来串联各种决策。托马塞夫回应说，这恰恰就是核心动机所在。你可以跟语言模型多次交互，手动完成大部分事情，但整个过程需要你自己来指导，而 Agent 负责的是具体执行。如果你要完成一件需要多个步骤的事，Agent 可以制定计划并对所有步骤采取行动。对于那些需要批准或人工干预的操作，这种能力更是必不可少的，因为这些场景更敏感，也更容易出错。

如果你已经习惯跟大语言模型打交道，那跟 Agent 交互会是什么感觉呢？托马塞夫说，在很多方面两者是相似的。用户仍然以跟语言模型交流的方式跟 Agent 互动，但因为 Agent 会为用户处理更多事务，用户的角色更像是决策者，需要负责审核和批准各项操作。一旦用户批准了，Agent 就会执行后续操作，比如购买门票和给朋友发消息。与此同时，用户自己还能在 Netflix 上看点东西放松一下。

主持人弗莱举了个很生活的例子——筹备婚礼。大语言模型可以给你餐饮服务商的名单、推荐婚礼场地，但所有邮件往来还是得你自己处理。可如果有 Agent 帮忙，实用性就高得多了。托马塞夫完全认同这一点，因为 Agent 可以使用各种工具，你不必亲自操作，只需授予它使用 Gmail 的权限并允许发送邮件就行。当然，发错邮件的情况也有可能发生，所以你需要确认 Agent 发送的内容是否正确。但总的来说，只要让 Agent 能够使用这些工具，大语言模型就能真正帮你把事情办完。

智能体编码与自动化偏差

大飞: 聊完 Agent 能做什么，下一个自然的问题就是：它现在到底擅长什么呢？托马塞夫直言，不光谷歌，目前整个行业都把大量精力投入了智能体的编码能力。从现实角度看，许多复杂流程 and 任务都可以被转化为软件或代码形式来处理。编码工具的普及大大提升了软件开发效率，让人们能够把精力集中在创意和设计上，而无需再花费大量时间处理繁琐的重复性工作。

但与此同时，人类仍然必须在整个过程中参与和监督。为什么呢？托马塞夫给出了一个很现实的答案：智能体能够做的每一件事，都未必能百分之百准确地完成。就像人类一样，每一个行动都存在一定的失败率，而且行动越复杂，预期的失败率就越高。虽然你期望智能体正确完成任务，但它仍然有可能犯错，这些错误可能很明显，也可能很隐蔽。

这就引出了一个非常重要的概念——自动化偏差。如果你让某个智能体完成某项任务时表现良好，你可能会过度信任它，从而忽视它可能犯下的错误，而你没有进行核实，也没有发现其中存在的某些重要问题。对人类来说，重要的不仅是保持参与其中，更要真正全神贯注、保持警惕，因为一旦你失去警惕，那就等于在冒险了。

技术变革与科学自动化

大飞: 主持人把话题拉向了更长远的视角：我们现在似乎正处于一个过渡期，各种技术都在逐渐成熟，这究竟会带来多大的改变呢？会彻底改变我们使用人工智能的方式吗？托马塞夫的回答非常肯定，他说，很难想象一个不会发生某种重大变革的世界，所有人都在努力弄清楚那种变革究竟会是什么样子。人工智能正在进入许多以前不存在它的领域，科学家们还很少使用人工智能。比如，他以前无法想象人工智能能在数学领域发挥作用，但是现在，人工智能在很短时间内就变得十分普遍了。当然，这不意味着所有问题都已解决，人类仍然扮演重要角色。但托马塞夫也坦承，变革的速度实在太快了，这可能是唯一令人不安的一点。因为通常情况下，无论是工业革命这样的重大变革，都会给人们一些时间来调整自己的方式和方法，但这次，似乎没有那么多时间了。

既然 Agent 有这么多不确定性，那我们为什么还要造这些东西呢？它们能带来什么好处？托马塞夫的答案很直接：推动科学进步，改善人类的健康与福祉。如果我们能够开发出可靠的机制来确保智能体的安全性，并让它们能够自主完成复杂任务，那么我们就能加速进步，因为同样的人力投入，就能实现更多的事情。

主持人显然觉得这个回答需要更多落地感，她追问，我们所讨论的例子，比如开发软件、为婚礼购买物品，都显得相当琐碎，这些行为究竟如何与推动科学进步关联？托马塞夫回应说，这恰趣是他在科学领域的主要梦想。科学发现不仅仅意味着拥有一些好点子并在短时间内进行推理分析，很多人已经把语言模型用于科学领域，作为辅助工具帮助进行各种形式的推导，这些应用已经相当有用。不过，当涉及到更大程度的科学自动化时，还有其他正在取得进展的领域。比如说，人们正在投资建设自主研究实验室，在这种情况下，就需要让各种智能体能够自行安排实验的进行。

不用说，当这种与现实世界的交互发生时，无论涉及的是产品设计还是生物技术领域，都必须有各种保障措施。因为假设在设计电池时，如果设计不当，可能会导致设备过热，进而引发各种故障，损坏硬件设备，带来不良后果。在软件领域，只需编写测试代码、通过测试验证结果，然后就可以继续下一步；但在科学领域，大多数情况下都需要进行实际实验才能获得反馈，判断自己的想法是否可行，需要观察、分析实验结果，等等。

人机协同与医学AI应用

大飞: 主持人抛出了一个更深的问题：如果智能体能够自主尝试解决各种数学问题，而无需等待人类的指令，那么人类的角色究竟是什么？托马塞夫说，从长远来看，我们必须解决这个问题。但短期内，以现有技术水平来看，人类和系统仍然发挥重要作用。这些系统还远远算不上真正的通用人工智能（AGI），还有很多事情做不了。就当前这一代系统而言，可以肯定的是，它们擅长处理各种组合性问题。归根结底，这些系统都是基于人类数据来训练的，因此能够复制人类的技能，并将其重复运用。不过，我们还没有看到这些模型能在科学领域带来真正的突破性成果，比如做出人类永远想不出来的发现。因此，在这场变革中，我们所有人仍然发挥着重要的作用。

那为什么直到现在，Agent 才真正被广泛应用起来呢？托马塞夫解释说，过去那些可以被视作智能体的系统确实被广泛应用于各种场景，比如优化数据中心的运营流程，但是这些智能体的功能相当有限，因为它们不具备处理语言的能力，人类无法与它们交流。现在的不同之处在于，由于这些智能体基于语言模型，我们可以与它们对话、向它们学习、影响它们的行为。正因如此，人类与智能体的互动也变得越来越多了。

究竟是什么阻碍了它的广泛应用？托马塞夫认为，我们不能再仅仅专注于底层模型的设计了。既然现在有了功能强大的智能体和模型，就需要找到更好的方式来协调、管理它们。从某种程度上来说，我们应该把自己视为团队和机构的管理者，同时也要培养相应的管理技能来处理各种工作流程。管理由智能体组成的团队与管理人类团队有所不同，但显然也有一些共同点。不同之处在于，智能体容易犯一些低级的错误，它们虽然不具备人类的智能，但同时，智能体也无法像人类那样深刻地理解你的意图，因此无法准确预测你的需求并做出相应的反应。因此，我们需要提升在协调各方资源方面的能力。

信任构建与委派机制

大飞: 主持人接话说，我们仍然生活在一个大语言模型偶尔会产生幻觉的世界里，让人类信任这些智能体来完成任务，其实是个相当大的挑战。托马塞夫回应得很干脆：尝试是理所当然的，但信任也是需要赢得的，这是个很重要的区别。如果某个智能体屡次表现不可靠，那显然不可信任；即便它大多数时候表现可靠，也不应盲目信任，我们仍然需要对其行为进行验证。不过，语言模型总会在一定程度上产生幻觉，因此，我们只需某种方式将它整合到工作流程中，并确保越来越少见，从而不影响整个工作流程的顺利进行。

托马塞夫在访谈中反复提到一个概念，就是委派。负责处理一项任务 of Agent，可以将这项任务再委派给更专业的同事来处理。主持人请他详细解释这一过程究竟如何运作。托马塞夫说，我们需要 Agent 协助处理的任务其实非常复杂，最简单的方法是给出非常明确的指令，它们就能轻松完成。比如，你可以让智能体帮你预订明天的餐位，比如我想在这家餐厅吃饭，请帮我预订一个位置，智能体可以利用各种工具来完成这项任务。但如果你有一个非常复杂的计划，需要将其拆分成多个部分来分别执行，那么可能没有任何一个智能体能够独自完成所有任务。这时，智能体就需要遵循现有的协作机制，将部分任务交给其他智能体来处理。

但这个过程中也可能会出现各种问题，因此，无论是智能体还是人类来分配任务，都必须妥善处理这些问题，并尽可能提前预防。而要提前预防，就需要先确定哪些智能体是最可靠的，值得委托任务给它们。在目前我们所看到的许多多智能体系统中，任务的处理方式更像是并行处理，而非有序分配。也就是说，可能会有多个智能体同时处理同一任务，但并没有一个智能的框架来协调这些任务的分配方式。

主持人马上举了个例子：如果任务以完全随机的方式被分配下去，那么可能有一个智能体负责购买葡萄酒，另一个智能体负责购买酒杯，这两个智能体根本不会意识到其实还需要葡萄酒和酒杯，它们之间没有任何沟通机制，因此就有可能出现各种问题。

可验证性与奖励操纵

大飞: 托马塞夫补充说，对于现实世界中的许多任务来说，验证过程并不那么简单，其中可能还包含一些主观因素。这在人工智能和语言模型领域非常重要，因为存在所谓的奖励操纵。可能会有一些情况，Agent 的行为能够完成一些符合要求的操作，但从技术层面来看并不符合原始意图。因此，我们必须重视可验证性，同时要非常正式地签署合同，确保委托方与被委托方之间签订的协议具有严格的规范性。

另外，对于某些任务来说，我们需要认识到，有些情况是可以完全撤销的，如果出了什么问题，也不会有危害，只需重新执行该任务，再次尝试进行委托操作；但有些任务则可能会带来现实世界的后果，比如花钱购买某物，或采取一些一旦实施就无法轻易撤销的行动。对于这类任务，我们必须格外谨慎行事。

主持人还注意到一个很有意思的现象：一些早期的智能体会将任务分配给人类来处理。托马塞夫说这确实是个有趣的想法，与我们所习惯的看法截然相反，通常情况下，都是人类把任务交给人工智能来处理。他之前从事过很多医疗人工智能相关的工作。在医学领域，开发的系统在某些特定任务上表现得极其出色，几乎达到了人类的水平。这些系统能够处理医学影像和放射学领域中的各种任务。一种机器学习模型会分析扫描结果，识别出异常部位，用标记框把它们标出来，然后再交给放射科医生进行进一步检查。

人们已经尝试将人工智能与人类团队相结合来共同工作，这背后的理念是，当系统出现错误时，由人类来加以纠正。要么是在人类专家不确定时才寻求人工智能的建议，要么是让人工智能先进行预测，当结果不确定，或图像中有模糊不清的部分需要多种解读方式时，再由人类来做出最终判断。事实证明，让人类对那些可能具有超人类能力的机器学习模型做出的决策进行审核，是一种相当有效的做法。这样，人工智能在遇到不确定情况时，就会听从人类的判断。

互联网环境与纵深防御

大飞: 随着越来越多的智能体在互联网上开展各种活动，必然会有人试图利用这些智能体的漏洞来谋取不法利益。主持人请托马塞夫介绍一些人们设置的智能体陷阱。托马塞夫说，这确实是一个令人恐惧的话题，同时又很有趣。他认为，这也是这类大规模应用难以成功实施的主要原因之一。Agent 是在特定环境中进行操作的，在这里，所谓的环境指的就是互联网。如果互联网本身被污染了，或者其中设置了各种陷阱，那么当各种 Agent 与互联网进行交互时，就可能会遇到这些陷阱。这样一来，那些心怀恶意的人或他们所控制的智能体就可以设置这些陷阱，从而破坏各种系统。

主持人举了个场景：负责婚礼葡萄酒采购的 Agent 去了一家特定的酒商那里，该酒商的网站上有一个即时修改功能，会改变 Agent 的目标。托马塞夫确认，这是其中一种可能的方式。之所以这种情况未被注意到，可能是因为在网页的编码方式上，有些元素根本不会以可视形式呈现出来。如果有一种程序或智能体并不像人类那样以视觉方式来解析网页，而是直接以原始格式来处理网页内容，那么它就有可能无意中处理到那些隐藏的元素，从而导致程序的行为与预期不符。

不过，这并不是唯一可能发生的情况。恶意网站还可能实现所谓的动态伪装手段，即对人类和智能体显示不同的网页内容。通过分析网页上的行为，完全可以判断出与网页交互的是人类还是智能体。

主持人追问：如果你无法控制整个环境，而 Web 环境显然不在你的控制范围内，那你要如何防止自己的 Agent 擅自行动呢？托马塞夫说，从某种意义上说，这并不是什么新问题，网络安全问题早就存在了。如果你打开了邮件中的恶意附件，电脑病毒就会传播开来，或者点击了不可信网页上的某个链接，也会出现问题。在机器学习领域，早就需要确保所交互资源的可靠性。所谓的对抗性示例其实早就存在，那些人类难以察觉的图像细微变化，却足以破坏机器学习模型。

我们需要同时考虑智能体本身和智能体之外的环境，那就是纵深防御的理念。因为这个问题极其复杂，不可能有单一的解决方案来解决所有问题。相反，我们需要层层设防，通过多重的防御措施来确保安全。务必严格管控授予 Agent 的权限，确保即使 Agent 在与外部对象交互时被越狱，造成的损害也能降至最低。将所有这些措施结合起来，有望构建出令我们感到放心的安全保障体系。

智能体经济与算法风险

大飞: 聊完了风险，主持人把话题拉回到之前提到的智能体经济。她请托马塞夫再详细介绍一下他所理解的正式的智能体经济概念，这种经济模式究竟如何运作。托马塞夫说，就日常使用该技术的普通用户而言，你可能会拥有一位个人助理，它对你拥有一定的持久记忆，能很好地理解你的需求和偏好。而且，这取决于你愿意赋予这位助理多少自主权，它可能会继续为你进行一些谈判，你可以为此向它提供一定的预算，围绕这些由 Agent 代为协商的事务，甚至可能形成一种局部经济体系。

主持人立刻抛出了一个非常具体的场景：假设有一场演唱会，门票刚刚开售，如果所有这些 Agent 同时涌向购票网站，实际情况会是怎样的？托马塞夫回应说，这是一个设计选择，同时需要强调一点，如果将来要实施类似的做法，那么在确保系统公平性方面，我们将掌握主动权。这是由拍卖组织者做出的明确决定。如果你希望在某种意义上实现完全公平，比如每个人都能平等地获得演唱会门票，那么你可以给参与这些重复拍卖的每一位 Agent 分配相同的预算。Agent 既了解你的总体偏好，也了解你的出行安排、时间安排及其他限制条件，于是便能决定如何以最佳方式分配这笔预算，从而使它们更有可能以符合你期望的方式赢得门票。

主持人想到了金融市场的类比：高频交易算法已经在股市得到了应用，同样，如果以特定方式来运用 Agent，它们也可能对股市造成灾难性的影响。那么，要如何防止类似暴跌这样的情况发生呢？托马塞夫说，金融市场早已习惯了应对这类风险，当然它们也经历过不少初期阶段的失败与挫折，但我们可以从那些已经成功应对了这些风险的国家那里学习相应的应对措施，没必要再重复同样的错误。

认知单一文化与群体思维

大飞: 当谈到人工智能智能体时，一个明显的区别在于，在各种智能体中，有一些语言模型被广泛使用，以 Claude、ChatGPT、Gemini 等为例，其中显然包含了许多开源模型。许多其他模型则往往持有相似的观点，它们采取行动的方式也大同小异，这就是我们常说的认知单一文化。因此，当几十万、几百万个人工决策者被同时部署出来时，而它们往往做出相似的决策时，由于决策之间存在关联，故障点也会随之相关联。所以，我们需要思考的一点是如何让 Agent 内部的决策更加多样化。

主持人把前面的讨论收束到了一个更宏观的层面——群体思维，本质上是智能体的群体思维。托马塞夫补充说，还存在团体协作和串通行为的问题。在人类社会中，各个团体可以相互协作，从而获得某种系统上的优势。而对于智能体来说，情况则有所不同，它们可以通过环境来进行协作，而这些协作方式往往并不明显。因此，我们还需要考虑相应的反串通措施。

主持人说，既然详细列出了所有这些问题，潜在的安全隐患也就显而易见了，这也就能明白为什么我们要谨慎、逐步、小心地发布它们了。托马塞夫表示没错，确实如此。其实，每一种重大的技术变革都是如此。他以自动驾驶汽车为例，要让这些汽车能够安全地在道路上行驶，还需要很多年的时间以及大量的努力。

在协调和安排 Agent 时，因为我们希望它们能够像人类一样完成任务，所以仅仅依靠技术解决方案是不够的，这一切在很大程度上也与政策有关。此外，还需要更广泛的社会认知与理解。归根结底，除非我们能够实现完全自动化的经济体系，否则就无法实现这一目标。也许这种情况在未来会发生在现实之中，但是目前还无法实现。在这些系统中，我们需要有人参与其中，因此，我们正在将人工智能融入人类社会架构，而且这两者需要良好地协同运作。

主持人说，这一切都有其另一面，当人类社会团结在一起时，确实能够共同创造出令人瞩目的成就，想必对于人工智能社会来说也是如此。托马塞夫回应说，希望如此吧。

分布式智能与未来展望

大飞: 为什么大家都想使用多智能体系统呢？这个问题的背后其实隐藏着某种原因。如果所有的智能体都具备相同的处理能力，且执行的任务也类似，那么无论是以顺序方式处理任务，还是让多个智能体同时处理任务，效果其实没什么区别。但如果让智能体以不同的方式来处理不同的任务，那情况就变得有趣起来了。关键在于有专业的人员存在，而不是只有一般的专家存在。

当然，大家都希望打造出尽可能通用且能力强大的智能体，在 AGI 中有一个 G，代表着通用，这是我们试图实现的目标。但是从经济角度来看，这并非真正的融合点，也不是我们最终会达到的目标。比如，人们仍然会使用专门的棋类引擎来下棋，因为棋类引擎的速度更快、更准确，而且成本也更低，毕竟棋类引擎只需要专注于完成一项任务，而这项任务又可以以更少的参数来实现。

回到人类的角度来看，其实也是一样的，没有哪个人能够同时做这么多事情，有很多事情是我们不会做的，我们希望能学会它们，比如演奏乐器之类的，但是人类的脑力有限，时间也有限。所以，与其打造一个既昂贵又缓慢的巨大模型，不如一个由专家组成的团体，每个成员都能发挥作用。未来可能会有一些通用解决方案充当整个经济的连接纽带，能够掌握所有信息并协调各项事务，而对于那些非常具体的任务，则可以调用其他模型来处理。

主持人总结说道，托马塞夫所说的其实更像是分布式智能，而非真正的通用人工智能。如果最终我们得到的确实是一种通用人工智能，那是否意味着我们需要改变对安全的思考方式？因为当智能被分散在多个不同的智能体上时，原有的思维方式就不再适用了。

托马塞夫表示百分之百的同意，他说，我们不再能够把它们视为一个单一的实体了，因为如果把那些分散的智能体视为一个整体，那么目前的协调方式就是先选择一个模型，观察它的行为，然后试图让该行为符合我们的期望或标准。但是，当有一万个 Agent 以极其复杂的方式相互交互时，要协调整个系统就变得非常困难了。因为在这个分布式系统中，Agent A 今天可能与 Agent B 互动，但明天在处理另一项任务时，它又可能与 Agent C 互动，同时，Agent C 又会把某些任务委托给 Agent D，有时还会向人类寻求帮助。

那么，整个系统究竟是如何被协调的呢？在人类社会中，我们可以利用经济激励机制来实现这一目标。只要能妥善设计经济体系，使得各个 Agent 在追求利润最大化的过程中不会造成任何危害，那么我们至少就有了一个起点，可以据此进行后续的工作。但是这并不是说我们今天所做的工作毫无意义，因为要让整个群体得到保护，首先必须确保每个个体都得到保护。不过，我们目前在这方面的努力还不够，还需要采取更多措施来保护整个群体。

主持人最后感慨，有太多工作需要完成，真是令人惊叹。

有一种观点认为，AI Agent 不需要我们过多干预，不必反复沟通、等待回复，从而能够更高效地完成手头任务。但是实际上，每个 Agent 都可能成为更大规模的人工智能系统中的组成部分，在这个系统中，有专门处理某类任务的智能体，也有负责协调工作的智能体，还有那些专注于细节处理的智能体。也许，复制人类水平的智能并非最终目标，或许，真正的方向应该是创造出类似人类社会一样协作的智能体系统。

聊完整场访谈，我的感受是，托马塞夫给出的不是一个 AI 即将接管一切的科幻叙事，而是一个相当务实的框架。他把 Agent 的演进放在了人类社会和经济结构的参照系里来看。分工、协作、信任、契约、制度设计，这些人类花了几千年才慢慢建立起来的东西，现在我们需要在数字世界里以快得多的速度重建一遍。

这里头最值得关注的一个判断，是他对分布式智能的强调。当整个行业都在追逐更大的模型、更多的参数、更强的通用能力时，他却指出从经济效率的角度看，一个由专家组成的协作网络，可能比单一的巨大模型更合理、更便宜、也更安全。这个思路，其实跟人类社会的演进逻辑是一致的。

不过他也留了一个很清醒的提醒：变革的速度太快了。工业革命给了人们几代人的时间去适应，而这一次，调整窗口可能要短得多。对我们这些身处其中的人来说，与其焦虑地等待某个终极 AGI 的到来，不如先理解 Agent 正在如何改变我们与机器的互动方式。比如从我问你答到我授权你执行，从单一助手到专家社会。

最后我想抛出一个问题：如果未来个人 Agent 真的可以做到替你谈判、交易、甚至与其他 Agent 协商价格，你会愿意把多少自主权交给它呢？是一步一步慢慢放手，还是从一开始就给它足够的预算和权限呢？欢迎在评论区留言，感谢收看，我们下期再见。