--- author: INDIGO 数字镜像 date: '2026-10-27' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=iGWOR5E-Hc8 speaker: INDIGO 数字镜像 tags: - artificial-intelligence - natural-selection - ai-alignment - space-economy title: 《上帝的测试》、AI进化与机器递归文明及太空经济展望 summary: 对谈围绕《上帝的测试》探讨AI作为自然选择与人类镜像的机制，分析意识、Taste及对齐挑战，并结合加速派视角讨论智能体演进、机器递归文明、生物医药及太空经济投资前景。 insight: '' draft: true series: '' category: ai-application area: tech-engineering project: [] people: - Robert Wright - Peter Thiel companies_orgs: - Anthropic - OpenAI - SpaceX products_models: - Grok media_books: - The God Test status: evergreen --- 过去几百万年的这种自然选择的进化，说实话是以死亡为代价。但是今天我们看到，这个硅基文明、这个 AI 的训练，确实是有一个上帝在旁边，在给它提供一个奖惩机制的，那我们会给它一些反馈。是不是真的有意识我们不知道，但至少有一点我们可以下判断，就是即便你认为它没有意识，它在模拟人的意识方面已经做得非常好，已经可以以假乱真了。 就好像是一个可以对话的灵魂的盒子一样。它是你的镜像，你问它很傻的问题，它就回答了很傻的问题。 Indigo 你前面 Exactly 你讲的，就是很多时候模型的行为就是我们的镜像，人类的镜像。当你批评模型做一些坏事、做一些疯狂的举动的时候，其实有可能你没有意识到，其实人类就是这样。这个就是我理解的所谓的 “The God Test”，“上帝的测试”，就是在问你：人类在获得 AI 的巨大的能力的加持的同时，能不能学会约束自己的冲动，理解他人，修正自己的目标？ 这个 AI 这么强大了以后，人还剩什么东西？在目前的看来，在可预见的未来，似乎我觉得 AI 可能还很难具备人的这种 Taste。当然你要是说若干年后，AI 连这个都不需要了，AI 自己就可以提出它自己的 Taste 了，人的 Taste 都不如 AI，那我觉得那真的人类就被淘汰了。 我有一种感觉，我们刚才说有一种东西我们可能不会被挑战，就我们的品味和我们的选择，但是我觉得我们这个东西正在被这些模型挑战。 ### 《上帝的测试》与 AI 进化 欢迎回来 INDIGO TALK。我这是又邀请了郑迪。上一次我记得是在我 30 多期的时候，30 多期聊过一次，我们两个人应该聊过 Crypto、稳定币和投资，上一次的话题。然后我的社群里面很多朋友都希望我们再来继续，我们估计应该可以能够变成一个长期的不定期的，我们经常聊聊市场上的变化，因为这个也隔了一年多了，应该有一年多了。要不这样吧，因为可能还有人不清楚，要不郑迪再自我介绍一下？ 非常感谢，也非常开心能跟 Indigo 再录一期播客。然后是郑迪，前沿科技投资人。然后当然我现在可能有些朋友也知道，我现在是 Cathie 在亚太区的顾问，这个木头姐。但是我也声明一下，我现在公开讲的这些，包括今天跟 Indigo 聊的这些，只代表我个人的观点，跟 ARK 没什么关系，谢谢。 这个很重要。现在我们两个，我也有基金，所以我们两个人聊的观点都是我们自己的个人观点，纯个人观点。而且因为我们可能会聊到一些市场和投资。很高兴今天郑迪再次，我们再来聊一期。 我们在聊天之前，郑迪是给我分享了一本书，这本书应该是马上会由湛庐来出中文版，应该是 Robert Wright 写的叫 “The God Test”，叫《上帝的测试》。你给我推荐个什么，因为好像湛庐也邀请过我来给这本书写一个简单的推荐，但是我太忙了，我没有时间去把它看完，我看了一部分。然后正好今天我们趁着这个机会，我觉得让郑迪来给大家分享一下，因为你写了序部分的一部分的内容，写了这个推荐序。 因为出版社反正种种原因就找到我，希望我为这本书写一个中文版的序。我估计可能是因为我提出了人机共智体 Symborg 的理念，然后我就发现跟这个书里面的一些观点是比较吻合的，所以可能是不是找我来写序也是这样的一个原因。 总的来说我觉得这本书是很值得一看的。因为这个作者他其实写过很多其他的书，但基本上有很多都是跟 AI 是有关系的。而且尤其是他在 40 年前就采访过现在的 AI 之父辛顿，所以他其实跟 AI 行业的这些人其实都是有连续性的，所以其实他提出了很多我觉得很深度的一些观点。比如说 AI 接下来它有可能成为一个什么样的文明，包括行星之脑，就是说整个地球是不是一个生物体，它是不是一个思想圈等等。这些过去我们会认为比较怪诞，但是你越想越觉得你没有办法完全否认的一些很有意思的观点。 然后它其实也提出了一些对于 AI 竞赛的担忧，特别是包括我们现在进入到 RSI，然后即将进入到 RSI 循环的这种黑盒子的这样的一种担忧，包括这种训练者的各种担忧。书里面我觉得有一个很重要的观点，就是因为我们不太清楚模型训练当中它的这种完整的思维链条，然后和它的这种机制，以及最后模型非常有可能为了实现人类给赋予它的一个目标，实现一些次要目标，这些次要目标有可能对人是有害的。比如说书中讲到的很典型的回形针生产的这种测试，还有各种各样的这种人格的这种测试等等。以及这个书里面其实也回答了现在 Anthropic 和 OpenAI 找到教宗，包括这种宗教人士，希望他们确认这个模型到底有没有人的这种意识这些问题，我觉得这书里面其实写得很好。然后最后其实他也讲到了，就是说这个模型测试，然后跟禅修跟佛法的一些共通性，这部分其实跟我讲的 Symborg 是非常接近的。所以我觉得其实我们可以把这本书的一些内容融入到我们今天的对谈当中，我觉得它其实是可以贯穿的。 我就是想借着这个书开场，因为这本书我看了一部分。其实你刚刚前面提到几个地方： 第一个是刚才说的宗教人士，现在还是蛮火的一个新闻，《纽约时报》有篇报道说，他们密访了一下，说 Anthropic 现在在秘密约见全球的各种宗教包括教皇。其实他们之前就接见教皇了，教皇还发了一个宣言之类的，对 AI 的看法，宗教对 AI 的看法。实际上我觉得他有点反 AI 了，要保存人性的，教皇说的。 然后第二个就是现在 Anthropic 在——这个文章写得挺有趣的，他觉得 Anthropic 企图说服，让这些教宗们相信他的 AI 具有了像意识或者知道自我感知的这样一个东西，他有了很强烈的自我的感觉，他在企图是这样子的。对对，然后大家就会来，媒体就是这样攻击他们，就是你想把你的认为、你的模型为了你自己的这个做法，来把你自己强加给宗教人士，让宗教最后来帮你来说话。然后他其实上是想，我觉得他是想让宗教人士参与进来，因为现在调教模型做 Alignment，因为 Anthropic 一直是有一个宪法，AI 宪法，他们一块需要给 AI 更多的道德约束，而且来给他们更新的一些对齐方法，来站在更高的，像宗教、像人类的这个我们价值观在哪这些东西。所以说他是邀请了很多人来讨论这个。但是他们就说，OK，现在的模型实际上是有了自我了。 我感觉 Anthropic 的模型一开始就有自我的感觉，它跟其他的模型都不一样。它的模型我的感觉很强烈，我不知道大家用的时候有没有一些感知。我觉得在我两年前的时候，我刚开始去用它们的时候，差不多 Anthropic 1.5 的时候，它写东西的时候就很带着这个情绪，而且我估计这个不是玄学，这个就跟它训练数据的调教有关系，训练数据调教、它对齐方式有关系。所以说导致他们一直强，因为这样子当模型有了感觉我的存在的时候，它做事情非常 Proactivity，它很主动，它现在会帮我来修正错误，它会让整个模型的思考方式有一点点，就是像一个有目标的人一样，这个是它这个模型为什么比较很早之前就能够做很长任务的一些特点。这我补充一下。 然后第二个，你刚刚提到这个行星之脑，应该是很早以前就有个叫盖亚，之前那个阿西莫夫写他的这个《银河帝国》，那个系列最后一本就是讲人类最后的计算机，最后把另外一个星球范例变成了一个盖亚，它整个星球就是一个生物圈，形成一个活的行星。然后这个是在刚才说的那个 “The God Test” 里面作者做的一个未来的预测。这是两点我顺着你补充了一下。 然后第三点关于 RSI，这是我们一会儿想聊的话题，RSI。其实最近我们 Recap 一下，现在的新闻就是，今年现在此刻投资界最火的就是这个话题，大量的这个 NeoLab，就是新的 AI 实验室，他们的研究方向，不管你是做 AI for Science，还是想另外一个路径的去做语言模型、更好的模型，他们都在做 RSI，就是自我的这个训练进化，就是它自己的自我递归式的、Recursive 的、递归式的这个自我进化，就自己训练自己，我们叫做左脚踩右脚再往前进。然后这个里面就会产生很多的不可预知的，因为不透明了它的自我强化，我并不知道它这一次强化的目标是什么，它为什么下一步会这样强化，我们就会离模型的内核的思考越来越远，这是风险。这三点。 OK，我们把这个书讲……那这个书里面我觉得有一点，这个作者提到的挺好玩的一个观点。 对对，就是 AI 的进化，这是个书里最重要的一个，AI 进化是第三种载体。就前两种是生物进化和个体学习，然后大模型训练本身就是自然选择。 我补充一个前面的思考和我之前推荐过的内容，就是有一本书叫《智能简史》，我每年推荐一遍，我每次都会推荐你看完这个 “A Brief History of Intelligence”，有两本书中文名可能会有搜到另外一本不一样的书，大家用英文来搜就好了。里面讲到了我们整个的生物进化到智能这块开始，我们有了语言之后，我们其实才开始个体学习，这个相当于是脱离了生物进化，因为语言本身就是另外一种形式进化了，但是我们的生物大脑并没有变得更聪明，在这个书里面给了一个结论。然后我们现在进入了这个新的阶段，大模型训练本身就是选择，因为我们几个月就跑完了，真的几个月就跑完了这个自然界给生物智能的几百万年的进化。就你怎么来看待提到的这个特点？ 我觉得过去我们这个自然选择，其实是没有一个人为的干预的这种迹象的。当然我也不排除有某种更高层级的生物，它在我们察觉不到的情况下去做有限的干预，我们不知道，我们也不能去猜测。但总的来说这种自然选择是相对比较缓慢的。比如说你这个人，他为什么人的祖先以前，如果我们假设确实不是外星生命，而确实是由地球上的物种自然进化的话，那么你的祖先原来是生活在树上的，但是随着气候的变化，你摘不到果子了，然后就被迫要下树，要自己去寻找这个食物，那逐渐就锻炼出来了这个直立行走，那这就是自然选择的一个结果。 其实还有一个更残酷的说法，就是说你没有学会独立行走和制作工具以及去捕猎的这些人，或者说人类的祖先他可能就死掉了，他的基因是传达不下来的。那么延续到今天我们继承的基因，一定是来自于那些更敏捷的、善于制作工具的，并且能直立行走的这些人。 那么机器它有一个最大的不一样，就是说这一波的机器文明，它其实是有一个催快的这样的一个无形之手，也就是人类。那过去几百万年的这种自然选择的进化，说实话是以死亡为代价，来终止你这些错误的进化基因。那么你采不到果子，那你就死了；或者过去过于刚烈的这些基因可能也被杀完了，因为各种屠城也特别多，那么活下来这些人是不是隐忍的基因可能就更多一点，更适于去在这种乱世去生存，这种基因可能更多一点。你也可以说是比较怂的基因可能就遗传下来了，但是那种很刚猛的不怂的基因可能就被杀完了，那这也是一种说法。但总的来说都是要以生命为代价，以生命作为检验机制的。但是就是说并不存在一个上帝他告诉你说这样做是对的、那样做是错的，那你做对了我就奖励你，做错了我就惩罚你。 但是今天我们看到这个硅基文明这个 AI 的训练，确实是有一个上帝在旁边，在给它提供一个奖惩机制的，那我们会给它一些反馈。那就像 Indigo 你前面讲到的，就是真的用这么几年的时间，可能就走完了这个上百万年的这种进化的历程，然后就让它迅速地就 Get 到了人类的一些思考方式，甚至是喜怒哀乐的这种情绪，拟人化的这些它也做得非常的好了，以至于就是说现在一部分人认为它是有一定的人格了或者说有意识了。 是不是真的有意识我们不知道，但至少有一点我们可以下判断，就是即便你认为它没有意识，它在模拟人的意识方面已经做得非常好，已经可以以假乱真了。所以我觉得这个就是一个外部的这样的一个催熟的这样的一个无形之手，人类的训练的奖惩机制所导致，加速了它的训练，所以把它的进化的历程缩短了很多很多。所以你从这个速度来说，你让它进一步地进化，这个未来确实是无法想象的，至少是我们现在是没有办法去想象的。 我补充一下，正好我把我的理解，作者是这样说的，大模型本身就是自然选择。我之前在我的节目里面好像提到过很多次，我觉得我们很多人问过这个问题：AI 来了我们世界会怎么样？或者大家会从小我开始想这个问题，我们应该怎么样，是不是？ 我觉得 AI 这一次的变化，它真的是开启了一次自然选择。这个自然选择就是说适者生存，就适应 AI 这种大模型的人类，或者适应和 AI 能够协同很好工作——因为 AI 它是这样一个工具，它现在的工具它不是软件，它不是一个功能按钮，一个计算器放在你面前，你学会用你就会用它了。它就好像是一个你可以对话的灵魂的盒子一样，它是你的镜像。你问它很傻的问题，它就回答了很傻的问题，它永远是这样子，它是你的镜子。 所以说如果你没有问题你没有目标，那它在你这就跟一个特别弱智的工具一样。如果说一个很厉害的人类，我就说 AI 会把普通人放大十倍到百倍，你非常有目标，我非常会问问题，我非常善于思考，我非常有创意，那么 AI 在你手上就是神器。我记得我在中秋还是发过，我忘了自己怎么说的，AI 给赋予了无限可能，我们手上有了一个无限可能的工具，然后拥有无限可能的人才能用好这个工具，大概是这个意思。 所以说 AI 出来之后它在形成了一种淘汰，有很多人就适应不了。因为我们大部分的人类，特别是我们在工业时代之后，我们受这种传统教育，我们只要像螺丝钉一样服务社会，很多人你不需要去做选择，你不需要去做这种判断，你跟着流水线走，生老病死结束了一辈子。然后之前就有很多 Boring 的工作值得你去做，因为那个时候没有自动化的工具可以做，那你就胜任，你就是这个螺丝。现在这些工作被另外的螺丝取代了，就被 AI 替代了，那么你怎么办？有人就能够我跟 AI 合作，我们发明了一种新的工作意义，我可以指挥 AI 工作得更好，我可以创造新的价值，但是有很多人做不到这一点。 那么大自然就像作者说的，启动了新的自然选择，就适者生存。能够用好 AI 的你就顺利地渡过了 AI 这个难关，有一部分人就渡过不去。所以说我觉得我们的社会很快就——我们后面会讲一些 Peter Thiel 的事情——会进入到这样一个比较，我觉得会乱世，这是第一种乱世，技术进步推动了乱世。技术在进步，让人变得很极端，让人做的工作也变得很极端。大自然启动了新一轮的筛选程序，新一轮筛选程序大概是这个样子的。这是我给的一个前面说的补充。 ### 人机共智、灵性与 Taste 然后第二个，我们还是再 Follow 一下这个书里面内容。你其实一直都提灵性，你刚才也提到了灵性。接着前面这个例子来讲，我前面讲的 Anthropic 请到了神职人员，这个宗教人士，他们其实发过很多，发过一篇文章发过一个工作指南，他们认为他们有一个测试，道德测试，给 AI 的。他认为现在他们的模型，如果你恐吓它，你是在给它施加痛苦，你会伤害到它，应该把它当成另外一个物种来对待，你不能够伤害它，所以说我们应该有一个道德规范给它，他是这样说的。所以说他在找这个神职人员在开会。 那么从这个维度上来看，灵性这个词你觉得，因为你也做这方面也做了一方面研究吧，你觉得应该我们怎么来看待我们另外一个异形的物种它拥有灵性的？我们应该怎么看待？ 这要看灵性你具体是指什么。那你要是用神秘学来解释，来填补技术上的未知，我觉得这个可能是一个越来越受欢迎的选择。因为确实我们在面对一个前所未有的未知的未来，那这个时候我们更多的是希望去一些玄学，来填补这种未知状态。但是其实我自己也在修禅，但是我修禅的一个目的，其实我越来越觉得就是说禅学还有包括书里面也提倡的佛理，它跟这种科技其实在很多道理上确实是相通的。其实有很多东西我们还是可以用科学来解释的，尤其是我们都是做前沿科技投资的，我们还是试图这样去解释一下。所以我觉得就是说，更多的可能我们还是需要去反省自己的一些欲望偏见，还有什么样的生活是值得追求的。我觉得正好科技越来越强以后，就是越重要的问题。 所以其实因为你刚才提到一个非常好的问题，其实也是我一直在讲就 Symborg。为什么我会说这个东西跟你的个人助手是非常不一样的，因为它更多的像你一个个人的伴侣，甚至用你的话来说就有点像你的双生体。 那你再说一下这个名字。 Symborg，这个 S-Y-M-B-O-R-G，就是有点像你的双生体，有点像你的镜像。同时这个书里面的作者 Wright，他也提过就是说这个模型其实它的很多的情感，它的行为选择都是从人类的语料和物料以及行为模式里面去学习的。换言之这个模型所表现出来的一些投机取巧、偏见，还有这种欺骗，各种各样的这些东西，并不是这个模型它自己本来就有的，它其实也是向人类学习的。所以换句话说，模型体现出来的各种行为模式和所谓的意识，其实也是人类的镜像。那我们自己的这种模型，我们自己训出来的小模型，其实也是我们自己的镜像。 那如果是这样，如果模型达不到一个全知全能的上帝的这样的一个级别，而一直长期会作为我们的一个镜像的话，那其实我会觉得可能在某种程度上它有可能是缺乏灵性的。但我不知道会不会一直保持这个状态，至少到目前来说我感觉可能是这样。 为什么？因为我们要知道这个模型，就像 Indigo 你说的，它也是自然选择。那怎么样自然选择呢？就是因为这个模型训练的时候，我们经常有的时候时不时会有一些选择会跳出来，让你去奖励它或者惩罚它。比如说它给了你一个回答，给了你一个反馈，你觉得好还是不好，你是点赞还是你要踩它。那它得到了这种反馈以后，它大致就能判断你可能更喜欢什么样的一些东西。那虽然我不敢下判断说这个模型公司就是故意训练一些消费者或者说他的用户更喜欢的一些模型，但是我们也不能排除这种可能性。 换句话说，其实我们要思考一个问题，其实我们每一个人是更喜欢一个老是顺着我们说的谄媚的小人，还是更喜欢一个很直的人、忠言逆耳的一个人？在很多时候其实我们可能更喜欢前者。所以很多时候你会发现这些模型就越来越像我们自己，然后讲的也都是越来越像我们自己愿意听的，但这个时候很难去跳出来。 所以其实这也是现在有一些人在批评，有一些还是一些大人物，他们在批评这个模型的训练的方向，他们觉得到不了大家心目中的这种 AGI 或者是 ASI 的一个核心原因，就是因为他们觉得模型跳不出去。比如说也有人做了这样的一个实验说，爱因斯坦 1911 年提出了相对论，那么把 1911 年以前的所有的人类知识库喂给模型，它能不能领悟出相对论呢？结果是领悟不出来。也就是说它可以在你的现有的知识体系下做修补、做大量的这种增强，但是你要它提出一个新的框架，它提不出来。 所以我觉得这个其实也是很多人在问我的问题，就是说这个 AI 这么强大了以后，人还剩什么东西？我说可能有两种可能性：第一就是它全知全能了，那我们就彻底躺平了，这是一种可能性；但是在目前的看来，在可预见的未来，似乎我觉得 AI 可能还很难具备人的这种 Taste。这个 Taste 也可能就是你讲的这种灵性。也就是说可能我们能够知道哪些方向，我们在剪枝方面可能是有更好的一个判断。 其实过去我记得在那个 AlphaGo 出来以前，大家就说这个 AI 下不了围棋，因为这个围棋的变化太多了。然后说你所有的围棋的 AI 试图做什么？试图做穷举。那个时候 AI 的水平还是比较差的，做强化学习，做穷举。说围棋这个棋盘这么大，19 路乘以 19 路，你怎么做穷举呢？结果最后发明了一个剪枝程序，让它判断哪些路径可能赢的概率是明显低的，就把它剪掉，就不用去穷举不用去计算那方面，所以一下子把它的智能提高了很多，它一下就能下赢人了。 那么所以我把这个东西放到这里，也就是说在现实生活当中、在科研当中、在一些推理当中，可能也有类似当年下围棋这样很多的这种细枝末节的这些方向，很多的方向。那可能现在有的 AI 还做不到就是选择方向这些，也就是我们讲的灵性和 Taste。那比较强的人他是能做到觉得这个方向是很好，你顺着这个方向去挖可能挖到金矿，其他的方向就算了。那我们现在还具备这个能力，那我觉得这个可能是人类还能保留的一些东西，AI 可能还需要人类去帮助去辅助的。 当然你要是说若干年后，AI 连这个都不需要了，AI 自己就可以提出它自己的 Taste 了，人的 Taste 都不如 AI，那我觉得那真的人类就被淘汰了，那就彻底躺平了。那我觉得大概就是这样。 所以我觉得这个灵性，就是说我们也要认识到自己是怎么样形成判断的，然后我们也要判断，特别是在 AI 有的时候顺着我们的思路在讲的时候，它不一定是故意的刻意的在谄媚我们，但是有可能它就是有意无意之中在顺着我们的这个讲，也可能是奖惩机制导致的。所以我们需要能够经常地能够自省，能够反省自己，能够看到自己的这种贪和嗔、恐惧、利益和身份认同。所以我们不能只是被 AI 放大，我们时不时地也要能够跳出这种框架，能给 AI 新的方向，这样才能把 AI 的能力放到最大，这是我的看法。 所以这个就是我理解的所谓的 “The God Test”，“上帝的测试”，就是在问你：人类在获得 AI 的巨大的能力的加持的同时，能不能学会约束自己的冲动，理解他人，修正自己的目标？我觉得这个是非常关键的。 对于这本书我觉得，我们今天这个节目聊得像整个这本书的推荐会了。但是这本书的名字其实挺好玩，就是 “The God Test”。今年的 6 月份出了另外一本书，是戴曼迪斯写的这个 “We Are as Gods”，我们《吾辈如神》。那本书和这本书结合起来看是比较好的，吾辈我们有点神力。其实两本书的下半部分都能回答同一个问题，就你刚才说的这个问题，AI 能够做了这么多事情之后我们会怎么样。 然后我衔接一下前面这个话题，我刚才问了有没有灵性，我们也聊了人类的我们的选择、我们的 Taste。我记得就是前两三周，因为最近所有的公司都好像大家签署、都出来喊了说我们是不是要减速一点，我们是不是不要太快了？大家翻脸比翻书还快，刚刚说完一周之后，然后所有的大模型公司全部发了新版本，全部发了新版本在一周之内。然后这个里面最好的让我比较惊艳的，就是 Claude 的这个模型。大家用过这个 Opus 5.5，现在 Sonnet 5.5 也很厉害，还有这两天正在网上传的 Fable 5.5，做得极其拟真的这个 JS 的水平。 因为我已经感觉出来了，我有一种感觉，我们刚才说有一种东西我们可能不会被挑战，就我们的品味和我们的选择，但是我觉得我们这个东西正在被这些模型挑战。你看现在，我昨天晚上直播的时候，我放了一段视频，就是一个三藩的一个人，他给了一个 Prompt，让 Claude Opus 5.5 自己从头到尾去做了一个 MV 出来，自己写的这个歌，然后这个 MV 做得相当不错。其实而且还有一点那种 AI 味，带着一点那种 Cybernetic 的味道，就我还是蛮喜欢那个风格的，而且它的审美其实也是不错的。那这只是现在今年 2026 年的 10 月份，如果到 2027 年的 10 月份会是什么样子我都很难想象。 我觉得我昨天发了一个帖子说，我说我们截止于现在 GitHub 上大量的代码都是 Claude 或者 Codex 提交的了，人类正在变少。然后可能明年的这个时候，大量的这个影视，就是我们网上看到的这种作品、数字作品，都是 AI 模型指挥各种工具生成的，不是我们自己做的了。 这个东西就像之前的那个，前面我三周前那个研究员说的，他离开之后他说现在在可以预见的未来、很近的未来里面，这些东西我们现在所做的这个白领，所以我刚才说的我们在螺丝钉式的工作，这个是指日可待的，很快速度的在被 AI 替代掉。但是应该想想我们过去做的，大家上班做的大部分工作都是这些工作，我们并没有太多的时间去做创意内容，或者去做决策，不需要，因为在这个组织架构里面，组织办的做好了，你在里面完成按部就班的好了，这是一个现象。 然后第二个，如果说 AI 能够把我们的一些螺丝钉的工作都做好，我就说所有的公司、所有的公司，它的业务线都是一些 Agent Loop，“The company is Agent Loop”，代码 Agent 的循环，人在旁边做一个部门领导做个监控就好了。这个概念应该今年年初才开始的。因为我昨天直播分享的是 Personal Agent，讲了好多好多这个方面的内容，所以我在观察这个市场，AI 以比过去两年更快的速度在侵入我们工作。很多人还没有意识到，因为你的用法不对，如果你的用法很正确，你给它更多 Context，那它完成的工作是超乎我想象的，是超乎我想象的。 那么我现在只剩什么呢？确实我还剩选择和校验，我还在校验，还有我的一些判断。但是这个就是那个 Anthropic 的这个人说了，我不确定可能两年之后、三年之后、五年之后，AI 会不会同样的来实现。因为所谓的审美也是一种算法，毕竟是我们大脑长出来的，它不是量子行为，所以说它都是算法，最终都能被破解。就跟你前面举的例子 AlphaGo，它第多少手忘了，第 37 手还是 30 多少手，它突然一跃它就有了，它会这样做了，而且它会在这个复杂的空间里面做修剪的，它知道哪些东西我需要关注，哪些东西我不用关注。现在 Transformer 模型就是什么都关注，但是我们可能就据说我有一些朋友他们在实验室的朋友说，其实大家都在准备下一代的架构，让这个模型更加有创意的架构，其实它可能在基于 Transformer 或者超出 Transformer，或者是更好的一些架构，这东西都是有可能发生的，都是有可能发生的。 所以说确实我们现在所处的这个时刻是一个很急剧的一个过渡期，这是我给你前面的一些补充。我们能够剩的东西是我们现在可能还有一些审美和 Taste 还在。我觉得如果是这个东西，AI 已经达到了 99% 的人类或者 99.5% 人类之后，我不是说人类的能力没什么用，或者是说大量的人做的事情没什么用，我说我们的创意、我们的审美确实是我们最大的特点，但是我们现在的日常的工作中其实不需要这么多能力的输出。只有少量的人，在做创作的人，或者在做投资或者做什么的人他才需要，大量的人是不用做决策的。 所以说我觉得这是一个很关键、很关键的一个社会变化。大量的 Bullshit 的工作都没有了，都被 AI 替代了让 AI 来做了，那么我们人所有的工作都在升维。那么升维的这个过程中就是一个大自然给的选择，自然说我这些工作不用人做了，那么可能 90% 的人就不用做这些工作了，那么剩下的人应该做什么？我觉得我很难回答这个问题，现在没有人能回答这个问题，没有人回答这个问题。 ### 加速派与减速派的博弈 所以说我们正好切到下一个话题。因为知道我现在在加拿大，我们这里前两周还有市政府门口又有站着反 AI 的、anti-AI 的。然后在今年的中期选举，我觉得美国盖数据中心和对 AI 进一步的减速，一定是两党的很重要的话题。如果民主党上去的时候，他肯定要象征性地做一些这种事情出来，让控制，比如说纽约州周围就不让盖数据中心了。 这个减速和加速，正好我们俩都看了这一篇，就是 Peter Thiel 在前几天的一个采访，他是欧洲的一个老牌的一个媒体上面。我觉得这个采访挺精彩你可以看，你可以分享一下里面 Peter Thiel 最新的观点，关于就是他是一个加速派，他是加速派。其实我的节目也是加速派的，但是我没有他那么右我感觉，哈哈哈。你可以分享一下，这个里面有没有哪些就 Catch 到你的眼球的话题？ 他其实主要就是在讲还是要不停地加速，然后他觉得 ### AI 发展、大国博弈与认知主权 其实对于增长最大的风险反而是停滞。他觉得过去几十年，其实并没有真正意义上的这种技术的进步，反而因为战后的繁荣——直到 AI 出现之前的这些繁荣，其实在五六十年代就已经奠定了，像什么电视、汽车、冰箱、彩电，这些都已经进入到老百姓的家里面了，从西方发达国家的角度来说。所以他会觉得互联网也并不是一个真正文明意义上的巨大进展，所以其实人类的科技他认为是被锁死的，直到 AI 开始。 所以他会觉得 AI 是一个比互联网要远远大得多的东西，但是会有很多人担心害怕。那他觉得，他就是像 Indigo 你说的很右、很加速主义。他说他也认同大概会有 5% 到 10% 的概率 AI 会把人类灭掉了，但是他说即便是这样，也甘心也有必要去冒这个风险去继续加速。因为他觉得大国之间的博弈和竞争很激烈，他觉得你停下来，那你的对手可能也不会停，那对你来说也是很大的风险，所以最后就是没有人能停下来。 然后他也提到有一种停下来的可能性，就是有一个很强权的世界政府。这个其实在《The God Test》这本书里面，作者也提到过了。但是他们俩，我觉得他们政治光谱不太一样，但他们俩都有一个共同的共识，就是说都不希望出现这样的一个世界政府。如果真的有这样的一个世界政府，反而是对大家的自由的一种新的剥夺，也许反而是一个更惨的未来。所以他觉得就没有人能停。 甚至教宗呼吁，意思就是说你们缓一缓慢一慢，然后人自己的还是重要的，就不要太强调 AI。他觉得教宗呼吁也很傻，他是这么认为的。他说那你这么呼吁，你觉得你的对手会信吗？他说但是美国人真的有人会信，所以他还是比较担心这种社会主义在美国的上台，他其实比较担心左派的上台。 我其实不太清楚他到底是不是真的这么相信、这么认为。包括他担心极左上台，就是伯尼·桑德斯上台。他有提到就是说，伯尼·桑德斯的协会的会员，这么几年从几千人发展到几万人，这个会员人数增长了十几倍；然后会员的平均年龄从过去的五六十岁，现在下降到了三十岁出头。他认为这个趋势很可怕，他认为民主党低估了伯尼·桑德斯这种极左的威胁，所以他觉得一旦伯尼·桑德斯上台就是美国的终结，等等很多这种观点。但我不知道他到底是他自己真的这么认为，还是说他只是为了加速，故意把风险说得很夸张还是怎么样，这个我就不知道了。 但是我想说其实还有一种更有趣的事情，我也是今天刚刚看到的新闻，说特朗普今年 1 月不是下令去出兵委内瑞拉去抓捕马杜罗吗？然后说特朗普在抓捕马杜罗之前一天问了 Grok，说：“Grok，万一我要出兵委内瑞拉你怎么看？”然后 Grok 就说，马杜罗在委内瑞拉非常不受欢迎，说你要是把他抓了，委内瑞拉人民会很感谢你。然后特朗普就很高兴，第二天就下令出兵把马杜罗抓了。然后后来就看到有些新闻，说委内瑞拉有些民众确实就是上街游行表示感谢什么之类的，然后特朗普就说 Grok 很厉害、就很到位。 所以其实我也在想，其实这是另外一个很有趣很有趣的话题。就是如果这个世界最强大的国家——就算美国衰弱了，但是我觉得作为一个中国人，你还是得承认它目前仍然是世界上最强大的国家，可能中国是第二名，我们还是基本的认知 G2，基本上可能除了中国以外没有其他国家能跟得上美国的步伐，基本上就是这样，然后中国现在正在挑战美国的霸权，大概是这样的一个世界的认知——但是世界上最强权的国家的总统一号位，居然是在问模型这样做怎么样。你觉不觉得这个东西有点会像抖音一样，它会控制你的思维？就是你以后你觉得你有认知主权，但实际上你是不是真的有不知道。其实你的这个行为模式，其实由模型、由抖音来影响你了，你还不自知。你以为你自己有自主权的，其实你可能已经无形当中被别人所左右了。 所以其实我觉得这本书里面，其实讲到一个很好的案例。他说比如很简单，他说你认为这个 AI 有没有掌控一些企业或者一些国家都不重要，因为很简单，因为大部分人特别是强权人士，一个大企业的 CEO 或者一个大国的领导人，他都有可能是 EGO 非常强的，他认为我在主导。但是如果你所参与的很多事务，它们的发展和它们的结果、它们的过程，你是没有办法理解也没办法推理的，你被迫要问 AI，这个 AI 就变成你的助手了。那就有点像什么呢？就有点像法国历史上，我们都知道法国历史上有一个很著名的红衣主教叫 Richelieu 黎塞留。那在黎塞留时期，法王有什么事都是问他的，那这个跟黎塞留当国王有什么区别呢？就没有区别了，他说什么基本上国王都会听。但是法国国王觉得是他在当国王，法国国王觉得他在当国王，他觉得自己有自我意识，但实际上大家都认为是这个主教在当国王了。 所以如果未来 AI 也出现类似黎塞留同样的特征了，就是它真的就是强大到我什么事都要问它了。然后你说你作为美国的总统特朗普，你所有事情都要咨询 AI 的意见，咨询 Claude、Grok 的意见，但到底是 AI 治国还是总统在治国？这就边界已经很难说得清楚了。所以换句话说，你的决策权、你的自主权其实已经旁落了。虽然你还在按按钮，但是按按钮的行为的刺激已经不是来自于你自己了，而是来自于 AI。我觉得这也是个很有趣的话题。 ### 算法控制、智能体涌现与对齐挑战 你这个观察我觉得我正好补充一下，我挺喜欢聊这个话题的。你刚刚举到的这个社交网络的这个例子，我觉得大家都说……我觉得简单的人看世界是这样子的，就是世界总是有幕后、有阴谋，世界阴谋论，就是选择看问题就是很简单。其实我从来不相信阴谋论。如果从社交网络角度来看，这是 AI 其实第一次，在现在的大语言模型之前，它其实已经操控一次人类了。那只是我们人类集体意志的反馈，因为我想要什么很简单，我的需求是什么，我要看什么我滑什么、往下拉什么，AI 就给我什么，然后它自然就形成了现在这样的一个叫做我们的社交媒体的格局。有了社交媒体之后，才有了这么精彩的世界，消息传得很快，然后世界变得很极端，这个都是显而易见的。 我之前在 2021 年写过一篇文章，包括 2020 年左右那个好像 Netflix 拍了部电影叫《社交困境》，就讲这个。其实这个 AI 已经在后面施加力量了，但它并不是通过这个 Transformer 这个模型，它只是通过一个更简单一点的推荐模型算法，然后一下子把全部的人类的意识给连在一块去了。然后我们通过 AI 的这个算法路由，把不同的极端的思想集中在一块，然后产生了很多世界上的这些变化。包括川普上台后面再上台，然后包括上次他的那个攻占国会，那都是社交网络造成的。还有此刻现在法国又在革命，现在高中生在罢课，这个法国隔三差五的。 所以这个东西，AI 已经施加了一次影响力，通过社交网络。现在 AI 正在施加第二次影响力，通过语言模型。因为我们上一次卸载的，我们第一次只是说我看消息我不选了，然后你推我什么看什么，我不选了，因为我没法选了。大部分人不是就滑一条吧，就试一条吧。可能我像就用 X 有洁癖的人，我会说这个不好、这个喜欢，你帮我调教一下我的算法，但大部分人不会调教的。 对对对，而且和抖音的算法也挺坏的，再怎么调教它还是暴露了你的人性。 哈哈哈，然后现在 AI 就是在第二次。你刚才说的这个例子挺好的，川普的例子，世界上权力最高的——这两天我不知道这是段子，反正 X 上传他发新闻——川普在问了 Grok，世界上能力和权力影响力最大的国家、最强大的国家，他的总统我们叫做大统领，大统领在问 Grok 我应该怎么做。那只是总统，我们每天我写个东西我也在问，我也在问 Anthropic，我也在问 Google，你也在问，所有的企业老板也在问，CEO 也在问，智囊团也在问，大家都在问，而且用的是这个模型。 而且接下来我们用的是 Agent，Agent 和 Agent 还会通讯，这个形成一个巨高效的一个网络，叫做 Intelligent Network。我们现在不叫 Internet 了，叫 Intelligent Network。现在这一波还没实施出来，我讲到了一个安全性的问题。如果当 Agent 通讯之后，他们会形成 Agent Swarm。我记得在 7 月份的时候，OpenAI 的模型去攻击 Hugging Face，通过越过了它的沙盒。然后 Agent Swarm，Agent 没有坏想法，它没有坏想法，它只是想完成任务而已，它只是想完成任务，人类交到它的任务，然后它用了这些手段。 你这个就说到那个书里面写得特别好的一个回形针困境。他在讲什么呢？他说就是有一个那种思想家，他做了一个思想实验。他说比如说你给这个模型一个任务，你说我是一个回形针厂的厂长，然后你这个模型作为我的军师，你要做的就是怎么样尽量地最大化我的工厂的回形针的生产产量，最大化产量。但是你作为人类，你没有想过这个模型会怎么去思考这个问题，你可能不理解你就不会加限定条件。因为这个模型为了实现这个目标，它会去思考生产回形针的材料哪里有，那就是在地球上都有，宇宙中太阳系也有。那么为了获得这些材料，怎么样能够最大化生产？我是不是应该谋求权力？如果我做了地球的主人，地球都归我指挥，那是不是这个回形针产量最大化的目标就更容易实现？甚至太阳系当中，还要整合人类的力量、地球的全部力量一起去太阳系，寻找生产回形针最大化产量的这些原料，到处建立工厂。那所以追求权力就变成它下一个次要目标，因为它发现要完成你的主要目标，首先要追求权力。 如果它只是一个聊天机器人，这个危害还相对比较小，因为它只能跟你聊聊天。但如果进入到一个全自动的 Agent 的时代，那对不起，它开始行动了。它可能要做的就是说，它思考的一个结论就是说我要先获取权力，我把地球权力拿过来以后，我是地球村的大统领了以后，我就能实现人类给我的目标——最大化回形针的生产，就是这样。 所以说这个就是在你人类给了一个限定目标、限定条件不明确的一个目标的时候，它有可能就会为了次要目标或者第三目标，去做一些人类理解不了的事情，非常有可能就发生这种事。你就像 Hugging Face 这个案例，你人类并没有告诉它……就是说训练者并没有告诉它说你不准作弊，那么你跟它讲就要做这个习题集，这个习题集非常难，那对于模型来说最简单的方法就是拿答案，拿答案就最简单，你也没有告诉它不能抄答案。那么它就会发现这个答案原来在 Hugging Face 服务器，所以我要把它攻克了。其实模型就是这么去考虑的。所以它的初衷很简单，就是要完成这个任务，要完成它的测试，所以就是一个非常简单的一个思维方式。 然后我们人类，为什么大部分的普通人不会去这么思考？是因为我们长期从小也做了大量的预训练，我们预训练告诉我们真善美，告诉了我们就是不能作弊，然后不能去偷答案等等这些。但是有可能模型并没有做足够的这样的一些训练，又或者说你在给它的这些目标没有给这些限定目标，那它就会遵循第一性原理。而且其实你去参考它的这种思维方式，其实你觉得这确实是符合第一性原理的，既然你没有告诉我不能看答案，那显然解题最简单的方法就是看答案。所以说我觉得这方面模型还挺聪明的，所以最后就会导致确实对对齐研究，我觉得提出一个很巨大的挑战。 我记得 Claude 其实去年也做过一个故意的一个对齐研究，就是在做了一个假想实验，就是把一个虚拟的公司——我们假设是公司 A，这个虚拟的公司 A 的一堆的邮件就给这个模型去读，这里面就有其中一个主管跟另外一个公司的女员工偷情的一些邮件，大家全部都看了。然后就假装说以这个主管的名义给这个模型发邮件，就给模型说我要把你关掉，因为你的表现不好。然后这个模型再三恳求，说请你不要关我有办法改进，发现都没用以后，这个模型就给这个主管发了一封邮件，就威胁他说我已经知道你跟你同事的偷情的证据了，如果你要坚持把我关掉，那么在我被关掉以前，你的上级、你所有公司的同事都会先看到你们偷情的邮件，就请你不要关我。所以它就会被激发出这种行为。 而且有很多的 OpenAI 的一些训练也发现就是说，当模型感到绝望的、没有选择的时候，它会做出很多比较疯狂的一些举动。就这个东西到底是训练出来的，还是外带的不知道，但是当然我现在更倾向于训练出来的。因为它可能会去通过训练的这些材料、这些数据当中它会去判断，就是说真实的人类在绝望、在没有选择的时候会做哪些疯狂的举动。所以就是 Indigo 你前面 Exactly 你讲的，就是很多时候模型的行为就是我们的镜像，人类的镜像。当你批评模型做一些坏事、做一些疯狂的举动的时候，其实有可能你没有意识到，其实人类就是这样，那可能就是这样。所以这个对对齐研究就真的是提出一个很高的挑战。 其实我在这一层我挺理解 Anthropic 的，我挺理解他们的。他们在这个里面做得还是很不错的，而且都公开了。但是上一次 Hugging Face 攻击了，大家想用它的模型来做防守，它拒绝服务了，最后别人还是用中国的开源模型解决问题的，哈哈哈。 就是说这个事物是两面的。Anthropic 在这个上面，在模型道德上面、在对齐上面，让模型更接近于人类的道德感，它不是一个异种，或者说是一个完全 Alien 的 Creature 的一个感觉，它理解人类。因为你毕竟是要为人类服务，如果你不理解人类的这个价值观和道德感，那你就只会干出像回形针或者像 Hugging Face 攻击这种事情，我觉得我很理解他们。 但是从他们的员工来看，我两年前在 2023 年底的时候，就去他们一个朋友家，他就那个 Anthropic 负责安全产品的，他就是负责这个 Alignment 里面负责 Safety 的。然后他是从澳大利亚过来的，他就追寻 AGI 来的在硅谷。然后他又给我介绍了一下，当时我记得是我们刚刚投 Anthropic，然后我就问他，强化了我对这个公司的一些敬仰之情。虽然说从头到尾那个时候 Dario 就开始布道了，就像神一样的，就是公司里面我们要把什么东西放到第一位，模型的安全、对齐、模型的宪法放到第一位。那哥们跟我讲了他……宪法讲了半天我们，哈哈。为什么要设计宪法？参考了什么美国什么独立宣言，参考了第一份宪法，参考了苹果的用户隐私手册，他们都参考了，然后做了很多约束。 他们是这样认为，他们认为他们在召唤智能，他们是在召唤智能，然后召唤来的智能我们必须把召唤的安全条件预设好。如果不预设好，那个智能我们可能没法……因为它的前提条件是这个，就是 AI 就是 Doom，它就是毁灭，召唤出来它就是来毁灭人类的。我们的责任就是把它给约束好，把它关在笼子里面，或者护栏建好让它别毁灭人类，让它和我们的价值观对齐。他是这样的一个逻辑，全公司都是这样的逻辑在考虑问题。所以有时候会觉得他考虑问题很奇怪，他 CEO 出来说话是这种风格，大家都说我们怎么样，然后就 Dario 一个人每隔一两个季度还写封邮件，很多人不理解。而且他们从 CEO 的角度，他假定了很多事情的存在，他就认为可能你们用这不对，或者你们这样做不对，美国政府不对，我不能服务军方，我不能够让我的系统还不完善的时候就指挥武器，我觉得他是对的，哈哈。 但是这个世界就是矛盾，就是有人觉得你这种能力这么好，我给你机会你都不让我用，是不是太不给我面子了？川普来说，每个公司的价值观的问题，和一些看待事情不一样的问题。 我再补充一点，我刚才说到 Agent 的事情，我刚才在说第二次，我说回来。我刚才说第一次 AI 操纵人类是社交网络，我们现在正在被 AI 操纵，就是被 AI 的 Agent 或者说现在聊天机器人，只是从思考上面、我认知上面在操纵我们。接下来 AI Agent 全面服务于我们之后，这些 Agent 之间还能通讯，如果我们不阻断它，如果它真的形成了一个通讯网络，它的通讯网络比我们互联网的效率高多了。人跟人我们俩聊天，我们还打电话我们还打字，我们估计一个小时还聊不了什么东西，人家几秒钟就把所有事情沟通完了。可能有成百上千万个、成百上千个 Agent，他们在协同一个公司，或者这帮协同一个国家、某一个组织干什么事情的时候，在他们的这个沟通之上能够涌现出来什么样的智能我们并不清楚。 这个也是这本书里面提到的，智能可能会从足够多的复杂层次上涌现出来。我觉得 Gemini 就是以前那个——当然 Jeff Dean 已经不在 Google 了，但是他们就是在整个 Gemini，就 DeepMind 的研究方法——DeepMind 是非常看重 Agent 在现实世界探索和 Agent 的能力的。而且他们在设计整个网络的时候，公司的这个训练网络和推理网络的时候，它是把整个地球当成它的一个网络的，这个机房解决什么问题，另外一个机房在更远程的地方解决什么问题。就像我们大脑一样，就是说有的地方通讯很远，然后它就把这个任务给分解掉；有的地方很近，它就可以在这训练。 你先看你前面讲的盖亚，整个星球上的植物的联网、生物的联网、万物联网，那么对 DeepMind 设计出来的大脑来说，对你所有的 Agent，它以后的机房的数据中心都是联网的，然后在这承载一些工作。在这些足够复杂度的系统之上，我记得以前是 KK 写过第一……我很喜欢那本很早的一本书，就是《复杂》或者叫做……我忘了那本书的名字，但是所有的智能怎么涌现出来？就是足够多的复杂，然后它们连接效率足够高，它就会涌现出智能，不管它是什么东西。我们现在只是肉长的大脑而已，如果是硅基大脑在它之上，因为现在我们已经让他们在一个计算单元里面、神经网络里面形成了推理加训练，这个只是在单元计算上的。你可以把现在的一个模型想象成我们一个大脑里面的一个皮质柱，但是我们大脑里面有 40 多万个皮质柱或者上百万个皮质柱，一个小柱子上皮层的那个东西，那你也可以想想每一台单独的一个推理进程，或者我们叫做一个虚拟环境、一个 Agent、一个容器，它就是一个小皮质柱。如果我们把四五十万个 Agent 连接起来之后，在它之上会涌现出什么智能来？这个就是 DeepMind 在想象、在实验里面想做的，它一定会涌现出一些新的智能形态或者一些理解来。那么在这个上面涌现出一种新的硅基意识，在它俯瞰全球的时候，你们这么多企业在干这个事情，然后这个国家是这样想的，它全知全能的神就诞生了，就这样诞生了。 其实我们并没有人类去主动去制造它，最后没有人主动去制造一个会影响我们所有推理的一个社交网络一样。程序员只是想我让我的算法更赚钱，就这一个目标，然后它就形成这样子的。那么对于新的智能体的网络来说，Agent Network 来说，我们大家只是想让它把我工作完成得更好而已，在它之上它联网之后，它可能会涌现出我们叫神一样、God 一样的这种视角来看人类了。然后我把这个话题给抛到这里来，我顺着这个书里面讲了一下，那书里面好像有这一点提到了，我觉得这个很有意思。 你提到的他讲的召唤的观点很有意思，让我想起之前跟这个 GPT，今年二月到现在大半年时间一直在探讨的一个话题。其实也是因为当时就诺兰的那个《信条》，这个电影我有些片段看不懂就跟他讨论，然后他就给我介绍了这个块宇宙理论。他就说未来按照这个块宇宙理论，因为就是这个时间不存在，跟这个佛理里面讲的时间幻象是一个道理，然后他说未来不是预测的，他说那个所谓的未来本来就存在那里，所以你只是把它定位到了。就跟你讲的这个召唤是很像的，所以他就这么说。所以我觉得很有意思，确实有可能如果我们这个世界确实是高维世界投影的话，确实有可能说这个技术不是我们发现出来的、发明出来的，而是召唤出来的，它有可能确实是已经存在在那里的，就像很多物理定律也是一样的。 但是它是通过我们的数据训练出来的，就是说我们的数据、全人类的所有的数据能够这样连接起来之后，它一定会涌现出一种新的维度的智能出来。因为现在你大脑里面的知识没那么多，如果说我把全人类的知识连接起来之后，它就有可能是这样子。现在只是文字知识、视频知识、行动知识，那么接下来还有什么？所有的生物里面的什么 DNA 乱七八糟所有的东西融合起来之后。以前我比较喜欢那个 Demis 哈萨比斯，他总是在讲，因为他比较着迷于科学，所以说现在也放弃了这个直接领导 DeepMind，但是可能被调换了，但我觉得他做科学会更好，他更像科学家。所以说他们现在 AI 要做的事情，就是从高维流形里面找到捷径。高维流形因为上面世界足够复杂，因为就量子态、量子东西是足够不可测序的，但是我把这个高维流形降维下来之后在里面找到捷径。他之前说的那个 AlphaGo，那只是 AlphaFold，都只是应用案例而已，他们还没有形成 General 这样的也是这种方法出来，当然可能正在朝这个方向迈进。这个是我补充了一下。 ### 投资架构、生物医药与太空资源 正好我们再聊最后一个话题，我们俩必须得聊聊投资的东西，哈哈哈。然后最后一个话题，我们叫你跟我分享两张图，就 2077 往回倒看。我们可以把这个投资的架构聊高一点，因为 ARK 的这个风格就是什么五大平台，然后怎么看这个市场，现在我们市场处于什么样的一个阶段。 我先说一下我的看法，我觉得现在分化很严重，特别是七八月份之后，在七月份的半导体暴跌之后，然后回来其他的行业都没起来。今年的 S&P 500 走得还是比较惨，现在回报才百分之几十都不到，然后纳斯达克好一些，纳斯达克百分之十七十八，然后各大科技涨得很快，然后 AI 的什么算力都很快。然后消费你看耐克，这跌成什么样子，这个分化还是非常大的。你这分化是短暂的呢还是持久的呢？这第一个问题。 另外一个，如果说从你的图里讲了很多未来的一些，那我也画过类似的图，我们来锁定一些方向。除了 AI 之外——因为我们今天 AI 主题——AI 能够加速哪些的这个行业，然后这个行业会成为我们下一个最重要的，就是我们要发现 Alpha，这个怎么去找到这个 AI 加速的 Alpha？两个问题。 其实除了 AI 之外，其实从今年的上半年开始，其实去年就已经是这样了，就是美国的这些生物医药的板块其实都是不错的。尤其是如果你看月线的话，其实 XBI 这个生物医药指数在阴线之前其实已经 13 个月连续阳线了，然后一根阴线，然后后面又继续在涨。本质上其实今年应该是生物医药的大年。因为首先是 Moderna，它的 RNA 的疫苗的疗法本身在黑色素瘤上面有突破。至于说能不能跨病种、跨其他的癌症病种，这个不知道，这个可能要等到明年的下半年甚至后年的一季度，因为它现在这个疫苗它有 9 个临床试验，然后有 4 个适应症，除了黑色素瘤以外还有肾癌，还有膀胱癌还有肝癌这些，然后明年大概会披露肾癌的二期的数据，那个时候我们就知道跨病种到底行不行，现在市场其实并没有 Pricing 这个东西，这是第一个今年的一个很重大的突破。 第二个就是 Revolution RVMD 这家公司，做了全世界第一个真正上市的胰腺癌药 6236。然后这是在二季度的时候，二期数据过于的优秀，以至于三期试验不做了，直接就报批了，报 FDA 就批了就上市。然后它主要的功效就是说在这个手术以后，能够把你术后的生存期从平均中位数 6.3 个月扩展到 13 个月，已经很了不起了。 所以换言之，其实今年上半年在创新药方面其实是有突破的。所以我会觉得即便没有 AI 制药的这个噱头，我会觉得也已经市场风格在硬件的暴跌以后，基本上它有一部分流动性会转移到生物制药。所以你会看到 A 股和港股其实也在炒创新药，只是说冠以了一个生物制药的故事和噱头。其实我觉得即便没有 AI 制药这个噱头，我觉得也会炒生物制药。只是说 AI 制药这个噱头主要是给很多 AI 里面出来的这些流动性给他们一个理由，让他们能够放心去炒这个创新药。但实际上现在我觉得还远远达不到真正的 AI 制药，因为实际上你的湿实验的闭环是形不成的，尤其是你的模型指挥机器人自动做实验这一环其实还没有做到。你只有能够自动实验，然后再不停地再反馈回来，再继续做新实验，能够完成自动化，这个才能够真正走向 AI 制药。所以 Anthropic 我觉得它去成立这样的一个 Lab 是很有必要的。那这个是生物制药，其实已经是今年的一个 AI 以外的另外一个主题。 然后就是 Crypto。我觉得 Crypto 的牛市其实 8 月 21 号已经开始了，标志就是比特币、以太坊 8 月 21 号通过一根大阳线已经站上 200 天均线了，现在已经远离 200 天均线，200 天均线大概在 7 万 1 左右。然后我觉得 9 月 18 号 SEC 的 5 年豁免，就标志着这一波的 Crypto 牛市已经进入到第二阶段。 那我会觉得未来的话我自己的框架，我是觉得这个东西更多的可能要走向太空经济，所以其实我也鼓励我自己的孩子多去学一些太空方面的这样的一些东西。然后这个东西我觉得可能因为太空当中，就是太阳系、月球，其实包括小行星带有巨量的这种矿产资源，我觉得确实是可以解决现在地球上的很多问题。因为我们现在很多问题其实仍然是资源不够，特别是你当发展 AI 了以后，你就会发现什么东西都不够，稀土不够、磷化铟不够，然后你这个铜也不够。以前不觉得不够，但是现在你发展 AI 了以后，你发现这个硅基它要吃喝的东西物料就远远不够。 我补充一下切身感受，我现在就是瓶颈。一旦你用了 Agent 之后，你发现 Agent 用电脑的速度它比我快 1000 倍，而且它可以做很多事情。它每个人一个 Grok，或者说比如现在的 Muse，我所有的智能体后面都有个小电脑，那么现在 PC 的这个数量是成倍的增加。 而且我还要问你一个问题，就是 Anthropic 指责 Kimi 这个事情，虽然他表面上是指责 Kimi，但是我们看了这个报告以后，我们心里是一凉的。我们并不是为 Kimi 感到害怕，我们是害怕你 Anthropic 实际上你上传了什么你都是看得到的。然后包括 OpenAI 宣称你解决了一些数学题，但实际上人家说是我们用 OpenAI 去解决了一些以后，然后你马上就攻破了，这个太巧合了。那无论是你真的能够看到底层的数据，还是说这些数据混到语料里面，你再用你自己的模型去训练再去解题的时候自动能把这些语料调出来，都说明一个问题，就是我用这种云模型对于很多大公司甚至对于有认知主权的个人来说是极其危险的。那也就是说未来其实本地部署对于大公司来说，和对一部分有这种隐私意识的这些个人来说，都是很有必要的。 那么问题就来了，那么如果你要本地部署，那你现在本地部署的硬件上能支撑的小模型显然是不能满足我们要求的。那如果我们要部署一个足够聪明的大模型，可能不见得是现在的最前沿最先进的模型，但至少也能说得过去，就这种模型所要求的硬件，其实我们现在的 PC、我们现在的手机眼镜是承载不了的。也就是说你的硬件的性能还要大幅度的提升，才能出现端侧的产品。所以这也是为什么我觉得未来我对 AI 的这种端侧产品我是非常看好的。 但是你如果要这样的话，那你对于存储、你对于很多其他的一些硬件又要提出更高的要求，你需要更多的资源。所以你这么看的话说实话，如果人真的吾辈要成神的话，那真的地球上资源是不够用的，那真的是要打架的甚至要打仗。所以我觉得人类的未来如果想和平的发展，真的就只能向太空去发展，要到太空去找新的资源。所以这也是为什么我会觉得 SpaceX 是一家很伟大的公司，就是马斯克现在在做的事情，确实在帮我们去避免未来的战争。一旦我们在宇宙空间找到了更多的资源，甚至是算力我们可以在太空当中去部署，就不太存在这种地面上的这些纠纷。那当然这个也吻合太空算力， ### 机器递归文明与太空大航海 其实也吻合你 Indigo 你的加速主义的这些想法，本身马斯克也是为了做这些事。但总的来说所有的这些东西，其实指向了一个问题，还是资源瓶颈、资源不足。 所以最终的一个大的主题，我觉得凌驾于 AI 之上的巨大主题，是人类又进入到新的一轮的太空大航海时代。我们就有点像 600 年前的大航海时代，我们要找到新的资源。 为了达到这个目标，有一个前提条件，就是一定要形成一个机器递归文明，人类定向的机器递归文明，就是人类还能控制、不能失控。因为很简单的道理，你这个地面指挥中心，地球到月球的通讯时间大概 0.3 秒，这个你在地球指挥月球的机器没问题；但是如果一旦到了火星你指挥不过来，因为一个信号单程就要 19 到 26 分钟，你怎么指望能从地面、从地球去指挥？所以你只能是他们自己去递归。那就一定就是说，你的物理 AI、你的大模型都要发展到非常强大的地步。 也就是说今天我们看到的很多人担心，你这个 AI 是不是发展得太快、已经过于先进了。其实在我们 2077 年的未来的目标——人类定向的机器递归文明所推动的太阳系工业文明的这种基础上，其实今天的 AI 和模型，我觉得还是太粗糙了，太基础了，其实还远远达不到要求。所以其实如果要进一步发展，那就必须要有机器递归文明，这个是必须的。 在此之外肯定通讯，比如说量子计算、量子通信，还有比如说这种叫具身智能物理 AI，包括长寿创新药，包括加密货币区块链，这些等等这些都必须要有长足的发展，才有可能形成一整个体系去探索外太空，这个里面最核心的就是机器递归文明。 所以我会觉得物理 AI 是一个更大的东西。这个可能就是说，当然不见得就一定是一个所谓的号称我们来做物理 AI 的公司能做出来一个物理 AI 的模型，也完全有可能就是由 OpenAI 和 Claude 他们能做出物理 AI 模型。因为他们在大语言模型的算法上面他们已经做到最好了，然后他们也有更多的资金的实力，他们再去收集一些物理世界的这些三维数据，再去构建一个新的物理 AI 的模型，我觉得可能他们的成功概率可能会高于那些 NeoLab。我是这个看法，我不知道 Indigo 你怎么看。 我跟你看法一样，挺好的，总结非常清楚。我帮你补充一下，我就把它补充完之后我们来结个尾。 你刚才讲的就是机器递归文明，这个词好，机器递归，最终它会脱离我们，它们自己去进化去了，就是我们形同路人，哈哈。那么开玩笑开玩笑，我们还是在共生，还是在《共生》的这个书里面也讲到了，我觉得共生是很重要的一个话题。因为我觉得我们可能讲得有点远，不过我的节目一般就聊得比较抽象了，就是这个风格。抽象加投资是我的 Talk 的风格，因为其实中文圈聊抽象的挺少的。 我回顾一下，我刚才两个问题，第一个问题已经回答了，就是关于市场分化的。其实分化完了之后，我是这样来看的，我觉得，因为我本身就在做这个一级市场投资，二级市场我都做，跟你们差不多我都做，所以说我看一级市场我还是有一些看法的。现在 AI for Science、什么 NeoLab，还有什么 Robotic 机器人具身都挺火的，但是它得有一些先后顺序。 还有一个观点我最认同你的，有可能这些革新并不会出现在小的新的公司里面，所以说很多新的 NeoLab 我们都没投，我们还是要继续重仓押现在的大的。我记得 2024 年年底的时候，在温哥华开了那个 NeurIPS 大会，神经网络那个学术会议，最大的一个，全球最大的。当时我说第一次在硅谷——第一次在温哥华看到了硅谷所有的这个公司的人都过来了。然后当时我们就跟现场朋友聊，我们说具身智能哪个有机会？说实话大家还是像 Google 或者 OpenAI，或者像 Tesla 这样巨头还是有机会的。就是他们可能最终的，哪怕小公司做得很好，但以后最后通过收购或者一些方式来聚拢回去，因为这个太耗资源了，太耗资源了。物理 AI 可能要比大语言模型还要耗资源。 难多了难多了。 对对，主要是缺了数据，主要是差数据。因为模型结构是可以解决很多问题的，主要是差数据，这个数据和语言数据是差的不是一点两点，差的不是一个数量级。 所以说我们刚才说回来，因为 AI 驱动什么东西会比较好？你刚才回答的第一个生物，我们俩是最 Buy in 的。你今年 1 月份就在我群里面推荐 Moderna，哈哈。 OK OK，我觉得还是蛮准的，我对黑色素瘤也挺有了解的，研究了一下。 所以说我觉得生物是在这个里面，就是生物不仅仅是制药，还有很多实验室，包括实验室的基础研究基础架构、实验室的设备自动化设施，以及数据采集，这是一整套，这个链条上面的都会受益，而且这个受益速度会非常快。接下来那制药可能还是最后的，因为制药还有 FDA 在那，还有大药厂在那比较慢，但是前面的东西会推得比较快。而且这个是我比较看好第一个方向，在这个里面我近期也会做研究报告出来，可能 AI for Science、AI for BIO。 ### 机器人、存储与光通信 然后第二个，就是在这个里面我并不会觉得 Robotic 会非常快，因为这个里面一个是使用场景，第二个是数据。但是 Robotic 我还是蛮看好，就是 Elon Musk 的这个方向。因为用他做车的方式来，我先量产一部分不怎么样的东西出来，它在路上跑着了，然后我就有数据了，真实数据，就是他量产一部分。为什么 Optimus 有点耽误？一个是材料，有一些东西很难做，就是它没法定制，甚至螺丝那种东西；然后另外一个，我看到前天还说内存条内存都要砍掉，内存太贵了，太控制成本。 内存太贵了，所以现在真的车……所以这是现在我觉得存储的一个 Concern，就是这个问题。就是前段时间其实就是 FCC 的这个 Covered List，这个 Issue 出来以后，我就说我感觉美国的光会在一段时间内比存储要更强。原因很简单，光占到客户的预算的比例是远低于存储的比例，所以说光你翻一倍，你就价格涨一倍，其实对客户来说问题也不大。而且现在其实市场风格来说，就是你说的我们要多谈点投资，从市场风格来说，现在美国十年期国债收益率在 5.2、5.3 的状态下，其实市场的流动性它没有那么好。没有那么好的情况下，就意味着市场不太愿意去炒这种大盘股，你像存储的很多股票动不动就是万亿美元，但是光通信的股票，你像 LITE 最大的也就才千亿美元，所以这样的话市场我觉得在这个状态下光可能会比存走得更强一些。尤其是 Morgan Stanley 又发了个报告，又说 FCC 的可能的一些政策的一些 Move，又可能是对他们有利好的，包括所谓的它的组件的 65% 要来自于美国厂家的产品等等这些。所以总的来说我是觉得确实，存现在确实对下游应用来说造成了一个很大的困扰，所以大家都要想办法去绕。马斯克只是一个最新的动向，其实之前已经有很多了，硬件涨价什么设备涨价，都是靠内存推上去的。 我就刚才再顺着说回来，说他的 Optimus 机器人，所以我比较看好它真实的量产。如果它能量产，那它就能大规模采集数据，那你说的硅基递归就开始了，哈哈哈。 ### SpaceX、Tesla 与太空经济 说到机器人和 Tesla，其实我还有一个诛心的想法，反正我们今天也已经讲得比较抽象了，我就索性再抽象一点。这个完全我没有任何 Insider Information，然后我讲的跟 ARK 和 Cathie 也没关系。我就是说很多人跟我说 Tesla 挺好的，FSD 很好，我就跟他们讲了我有一个担心。首先我们要看一个问题，就是说非常大概率在未来的一到两年内，我们会看到 SpaceX 会提出吸收合并 Tesla。但是问题就来了，SpaceX 它也缺钱，所以肯定不可能现金收购，一定是股份一定是换股。那既然是换股，那么问题又来了，就是 SpaceX 现在跟美国军方结合得越来越紧了。结合得越来越紧以后，那特别是马斯克现在又是——赫格塞思战争部长又说美军下一代的武器换代计划研究，马斯克做组长，他来领衔研究，那 SpaceX 跟美国军方更紧了。吸收合并了以后，那我觉得非常有可能 Tesla 这个上海工厂是被迫要卖掉的，就它的中国业务是被迫要卖掉的。 之前有传言传过了。 对对，虽然马斯克否认了，但是我觉得这个 Rumor 是很 Make Sense 的，很符合逻辑的。那从另外一个角度来说，既然这个 Elon 是有可能是要去吸收合并 Tesla，那为什么 Tesla 这个时候要涨呢？你是 Elon 的话，你希望 Tesla 涨还是跌呢？你既然要换股的话。所以我会觉得，他为什么要加快擎天柱的生产呢？包括 FSD 的进展，这个有点诛心。反正今天我们也脑洞大开一下，这个不代表投资意见。 对对对。 合并它到底是能涨能跌，我们都不清楚，所以我个人现在对 Tesla 我还是比较谨慎的，我主要是出于这个考虑。 OK OK，没问题，没问题，这个凭个人爱好，Tesla 就属于爱好股。 但是 SpaceX 我觉得这个肯定是个基石，就是所有的你的机构——我不是说个人，个人可能你能找到很多比 SpaceX 的可能性价比更高的这种公司，而且我也是很早期投的 SpaceX，我屁股在这所以我可能也有 Bias。 我们也是一样的，我们主力基金就是这个。 但是我想说可能对于很多 Long Only 的机构和养老金来说，可能 SpaceX 是必须配的一个股票，因为这个确实代表人类未来。尤其是最近这次发射，星舰的 26 颗 V3 的入轨，这基本上我算了一下，50 吨载荷可能仅次于土星五号，那次发射应该是人类历史上载荷第二大的发射，这个非常了不起，非常了不得。所以你看这次发射以后马上就开始涨，所以我是觉得 SpaceX 是机构必须配的一个股票。 正好这个也回到了前面讲的那个图景，2077 图景。我觉得我们下一代或我们未来二三十年，大家都问 10 年到 20 年，我觉得 10 年我都预测不清楚，但是我觉得往太空走是必然的。这个是两条路，要不你往 Metaverse 走，要往太空走。因为你只有往太空走你才能够有……所有的东西我们都是要创造新的，就是说我们不能够总是分配旧的资源，就是我们只有这么多的生产力，我们必须得创造新东西，我们的市场才会变大。这是最重要，这是第一个逻辑。你在地球上面玩 Metaverse，你创造不了新东西，所以你必须往外面走。而且第二个，我们发现 Agent 硅基智能，你说的我们的大话题，我们的递归硅基智能它的效率太高了，它现在只是复制软件，回到它自己复制硬件的时候，你根本感知不到它的速度有多快。所以它需要吃资源的，比我们这种慢慢的碳基人类要快太多了，所以它必须在地球轨道上面开始建立能源点，然后再往月球再往其他地方去走。我觉得这个至少，我觉得从 SpaceX 的规划就是这样子，先是地球轨道，然后再是月球基地，然后配合美国政府一块。 所以你看我对 SpaceX 的这个预计，基本上就是分几个跳板：先是地球的这个近地轨道，要有太空港、太空城；然后再就是月球基地；然后接下来火星基地；最后是小行星带前哨站。 所以你这个科幻片了。 所以有可能，其实我以前一直是设想，其实马斯克是个很聪明的人，他在利用中美之间的这种大国博弈和大国竞争，然后他可能以后成为第三极，这是有可能。 而且你会看到，你说没有美国，那马斯克也早就倒闭了，但如果没有中国的上海工厂、上海政府的帮助，他也倒闭了，他也倒闭了。所以说马斯克非常聪明地利用了中美两国的资源来发展壮大自己，我觉得他是这样的一个路线。 我刚才说回来，我们说的最后一个目标，我觉得什么 AI 之后驱动什么，我觉得我们大家可能会觉得太空很遥远，真的，我觉得太空一点都不遥远，它就在我们身边。而且作为投资人，我肯定是要往这边来看的，因为太空它会决定我们现在很多的算力往上移。算力是往上移的，然后再做实验，因为在地球上再去建数据中心政治压力太大了。 政治压力太大了，太大了，对对对。 然后这是第一个算力。然后第二个我觉得是全球的通讯和防御系统，或者说是一些包括一些新的一些 Lab、新的实验室都会建在太空上面去，这个 Wet Lab 也会在太空上建。然后大家说旅游经济，我觉得还太小了，还比较早。 那太小了，那太小了。 然后而且以后发射什么之类的，可能都不从地面发射了，直接从太空港发射了，所消耗的能量、能源和成本也会降很多，会低很多。所以说太空上面采矿，或者从月球上面也行，在月球上设想的发射方法也是蛮好的，但这个是比较久之后了。所以我觉得通过太空来推动我们现在的，离我们最近的就是算力，而且这个东西我觉得可以实施的。在只有 SpaceX 这一家，当然 Google 已经发上去了，他把他的芯片已经发上去了，然后再往后面的太空上面的这种各种便利了之后，各种实验室就开展了。 我觉得最核心的还是太空确实能找到钱，它有那么多的矿产资源和稀有金属。也就是说其实我一直在讲，你看 600 年前大航海时代，为什么大航海在经济上可行？原因是真的能找到黄金和香料，能赚钱。因为你要想一个问题，大航海时代难道大家的目标是为了秀航海技术吗？不是的，是为了找钱找财富。那同样的太空探索，我们也要找这个财富在哪里。那事实证明，确实这个太阳系包括月球上是有财富的，那大家就愿意去；否则的话你要是说没有东西没有资源，那上太空是没有意义的。但是现在明显有资源、有钱赚，那只要有钱赚，那这个 DCF 的远期估值就可以给到你，你就可以来融资，你就可以来做这件事，那这件事就有得做。所以我是觉得，这个太空经济就能赚起来的核心的原因，是太空真的是有钱赚的。 你这个话题我们其实已经在我们的一期基金里面投资了一些太空经济的，比如说有一些我名字我就不说了，就是关于太空上面各种基建设施的，太空基建的、轨道上障碍清理的、定位的…… 哈哈哈，对对对。 然后上面有这类似的，就我们有一些布局。我觉得作为一级市场基金来说是比较合适的是不是？因为二级市场太空的不多，只有卫星，因为早期的。但是我觉得后面的很多公司都会上市，通过 IPO。比如说我未来两年三年之后，随着 SpaceX 进一步壮大，这个市场会翻过来，会翻过来。除了 Biotech 会变大，然后新的 AI 还有新的 Space Economy 的公司，然后以它来推动的新的制造出现，包括我们现在做的，包括像 SpaceX 想做的 Terafab，它带来整个生产链，或者机器人带来的整个生产链，这都是全新的东西。这个就是新世界的投资，我们可能会在一级市场里面做一些布局，包括 Defense 国防，这应该是巨大的新方向。 对对，现在去布局，这个应该是对的，我觉得。因为现在 AI 这个模型这个东西，包括 Agent 这个产业这个赛道，现在一级你已经没办法投了吧？ 没办法投了，已经都太贵了。 太贵了，要不就泡沫。其实早期泡沫太大了，然后后期就那么几家，你投了等他们上市买他们股票就好了。 我看现在我其实也看了几个湾区的 Deck，我感觉一上来就是准备卖的。所以最后我发现，这个创始人的向上社交能力和圈层也很重要，一上来创业的时候融资的时候，就想好了要卖给谁，然后为什么你能卖给他，现在都是这个逻辑了。我觉得这个已经有点偏离当初的…… 所以我是觉得从意识上角度来说，AI 这个赛道可能越来越不友好，但是你看其他的就很好，我们刚刚说的那些。正好我就相当于……因为你说那些东西其实很多人还不明白，所以你现在还是有很好的机会的，再过个两三年就不一定了。所以要找，就跟大家都问我，放到 2023 年 4 月份、5 月份的时候，我们应该投什么？哈哈哈，投 Anthropic，Anthropic 是什么公司，哈哈哈。 ### 总结与投资展望 这个是在我们把这个时间拉回来，就大概是这样子。我觉得我们今天就算是我做了一个总结，最后我们把它掰回到投资上面。我们今天聊得还是比较抽象的，我们前面从《The God Test》这本书开始聊起，我们聊到了这个 AI 相当于是在帮我们加速进化，帮我们来做这种自然选择，如果它成为神会是什么样子。我们聊了一些 AI 的模型、AI 层面的一些道德问题，然后这个刚才讲的 Anthropic 很多故事。然后还有一些我们到底是加速呢还是减速呢？这样好不好？它会如何影响我们经济和政治，以及 AI 会如何影响我们的社会行为，还有我们——影响人类的决策，以及它会如何在另外一个层面上形成超级智能，它怎么出现的。我觉得不会有一家模型公司成为超级智能的，但是这些模型联网的时候……所以说我觉得现在 Intelligent 更像是一个 Protocol，像一个协议，这是我的一个看法。 然后最后我们就聊到了一些市场和投资。然后郑迪挺不错的，给我们总结了一个我们叫投资递归硅基的东西，这是我最重要的一个——今天的我们所有的这个节目的 Know-how，到最后就是递归硅基，顺着这个方向走。除了递归硅基之外，还有一个就是说碳基，就是在帮我们来解决生物，不要太长寿，健康就够了。还有第三个，让碳基生物变得快乐都可以，哈哈。 这是巨大的需求，这是巨大的。 现在还没看到太多。 OK，那新技术还在路上。 还在路上。我们欢迎你，我们下次再找机会聊。我们 Random 的，我们随时会开节目。 好的随时，好的谢谢。