--- author: Best Partners TV date: '2026-11-13' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=88vhuI9i0V8 speaker: Best Partners TV tags: - artificial-intelligence - ai-safety - utilitarianism - effective-altruism title: 达利奥·阿莫代伊：从功利主义少年到Anthropic掌门人 summary: 讲述Anthropic创始人达利奥·阿莫代伊的成长轨迹与思想演变，包括其功利主义倾向、亲人离世与患癌经历、在OpenAI的争端以及由亲友圈创立Anthropic并主导AI安全路线的历程。 insight: '' draft: true series: '' category: ai-application area: tech-engineering project: [] people: - Dario Amodei companies_orgs: - Anthropic - OpenAI products_models: - Claude - GPT media_books: - The Singularity Is Near status: evergreen --- 大家好，这里是最佳拍档，我是大飞。 ### 寿司店里的思想推演与走向聚光灯 2001年，旧金山的一家寿司店里，几个二十出头的年轻人正吃饭。其中一个叫达利奥·阿莫代伊（Dario Amodei）的小伙子，平日里标榜吃素，这一天他却心安理得地大口吃着螃蟹。朋友问他为什么，他说螃蟹是无脊椎动物，算不上有多少痛觉。 旁边的朋友科林·赫克曼（Colin Heckman）不太买账，又抛出一个更狠的问题：如果有个疯子在拼命杀鸡，杀到多少只鸡的时候，把这个人杀掉才算合理呢？ 达利奥笑了笑，无比认真地给出了答案：从功利主义的角度看，总有某个数量的鸡，加起来的分量会超过一条人命。 二十五年之后，当年那个在寿司店里算鸡命的年轻人，成了Anthropic的创始人兼CEO。这家公司正在筹备一笔可能是全球最大规模的IPO，他本人也成了硅谷最具争议的AI巨头之一。有人叫他“末日论者”，说他靠制造恐慌给自己的公司谋利；也有人说他是少数真正认真对待AI安全问题的技术人。黄仁勋公开炮轰他散播AI末日恐慌，Meta的马克·扎克伯格也批评他想在AI领域搞权力集中。 但有意思的是，2026年9月12日，他发表了一篇万字长文，呼吁整个行业放慢前沿AI研发速度。埃隆·马斯克直接转发了这篇文章，只留了几个字：**达利奥是对的（Dario is right）**。 那我们今天就来聊一聊，这个在寿司店里算计鸡命的少年，是怎么一步步走到Anthropic CEO这个位置的。他的人生轨迹又是怎么塑造了他今天那套极端的AI态度？为何他既要造最强的AI，又喊着要踩刹车？既说要替全人类把关，又只信自己人能握方向盘？ ### 紧绷的天才少年与无法释怀的心结 达利奥·阿莫代伊在旧金山的Mission区长大。父亲里卡多（Riccardo）是个皮匠，母亲埃琳娜·恩格尔（Elena Engel）负责管理公共图书馆的翻修工程。1991年父母分开的时候，他才9岁。父母离异的事并没有在他身上留下太多笔墨，他的成长故事里，更引人注目的是那从小就绷得很紧的神经。 八年级在Lawton Alternative School读书时，达利奥就与众不同了。那年学校评选“最有可能在未来取得成功的学生”，他和另一个同学一起获选，年鉴里还拍了两人拿着美元钞票的合影。 后来他进了旧金山顶尖的公立高中Lowell High School，数学和科学天赋愈发明显。课余时间，他直接跑去加州大学伯克利分校修大学课程。但老师们记住他，不只是因为成绩好。物理老师理查德·夏皮罗（Richard Shapiro）回忆，达利奥经常因为考试焦虑，即使最后考得不错，他也总觉得自己没发挥到最好。夏皮罗不得不一遍遍提醒他：达利奥，放轻松！他的高中死党科林·赫克曼也说，达利奥整天像上满了发条一样紧绷，同学实在看不下去，专门打印了一张“Dario，lighten up!”的标语贴在教室里。 2001年，达利奥进入加州理工学院，后来转到斯坦福，最终前往普林斯顿攻读博士。他原本打算做理论物理学家，研究宇宙如何运行。但有一点始终没变：他很难对已经取得的成绩感到彻底满意。 放到今天，这种性格倒是挺有意思的。Claude已经成为全球最重要的AI产品之一，Anthropic也拥有惊人的资本资源和产业影响力，可达利奥依然在不断寻找下一个可能出问题的地方，仿佛不管拿到怎样的成绩单，他总会首先想：万一哪里算错了呢？ 高中时期，达利奥就迷上了功利主义，整天琢磨怎么用数学算出“让最多的生命得到最多的幸福”。原本这只是天才少年脑子里的算术推演，直到2006年，真正的生离死别落在了他头上。 那一年，达利奥刚从斯坦福物理系毕业，进了普林斯顿生物物理博士项目，父亲却因为丙肝引发的肝病不幸离世。这是让达利奥一辈子解不开的心结。那个年代，医生主要靠干扰素和利巴韦林治疗丙肝，治愈率只有40%到50%，副作用还很明显。但仅仅几年之后，治愈率高达95%的丙肝特效药就问世了。父亲就倒在黎明前那短短几年的时间差里。 达利奥的前女友Jade Wang回忆，那段时间达利奥常跟她复盘这件事。他说，一辈子只研究一种疾病的科学家太慢了，真正能改变命运的，是给整个科学界造加速工具的人。他每次举的例子都是他父亲：只要研发工具能把新药问世提前几年，父亲根本不必死。 ### 奇点信仰与圈子聚集 带着“造出终极工具”的强烈执念，2007年，24岁的达利奥读完了未来学家雷·库兹韦尔（Ray Kurzweil）的《奇点临近》（The Singularity Is Near）一书。库兹韦尔在这本书里提出，随着计算能力的不断增长，机器最终可能超越人类智能，这个转折点就叫“技术奇点”。 高中死党赫克曼去普林斯顿看他的时候，被眼前的一幕震住了：达利奥一边用手指不停地卷着头发，一边两眼放光、语速飞快地宣告，技术奇点一定会在2040年之前到来，人类终将与机器融合，变成某种新的混合智能。赫克曼说，达利奥从那一刻起“着了魔”。他终于找到了那个能改写生死的终极武器——AI。 但是他也无比恐惧，认定AI必须由对的人亲手造对，否则全人类都会万劫不复。 迷上奇点论的达利奥，很快扎进了当时正在硅谷兴起的两个极客圈子：理性主义（rationalism）和有效利他主义（effective altruism）。 理性主义的代表人物是自学成才的AI研究员伊莱泽·尤德考斯基（Eliezer Yudkowsky），他写了大量文章论证AI如果失控将有能力毁灭整个社会。达利奥成了尤德考斯基的忠实读者，泡在他的博客《Overcoming Bias》里，还在2008年的私人邮件里拼命鼓动朋友和妹妹丹妮拉去参加奇点峰会。那年他还在邮件里称尤德考斯基是“我见过的最深邃的思想家之一”。但是有意思的是，尤德考斯基现在已经不向达利奥征求或采纳建议了，他对纽约时报说：“我不记得他曾经这样做过”。 几乎同一时期，达利奥又成了有效利他主义大本营GiveWell论坛的常客。GiveWell是一个慈善评估机构，试图用理性和数据回答一个问题：有限的资源究竟该如何分配，才能创造最大的社会福祉？ 2008年，达利奥通过经济学家泰勒·考恩（Tyler Cowen）的博客接触到GiveWell，很快成了积极参与者。2010年他在博客里写道，自己正在考虑进入金融行业，这样能赚到更多的钱用来做慈善。 2010年，他在GiveWell的博客上发了一篇文章，认真解释自己怎么花掉10000美元捐款。候选项目有两个： - 一个是治疗成人结核病的Stop TB Partnership - 另一个是帮助非洲村落儿童接种疫苗的VillageReach 为了分出高下，他算了一笔账。GiveWell当时估算，VillageReach平均花费大约545美元可以避免一名婴儿死亡，Stop TB每避免一人死亡的成本则在150到750美元之间。但达利奥的算计不止于此，他说Stop TB更具成本效益，因为成年人的死亡“也许比一个婴儿的死亡糟糕两到三倍，成年人拥有更深刻的生命体验”。不过最终他还是把钱投给了VillageReach，原因很简单：Stop TB虽然在理论上更省钱，但是项目涉及政府、医疗机构、药物发放和持续治疗等多个环节，很难看清每一笔钱最终产生了什么效果；VillageReach执行得更有效率、把握更大。算到最后，他还是选了确定性更高的那个。 达利奥不仅自己深陷这两套圈子，还把身边最亲近的人全部拉进了同一张网里。正是通过GiveWell，从小就想和哥哥“一起拯救世界”的妹妹丹妮拉，结识了GiveWell的联合创始人霍顿·卡诺夫斯基（Holden Karnofsky），后来成了夫妻。 2011年，达利奥回到斯坦福做癌症研究博士后，直接搬进了妹妹与妹夫在旧金山租下的一栋合租屋。在这栋房子里，达利奥又聚拢了两位核心室友：一位是大学辍学后由他亲自辅导数学的少年天才克里斯托弗·奥拉（Christopher Olah），另一位是理论物理学家杰里德·卡普兰（Jared Kaplan）。为了把沉迷物理的室友卡普兰拉上同一条战船，达利奥一遍又一遍地把早期AI模型的结果摆到他面前，一步步说服这位物理学家放下物理、投身AI。 根据朋友回忆，达利奥和室友们白天在客厅里围绕AI末日推演吵得面红耳赤，一到假期就换上滑稽的动物玩偶服跑去火人节狂欢。2017年妹妹丹妮拉与卡诺夫斯基结婚时，这栋房子里走出的朋友圈更是彻底放飞：如今掌握全球最前沿AI研发方向的Anthropic CEO在婚礼上的形象是一只熊猫，研究Claude神经网络内部结构、试图探索机器意识的奥拉则是一只长颈鹿。婚礼的接待礼服要求是“silly formal”，也就是正经但要搞笑。 没人能想到，后来创办Anthropic的7位联合创始人里，达利奥、丹妮拉、卡普兰和奥拉整整4个人，都是从这同一栋合租屋里走出来的。一个以达利奥为核心，靠血缘、婚姻与救世信仰绑在一起的朋友圈子，在这栋房子里正式成型。 ### 癌症磨难与转向AI安全 在斯坦福做癌症博后的那几年，父亲死于“特效药时间差”的阴影，让达利奥对时间的焦虑到了极点。为了跟死神抢时间，他大把吞服抗衰老补剂，雷打不动地坚持游泳，甚至拿自己的身体试验严苛的节食延寿方案。他时常对着好友内森·埃弗里（Nathan Avery）说，时间是唯一不可再生的资源，因此要对自己手里的每一分钟都“毫不留情”。 可就在他拼命跟时间赛跑的2014年，死神还是找上了门。年仅31岁的达利奥，被确诊患上睾丸癌。历经痛苦的化疗后，他奇迹般地完全康复，从鬼门关前闯了回来。 父亲倒在特效药问世前夕，自己又在31岁与死神擦肩而过，两场生死大劫把达利奥最后那点耐心也磨没了。传统的生物实验太慢了，他一秒钟都等不起了，必须立刻转向那个能颠覆一切的领域。 2014年底，刚刚康复的达利奥毅然告别生物界，加入百度硅谷AI实验室。当时执掌实验室的是吴恩达（Andrew Ng）。同事们记得，他像不要命一样通宵达旦地干活，几乎一有机会就要跟人激烈交锋。研究员格雷戈里·迪亚莫斯（Gregory Diamos）说，达利奥在几乎每一个场合都非常激进地争论。 更有意思的是，那时候连Transformer都还没诞生，更别说ChatGPT了，硅谷对AI的主流想象还是让机器听懂人话、识别图片，而不是创造什么拥有自主意识的超级智能。但达利奥已经开始担心世界末日了。2015年前后，他就开始向同事警告，AI能力可能迅速追上甚至超过人脑，开发者必须认真对待失去控制的可能性。 同年，他转战Google Brain专攻AI安全，拉着合租屋室友奥拉等人，写下了领域的奠基论文《AI安全中的具体问题》（Concrete Problems in A.I. Safety）。这篇论文讨论了5类具体问题，包括奖励作弊、负面副作用、安全探索和分布偏移等。它也解释了达利奥此后十年的基本思路：AI风险未必等机器有了邪恶意图才会出现；当它足够强大时，一个看似无害的目标都可能产生危险后果。 ### OpenAI内部的路线冲突与出走 2016年，达利奥加入了当时还是非营利组织的OpenAI，一手统管安全团队与Scaling Laws团队。根据前同事回忆，随着大模型算力狂飙，达利奥在OpenAI内部的姿态变得越来越强硬。他认定AI失控的风险迫在眉睫，并走出了一条看似矛盾却贯穿至今的技术路线：先把AI一路推向能力极限，再由他用安全技术去检验和驯服。 这听起来很有意思对吧？一边拼命造更强的AI，一边又说这东西太危险了只有我能把关。达利奥后来把这条思路叫做“推到极限再测试”（push it to the limit and then test it）。 为了把方向盘牢牢攥在自己手里，达利奥开始在OpenAI内部步步为营，培植属于自己的亲友班底。 2016年11月，特朗普当选总统。达利奥在OpenAI的内部消息群发了一条消息，说担心美国滑向威权，说“在一个威权国家里从事有军事潜力的技术研究，我感到很不安”。他还提到投资OpenAI的彼得·蒂尔（Peter Thiel）给特朗普竞选捐了125万美元，说蒂尔“道德上应该受到谴责”，OpenAI不应该再接受他的钱。但颇具讽刺意味的是，后来蒂尔创办的Founders Fund反而成了Anthropic的投资人。 2017年，达利奥居中牵线，让妹夫卡诺夫斯基执掌的慈善机构向OpenAI捐了3000万美元并进入董事会，他自己则兼任该机构的技术顾问。同年，妹妹丹妮拉也进了OpenAI，后来一路升任安全与政策副总裁。兄妹俩与董事会里的妹夫互为呼应，越来越大的权势让不少员工感到不安。 2018年12月，一场争夺AI最高监督权的冲突在会议室里正面引爆。研究员约书亚·阿基安（Joshua Achiam）专门找到萨姆·奥特曼（Sam Altman），表达了一个微妙的担忧：不应该让达利奥担任公司的首席伦理官。阿基安认为，伦理监督应该由不同立场的人共同参与，甚至最好引入公司外部的专家，避免研究负责人既制定规则又负责判断自己是否遵守规则。 话音刚落，平时标榜绝对理性的达利奥当场失控暴怒，在会议室里拔高嗓门怼了回去，怒吼道：“全世界没有第二个人比我更适合坐这个位置！” 接手最核心的GPT项目后，达利奥更是把这种“非我莫属”的排他掌控欲推到了顶点。他和妹妹一起开始探索一种让AI按照人类指令执行任务的安全技术路线，但是OpenAI的总裁兼联合创始人格雷格·布罗克曼（Greg Brockman）想要插手GPT的研发，被他和妹妹联手挡在了门外。达利奥甚至多次闯进奥特曼办公室当面逼宫，抛出一道最后通牒，说如果不把布罗克曼踢出GPT项目，我现在就走人！ 奥特曼果断拒绝了他的要求。对奥特曼来说，这种最后通牒走得太远了。 2020年12月，眼看GPT-3引爆全球、算力规模逼近临界点，夺权未果的达利奥直接掀了桌子，带着妹妹、昔日合租屋室友与一帮核心干将集体出走。短短4周后，他就另立山头创立了Anthropic。正如他后来在播客里毫不掩饰地说的：去跟别人的愿景争辩毫无意义，真正该做的是带上你完全信任的一群人离开，去亲手实现自己的愿景。 ### 创立Anthropic与亲友圈的掌控 Anthropic这个名字也挺有意思，它的英文Anthropic翻译成中文可以理解为“人类的”。在达利奥的叙事里，这家公司的定位是用技术守护人类文明的守门人。 2025年，妹夫卡诺夫斯基也正式入局，参与制定负责管理先进AI风险的Responsible Scaling Policy，直接向首席科学官卡普兰汇报。于是早年一起讨论AI末日、合租公寓、参加火人节的朋友，后来真的掌握了全球最重要的AI实验室之一。 但如果只看Anthropic如今的形象，很容易以为这家公司是由一群整天板着脸、讨论人类灭绝的科学家创办的。可翻开它早期核心团队的私人历史，画风其实相当离谱：熊猫、长颈鹿、动物玩偶服、火人节，这些人在十年前的人生重要场合完全是一副放飞自我的样子。 从OpenAI出走后，达利奥表面上一直在与早年的极客圈子划清界限。2023年，他在纽约时报的Hard Fork播客上说，他不认为自己是一个有效利他主义者，他只是“同情其中一些想法，但反对把人分成不同部落”。可讽刺的是，他在现实中一手打造出的Anthropic，恰恰是硅谷最密不透风的亲友部落：兄妹、妹夫、合租室友、学术弟子，核心圈子里全是他绝对信任的人。 达利奥的妻子卡米·克拉克（Cami Clark）也是一个不能不提的人物。2026年8月，华尔街日报专门报道了这位低调的“Anthropic第一夫人”，标题颇有意思：《连Claude都不太清楚自己老板的妻子是谁》。克拉克没有在Anthropic担任正式职位，却经常陪同达利奥出席达沃斯、太阳谷峰会等重要活动，还充当他的私人顾问和人脉联系人。 其中最关键的关系，是Google前CEO埃里克·施密特（Eric Schmidt）。根据报道，克拉克曾经与施密特交往，后来将他介绍给达利奥，并且帮助促成施密特投资Anthropic。2021年，施密特成为公司首轮1.24亿美元融资的投资者之一。更有意思的是，华尔街日报还披露，克拉克曾向施密特提出过一项名为“Mother of AGI Fund”的投资计划，甚至准备了40页提案，希望整合自己的人脉、施密特的资本和Anthropic的商业机会。这项计划最终没能成行，反对者中就包括Anthropic另一位联合创始人，也就是达利奥的亲妹妹丹妮拉。 ### 执掌方向盘的决定与审视 外界对达利奥的评价始终充满争议。有人说他是“嘴上句句都是人类文明、AI伦理的牌坊，算盘打得从来都是生意”，连黄仁勋也公开炮轰他在散播AI末日恐慌。 但是也有人注意到一个有意思的悖论：2026年9月12日，达利奥发表《我们必须掌控前沿的节奏》（We Must Pace the Frontier）一文，呼吁整个行业放慢前沿AI研发速度。马斯克随即转发了这篇文章，只说了一句：**Dario is right**。 达利奥的这篇万字长文，依然以父亲离世与自己抗癌的经历开篇。他在文中说：“只有以正确的方式构建技术，我们才能获得AI带来的收益。而且，只要我们好好利用赢得的时间，花格外谨慎的精力把事情做对是值得的。” 从旧金山寿司店里算计人命的少年，到两次从死神手里抢时间的抗癌狂人，再到逼宫奥特曼自立门户的AI巨头掌门，达利奥用二十多年走完了一条路。在这场通往超级智能的狂飙里，他从不相信任何人，也绝不把方向盘让给任何人。全人类的命运，只能由他亲手执掌。 看到这里，我们不禁想问：当一个人的世界观是由两次与死神擦肩而过的经历、一套极端的功利主义算法，以及一群他从十八岁起就紧密绑定的亲友共同塑造的，这个人如果真的手握了通往超级智能的方向盘，他会替我们做出什么样的决定呢？ 相信大家都会有自己的判断。感谢收看，我们下期再见。