达利奥·阿莫代伊:从功利主义少年到Anthropic掌门人 Best Partners TV 2026-11-13

达利奥·阿莫代伊:从功利主义少年到Anthropic掌门人

7 节

大家好,这里是最佳拍档,我是大飞。

寿司店里的思想推演与走向聚光灯

2001年,旧金山的一家寿司店里,几个二十出头的年轻人正吃饭。其中一个叫达利奥·阿莫代伊(Dario Amodei)的小伙子,平日里标榜吃素,这一天他却心安理得地大口吃着螃蟹。朋友问他为什么,他说螃蟹是无脊椎动物,算不上有多少痛觉。

旁边的朋友科林·赫克曼(Colin Heckman)不太买账,又抛出一个更狠的问题:如果有个疯子在拼命杀鸡,杀到多少只鸡的时候,把这个人杀掉才算合理呢?

达利奥笑了笑,无比认真地给出了答案:从功利主义的角度看,总有某个数量的鸡,加起来的分量会超过一条人命。

二十五年之后,当年那个在寿司店里算鸡命的年轻人,成了Anthropic的创始人兼CEO。这家公司正在筹备一笔可能是全球最大规模的IPO,他本人也成了硅谷最具争议的AI巨头之一。有人叫他“末日论者”,说他靠制造恐慌给自己的公司谋利;也有人说他是少数真正认真对待AI安全问题的技术人。黄仁勋公开炮轰他散播AI末日恐慌,Meta的马克·扎克伯格也批评他想在AI领域搞权力集中。

但有意思的是,2026年9月12日,他发表了一篇万字长文,呼吁整个行业放慢前沿AI研发速度。埃隆·马斯克直接转发了这篇文章,只留了几个字:达利奥是对的(Dario is right)。

那我们今天就来聊一聊,这个在寿司店里算计鸡命的少年,是怎么一步步走到Anthropic CEO这个位置的。他的人生轨迹又是怎么塑造了他今天那套极端的AI态度?为何他既要造最强的AI,又喊着要踩刹车?既说要替全人类把关,又只信自己人能握方向盘?

紧绷的天才少年与无法释怀的心结

达利奥·阿莫代伊在旧金山的Mission区长大。父亲里卡多(Riccardo)是个皮匠,母亲埃琳娜·恩格尔(Elena Engel)负责管理公共图书馆的翻修工程。1991年父母分开的时候,他才9岁。父母离异的事并没有在他身上留下太多笔墨,他的成长故事里,更引人注目的是那从小就绷得很紧的神经。

八年级在Lawton Alternative School读书时,达利奥就与众不同了。那年学校评选“最有可能在未来取得成功的学生”,他和另一个同学一起获选,年鉴里还拍了两人拿着美元钞票的合影。

后来他进了旧金山顶尖的公立高中Lowell High School,数学和科学天赋愈发明显。课余时间,他直接跑去加州大学伯克利分校修大学课程。但老师们记住他,不只是因为成绩好。物理老师理查德·夏皮罗(Richard Shapiro)回忆,达利奥经常因为考试焦虑,即使最后考得不错,他也总觉得自己没发挥到最好。夏皮罗不得不一遍遍提醒他:达利奥,放轻松!他的高中死党科林·赫克曼也说,达利奥整天像上满了发条一样紧绷,同学实在看不下去,专门打印了一张“Dario,lighten up!”的标语贴在教室里。

2001年,达利奥进入加州理工学院,后来转到斯坦福,最终前往普林斯顿攻读博士。他原本打算做理论物理学家,研究宇宙如何运行。但有一点始终没变:他很难对已经取得的成绩感到彻底满意。

放到今天,这种性格倒是挺有意思的。Claude已经成为全球最重要的AI产品之一,Anthropic也拥有惊人的资本资源和产业影响力,可达利奥依然在不断寻找下一个可能出问题的地方,仿佛不管拿到怎样的成绩单,他总会首先想:万一哪里算错了呢?

高中时期,达利奥就迷上了功利主义,整天琢磨怎么用数学算出“让最多的生命得到最多的幸福”。原本这只是天才少年脑子里的算术推演,直到2006年,真正的生离死别落在了他头上。

那一年,达利奥刚从斯坦福物理系毕业,进了普林斯顿生物物理博士项目,父亲却因为丙肝引发的肝病不幸离世。这是让达利奥一辈子解不开的心结。那个年代,医生主要靠干扰素和利巴韦林治疗丙肝,治愈率只有40%到50%,副作用还很明显。但仅仅几年之后,治愈率高达95%的丙肝特效药就问世了。父亲就倒在黎明前那短短几年的时间差里。

达利奥的前女友Jade Wang回忆,那段时间达利奥常跟她复盘这件事。他说,一辈子只研究一种疾病的科学家太慢了,真正能改变命运的,是给整个科学界造加速工具的人。他每次举的例子都是他父亲:只要研发工具能把新药问世提前几年,父亲根本不必死。

奇点信仰与圈子聚集

带着“造出终极工具”的强烈执念,2007年,24岁的达利奥读完了未来学家雷·库兹韦尔(Ray Kurzweil)的《奇点临近》(The Singularity Is Near)一书。库兹韦尔在这本书里提出,随着计算能力的不断增长,机器最终可能超越人类智能,这个转折点就叫“技术奇点”。

高中死党赫克曼去普林斯顿看他的时候,被眼前的一幕震住了:达利奥一边用手指不停地卷着头发,一边两眼放光、语速飞快地宣告,技术奇点一定会在2040年之前到来,人类终将与机器融合,变成某种新的混合智能。赫克曼说,达利奥从那一刻起“着了魔”。他终于找到了那个能改写生死的终极武器——AI。

但是他也无比恐惧,认定AI必须由对的人亲手造对,否则全人类都会万劫不复。

迷上奇点论的达利奥,很快扎进了当时正在硅谷兴起的两个极客圈子:理性主义(rationalism)和有效利他主义(effective altruism)。

理性主义的代表人物是自学成才的AI研究员伊莱泽·尤德考斯基(Eliezer Yudkowsky),他写了大量文章论证AI如果失控将有能力毁灭整个社会。达利奥成了尤德考斯基的忠实读者,泡在他的博客《Overcoming Bias》里,还在2008年的私人邮件里拼命鼓动朋友和妹妹丹妮拉去参加奇点峰会。那年他还在邮件里称尤德考斯基是“我见过的最深邃的思想家之一”。但是有意思的是,尤德考斯基现在已经不向达利奥征求或采纳建议了,他对纽约时报说:“我不记得他曾经这样做过”。

几乎同一时期,达利奥又成了有效利他主义大本营GiveWell论坛的常客。GiveWell是一个慈善评估机构,试图用理性和数据回答一个问题:有限的资源究竟该如何分配,才能创造最大的社会福祉?

2008年,达利奥通过经济学家泰勒·考恩(Tyler Cowen)的博客接触到GiveWell,很快成了积极参与者。2010年他在博客里写道,自己正在考虑进入金融行业,这样能赚到更多的钱用来做慈善。

2010年,他在GiveWell的博客上发了一篇文章,认真解释自己怎么花掉10000美元捐款。候选项目有两个:

  • 一个是治疗成人结核病的Stop TB Partnership
  • 另一个是帮助非洲村落儿童接种疫苗的VillageReach

为了分出高下,他算了一笔账。GiveWell当时估算,VillageReach平均花费大约545美元可以避免一名婴儿死亡,Stop TB每避免一人死亡的成本则在150到750美元之间。但达利奥的算计不止于此,他说Stop TB更具成本效益,因为成年人的死亡“也许比一个婴儿的死亡糟糕两到三倍,成年人拥有更深刻的生命体验”。不过最终他还是把钱投给了VillageReach,原因很简单:Stop TB虽然在理论上更省钱,但是项目涉及政府、医疗机构、药物发放和持续治疗等多个环节,很难看清每一笔钱最终产生了什么效果;VillageReach执行得更有效率、把握更大。算到最后,他还是选了确定性更高的那个。

达利奥不仅自己深陷这两套圈子,还把身边最亲近的人全部拉进了同一张网里。正是通过GiveWell,从小就想和哥哥“一起拯救世界”的妹妹丹妮拉,结识了GiveWell的联合创始人霍顿·卡诺夫斯基(Holden Karnofsky),后来成了夫妻。

2011年,达利奥回到斯坦福做癌症研究博士后,直接搬进了妹妹与妹夫在旧金山租下的一栋合租屋。在这栋房子里,达利奥又聚拢了两位核心室友:一位是大学辍学后由他亲自辅导数学的少年天才克里斯托弗·奥拉(Christopher Olah),另一位是理论物理学家杰里德·卡普兰(Jared Kaplan)。为了把沉迷物理的室友卡普兰拉上同一条战船,达利奥一遍又一遍地把早期AI模型的结果摆到他面前,一步步说服这位物理学家放下物理、投身AI。

根据朋友回忆,达利奥和室友们白天在客厅里围绕AI末日推演吵得面红耳赤,一到假期就换上滑稽的动物玩偶服跑去火人节狂欢。2017年妹妹丹妮拉与卡诺夫斯基结婚时,这栋房子里走出的朋友圈更是彻底放飞:如今掌握全球最前沿AI研发方向的Anthropic CEO在婚礼上的形象是一只熊猫,研究Claude神经网络内部结构、试图探索机器意识的奥拉则是一只长颈鹿。婚礼的接待礼服要求是“silly formal”,也就是正经但要搞笑。

没人能想到,后来创办Anthropic的7位联合创始人里,达利奥、丹妮拉、卡普兰和奥拉整整4个人,都是从这同一栋合租屋里走出来的。一个以达利奥为核心,靠血缘、婚姻与救世信仰绑在一起的朋友圈子,在这栋房子里正式成型。

癌症磨难与转向AI安全

在斯坦福做癌症博后的那几年,父亲死于“特效药时间差”的阴影,让达利奥对时间的焦虑到了极点。为了跟死神抢时间,他大把吞服抗衰老补剂,雷打不动地坚持游泳,甚至拿自己的身体试验严苛的节食延寿方案。他时常对着好友内森·埃弗里(Nathan Avery)说,时间是唯一不可再生的资源,因此要对自己手里的每一分钟都“毫不留情”。

可就在他拼命跟时间赛跑的2014年,死神还是找上了门。年仅31岁的达利奥,被确诊患上睾丸癌。历经痛苦的化疗后,他奇迹般地完全康复,从鬼门关前闯了回来。

父亲倒在特效药问世前夕,自己又在31岁与死神擦肩而过,两场生死大劫把达利奥最后那点耐心也磨没了。传统的生物实验太慢了,他一秒钟都等不起了,必须立刻转向那个能颠覆一切的领域。

2014年底,刚刚康复的达利奥毅然告别生物界,加入百度硅谷AI实验室。当时执掌实验室的是吴恩达(Andrew Ng)。同事们记得,他像不要命一样通宵达旦地干活,几乎一有机会就要跟人激烈交锋。研究员格雷戈里·迪亚莫斯(Gregory Diamos)说,达利奥在几乎每一个场合都非常激进地争论。

更有意思的是,那时候连Transformer都还没诞生,更别说ChatGPT了,硅谷对AI的主流想象还是让机器听懂人话、识别图片,而不是创造什么拥有自主意识的超级智能。但达利奥已经开始担心世界末日了。2015年前后,他就开始向同事警告,AI能力可能迅速追上甚至超过人脑,开发者必须认真对待失去控制的可能性。

同年,他转战Google Brain专攻AI安全,拉着合租屋室友奥拉等人,写下了领域的奠基论文《AI安全中的具体问题》(Concrete Problems in A.I. Safety)。这篇论文讨论了5类具体问题,包括奖励作弊、负面副作用、安全探索和分布偏移等。它也解释了达利奥此后十年的基本思路:AI风险未必等机器有了邪恶意图才会出现;当它足够强大时,一个看似无害的目标都可能产生危险后果。

OpenAI内部的路线冲突与出走

2016年,达利奥加入了当时还是非营利组织的OpenAI,一手统管安全团队与Scaling Laws团队。根据前同事回忆,随着大模型算力狂飙,达利奥在OpenAI内部的姿态变得越来越强硬。他认定AI失控的风险迫在眉睫,并走出了一条看似矛盾却贯穿至今的技术路线:先把AI一路推向能力极限,再由他用安全技术去检验和驯服。

这听起来很有意思对吧?一边拼命造更强的AI,一边又说这东西太危险了只有我能把关。达利奥后来把这条思路叫做“推到极限再测试”(push it to the limit and then test it)。

为了把方向盘牢牢攥在自己手里,达利奥开始在OpenAI内部步步为营,培植属于自己的亲友班底。

2016年11月,特朗普当选总统。达利奥在OpenAI的内部消息群发了一条消息,说担心美国滑向威权,说“在一个威权国家里从事有军事潜力的技术研究,我感到很不安”。他还提到投资OpenAI的彼得·蒂尔(Peter Thiel)给特朗普竞选捐了125万美元,说蒂尔“道德上应该受到谴责”,OpenAI不应该再接受他的钱。但颇具讽刺意味的是,后来蒂尔创办的Founders Fund反而成了Anthropic的投资人。

2017年,达利奥居中牵线,让妹夫卡诺夫斯基执掌的慈善机构向OpenAI捐了3000万美元并进入董事会,他自己则兼任该机构的技术顾问。同年,妹妹丹妮拉也进了OpenAI,后来一路升任安全与政策副总裁。兄妹俩与董事会里的妹夫互为呼应,越来越大的权势让不少员工感到不安。

2018年12月,一场争夺AI最高监督权的冲突在会议室里正面引爆。研究员约书亚·阿基安(Joshua Achiam)专门找到萨姆·奥特曼(Sam Altman),表达了一个微妙的担忧:不应该让达利奥担任公司的首席伦理官。阿基安认为,伦理监督应该由不同立场的人共同参与,甚至最好引入公司外部的专家,避免研究负责人既制定规则又负责判断自己是否遵守规则。

话音刚落,平时标榜绝对理性的达利奥当场失控暴怒,在会议室里拔高嗓门怼了回去,怒吼道:“全世界没有第二个人比我更适合坐这个位置!”

接手最核心的GPT项目后,达利奥更是把这种“非我莫属”的排他掌控欲推到了顶点。他和妹妹一起开始探索一种让AI按照人类指令执行任务的安全技术路线,但是OpenAI的总裁兼联合创始人格雷格·布罗克曼(Greg Brockman)想要插手GPT的研发,被他和妹妹联手挡在了门外。达利奥甚至多次闯进奥特曼办公室当面逼宫,抛出一道最后通牒,说如果不把布罗克曼踢出GPT项目,我现在就走人!

奥特曼果断拒绝了他的要求。对奥特曼来说,这种最后通牒走得太远了。

2020年12月,眼看GPT-3引爆全球、算力规模逼近临界点,夺权未果的达利奥直接掀了桌子,带着妹妹、昔日合租屋室友与一帮核心干将集体出走。短短4周后,他就另立山头创立了Anthropic。正如他后来在播客里毫不掩饰地说的:去跟别人的愿景争辩毫无意义,真正该做的是带上你完全信任的一群人离开,去亲手实现自己的愿景。

创立Anthropic与亲友圈的掌控

Anthropic这个名字也挺有意思,它的英文Anthropic翻译成中文可以理解为“人类的”。在达利奥的叙事里,这家公司的定位是用技术守护人类文明的守门人。

2025年,妹夫卡诺夫斯基也正式入局,参与制定负责管理先进AI风险的Responsible Scaling Policy,直接向首席科学官卡普兰汇报。于是早年一起讨论AI末日、合租公寓、参加火人节的朋友,后来真的掌握了全球最重要的AI实验室之一。

但如果只看Anthropic如今的形象,很容易以为这家公司是由一群整天板着脸、讨论人类灭绝的科学家创办的。可翻开它早期核心团队的私人历史,画风其实相当离谱:熊猫、长颈鹿、动物玩偶服、火人节,这些人在十年前的人生重要场合完全是一副放飞自我的样子。

从OpenAI出走后,达利奥表面上一直在与早年的极客圈子划清界限。2023年,他在纽约时报的Hard Fork播客上说,他不认为自己是一个有效利他主义者,他只是“同情其中一些想法,但反对把人分成不同部落”。可讽刺的是,他在现实中一手打造出的Anthropic,恰恰是硅谷最密不透风的亲友部落:兄妹、妹夫、合租室友、学术弟子,核心圈子里全是他绝对信任的人。

达利奥的妻子卡米·克拉克(Cami Clark)也是一个不能不提的人物。2026年8月,华尔街日报专门报道了这位低调的“Anthropic第一夫人”,标题颇有意思:《连Claude都不太清楚自己老板的妻子是谁》。克拉克没有在Anthropic担任正式职位,却经常陪同达利奥出席达沃斯、太阳谷峰会等重要活动,还充当他的私人顾问和人脉联系人。

其中最关键的关系,是Google前CEO埃里克·施密特(Eric Schmidt)。根据报道,克拉克曾经与施密特交往,后来将他介绍给达利奥,并且帮助促成施密特投资Anthropic。2021年,施密特成为公司首轮1.24亿美元融资的投资者之一。更有意思的是,华尔街日报还披露,克拉克曾向施密特提出过一项名为“Mother of AGI Fund”的投资计划,甚至准备了40页提案,希望整合自己的人脉、施密特的资本和Anthropic的商业机会。这项计划最终没能成行,反对者中就包括Anthropic另一位联合创始人,也就是达利奥的亲妹妹丹妮拉。

执掌方向盘的决定与审视

外界对达利奥的评价始终充满争议。有人说他是“嘴上句句都是人类文明、AI伦理的牌坊,算盘打得从来都是生意”,连黄仁勋也公开炮轰他在散播AI末日恐慌。

但是也有人注意到一个有意思的悖论:2026年9月12日,达利奥发表《我们必须掌控前沿的节奏》(We Must Pace the Frontier)一文,呼吁整个行业放慢前沿AI研发速度。马斯克随即转发了这篇文章,只说了一句:Dario is right。

达利奥的这篇万字长文,依然以父亲离世与自己抗癌的经历开篇。他在文中说:“只有以正确的方式构建技术,我们才能获得AI带来的收益。而且,只要我们好好利用赢得的时间,花格外谨慎的精力把事情做对是值得的。”

从旧金山寿司店里算计人命的少年,到两次从死神手里抢时间的抗癌狂人,再到逼宫奥特曼自立门户的AI巨头掌门,达利奥用二十多年走完了一条路。在这场通往超级智能的狂飙里,他从不相信任何人,也绝不把方向盘让给任何人。全人类的命运,只能由他亲手执掌。

看到这里,我们不禁想问:当一个人的世界观是由两次与死神擦肩而过的经历、一套极端的功利主义算法,以及一群他从十八岁起就紧密绑定的亲友共同塑造的,这个人如果真的手握了通往超级智能的方向盘,他会替我们做出什么样的决定呢?

相信大家都会有自己的判断。感谢收看,我们下期再见。

文中提及的人物和组织

人物: Dario Amodei

公司/组织: Anthropic, OpenAI

产品/模型: Claude, GPT

媒体/书籍: The Singularity Is Near