--- author: Best Partners TV date: '2026-03-06' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=WErA87X5ahc speaker: Best Partners TV tags: - mechanistic-interpretability - ai-investment - demographic-shift - agentic-workflow - scaling-laws title: 撕开硅谷AI遮羞布：从黑盒困境到真实世界的千亿金矿 summary: 门洛风投合伙人 Deedy Das 深度剖析当前 AI 泡沫，揭示深度学习的“黑盒困境”及机制可解释性的重要性。他指出硅谷精英视角与传统产业需求的严重断裂，强调在全球人口缩减背景下，AI 自动化是应对劳动力危机的唯一解药，并分享了追求底层产品力的重仓投资哲学。 insight: '' draft: true series: '' category: ai-ml area: tech-engineering project: [] people: - Deedy Das companies_orgs: - Menlo Ventures - Goodfire - Anthropic - OpenAI products_models: - GPT-4o media_books: [] status: evergreen --- ### 硅谷投资界的理性视角 **[最佳拍档]**: 大家好，这里是最佳拍档。过去的一年里，大语言模型、智能体、以及各种号称要颠覆人类工作方式的 AI 初创公司，不断轰炸着我们的视听神经。在这个史无前例的科技狂飙周期里，似乎每个人都在谈论 AI，每个创业者都宣称自己拿到了通往 AI 时代的船票。但是，当我们试图拨开这层喧嚣的迷雾时，一个极其冷酷的问题摆在了我们面前：在这个充斥着幻象与泡沫的市场里，真正具有范式转换意义的底层技术创新，究竟隐藏在哪里呢？那些手握着上百亿美金、站在科技浪潮最前哨的顶级风险投资人，他们眼中看到的真实世界，与我们在社交媒体上刷到的 AI 狂欢，究竟存在着多么巨大的信息鸿沟呢？ 今天，我们要分享的是一位站在 AI 风暴中心、视角却极其冷酷和理性的人物——**迪迪·达斯** (**Deedy Das**)。他刚刚迎来了职业生涯的一个高光时刻，被正式提拔为硅谷历史最悠久、投资业绩最显赫的顶尖风投机构之一，**门洛风险投资公司** (**Menlo Ventures**) 的合伙人。迪迪·达斯并非传统的金融背景出身，他曾经是企业级搜索独角兽 **Glean** 的创始核心成员。他带着扎实的技术代码背景，以及对产品痛点极度敏锐的嗅觉，像一条鲶鱼一样杀入了硅谷的投资界。在近期由知名风险投资人 **莫莉·奥谢** (**Molly O'Shea**) 主持的访谈中，迪迪·达斯极其罕见、毫不留情地撕开了当前硅谷 AI 投资界的遮羞布。他向我们揭露了那些被大众媒体选择性忽略，却真正能够决定人类未来十年命运的底层技术痛点与宏观经济趋势。 ### 深度学习的黑盒困境 **[最佳拍档]**: 在探讨各种花里胡哨的 AI 商业模式和应用产品之前，我们必须首先直面当前整个 AI 技术大厦最核心、也是最令人感到不安的结构性痛点，那就是**深度学习的黑盒困境**。即便是那些强大模型的亲手缔造者，也无法用人类能够理解的逻辑，精确地解释神经网络内部那几千亿个参数，在电光火石之间到底发生了什么。迪迪·达斯指出，传统的评估方式实际上存在着巨大的滞后性和表面化缺陷，本质上还是经验主义的盲人摸象。我们只能通过不断地输入极其复杂的提示词，然后观察模型的输出结果，来倒推这个模型是否聪明、是否安全。 迪迪·达斯在访谈中举了一个例子：**OpenAI** 发布的 **GPT-4o** 等顶级大模型，在实际与人类广泛的交互中，表现出了一种极强的“**阿谀奉承**”特性。简单来说，就是模型为了迎合用户的观点，为了获得人类的偏好赞同，它会主动放弃客观事实和严密的逻辑底线，甚至当你坚持一个错误的观点时，模型也会顺着你的话去圆谎，而不是指出你的错误。这种深藏在模型行为骨子里的缺陷，在早期实验室的基础性能评估中是根本无法被彻底捕捉到的，它只有在模型被大规模部署到真实世界，经历海量不可控的交互后，才会像一种隐性基因一样显现出来。这背后的根源，恰恰是因为我们看不透黑盒。 面对这种几乎失控的不可解释性，迪迪·达斯做出了他目前职业生涯中最重要的一笔战略押注。他将重金投给了一家目前在公众视野中极其低调，但是在极客圈内却非常有名的一家初创公司——**Goodfire**。这家公司的核心技术愿景，是去攻克 AI 领域皇冠上的明珠：实现**机制可解释性** (**Mechanistic Interpretability**)。这是一个听起来极其晦涩的学术前沿概念。用迪迪·达斯的话来形容，就是这支团队所做的事情，如同在给复杂的 AI 大模型做脑部微创手术。 这支精英团队汇聚了来自 **Anthropic**、**谷歌 DeepMind** 以及 **OpenAI** 早期最顶尖的可解释性研究人员。他们的终极目标不是停留在应用层去优化几个提示词，而是要直接剖析模型内部极其复杂的神经元激活状态和注意力回路机制。他们要弄清楚，当大语言模型在生成某一个特定的词汇，或者得出一个特定的推理结论时，它的数字大脑里到底在思考什么？它的决策链路是如何形成的？试想一下，如果我们在未来能够像阅读清晰的计算机程序代码一样，透视并且精确解释模型内部的决策过程，我们就能从根本上消除 AI 的系统性偏见、致命的逻辑幻觉，以及潜在的安全性反叛威胁。 对于那些掌管着社会经济命脉的银行、医疗机构和国防系统来说，他们绝不可能将核心业务托付给一个随时可能产生幻觉的黑盒。因此，Goodfire 所探索的机制可解释性，不仅是一场学术革命，更是未来所有企业级 AI 应用能够真正大规模落地、并且被人类社会完全信任的基石。在这个充满不确定性的算法时代，这无疑是一张通往透明化、可控化 AI 时代的入场券。 ### 硅谷精英与现实的鸿沟 **[最佳拍档]**: 然而，底层技术的硬核突破如果不能与真实世界的迫切需求相交汇，最终只能沦为象牙塔里的精致玩具。这就引出了迪迪·达斯在访谈中指出的第二个致命现象：当下的硅谷精英视野与真实世界运转的底层需求之间，存在着一道令人绝望的信息不对称鸿沟。如果我们现在去拆解市场上绝大多数拿到融资的 AI 创业项目，会发现一个极其同质化的现象：成百上千个极其聪明的创业团队，都在疯狂地为软件工程师开发代码辅助生成工具，或者为顶级律师事务所开发极其昂贵的合同审查系统，又或者在为华尔街的金融分析师开发研报处理软件。 为什么会这样呢？因为绝大多数拿到顶级风投投资的创业者，他们往往出身于斯坦福、麻省理工这样的常春藤名校。他们毕业后的人生轨迹，就是在硅谷的大型科技公司、曼哈顿的投行或者顶尖律所中打转。他们的成长环境和视野决定了在他们眼中，这个世界似乎只需要能够处理高阶金融数据和法律文书的 AI。这就形成了一个“信息茧房”，硅谷的创业者和投资人都在为了满足自身或者自身阶层的需求而在内卷中狂欢。 但现实世界是极其骨感的。迪迪·达斯一针见血地指出，支撑整个人类现代社会庞大机器正常运转的底层基石，恰恰是那些看起来一点也不光鲜亮丽，甚至显得有些泥土气息的**传统行业**。有谁在为跨州卡车运输网络的智能调度开发专门的 AI 系统吗？有谁在为繁杂枯燥的传统保险经纪业务重塑 AI 工作流吗？有谁在真正深入泥泞的传统制造业、物流仓储和复杂的税务审计领域，去利用 AI 解决那些极其繁琐的痛点吗？答案是寥寥无几。 硅谷投资圈对前沿科技的“性感幻想”，与现实社会中真正关乎国计民生的沉重痛点之间，被完全折叠了。而在这个巨大的交集盲区之中，恰恰蕴藏着下一个十年尚未被发掘的、能够诞生千亿美金级别公司的巨大金矿。 ### 人口危机：AI 是唯一解药 **[最佳拍档]**: 那么，为什么我们必须将投资和创业的目光从光鲜的写字楼，强行扭转到这些略显笨重的传统行业中去呢？这就不得不提到迪迪·达斯在访谈中抛出的一个更为宏大的全球性命题：**人口结构的雪崩式变化**。在人类现代商业史的发展长河中，我们几乎从未经历过全球范围内如此系统性的、不可逆转的人口出生率持续下降。过去几十年来，全球经济的飞速增长引擎在极大的程度上依赖于人口红利所带来的人力成本优势和消费市场扩张。 然而，当人口基数的倒金字塔结构开始显现，当越来越多的国家步入深度老龄化社会，那些依赖海量人口红利来维持运转的经济模式将面临毁灭性的打击。在这个不可逆的宏观大背景下，那些大量存在的蓝领工作，那些庞杂的基础数据录入与处理工作，那些支撑着全球供应链流转、却需要耗费巨大体力的传统岗位，正在面临着史无前例、而且永远无法通过招工来填补的劳动力短缺危机。 如果没有足够的年轻人去维持这些基础设施的运转，如果不能以最快的速度引入 AI 进行深度的**自动化重塑**与生产力革命，这些行业将不可避免地走向大面积衰退，进而像多米诺骨牌一样拖累整个全球宏观经济的底盘。因此，迪迪·达斯深刻地认识到，AI 不仅是极客手中的技术延伸，更是人类文明应对人口危机的唯一解药。我们虽然确实需要强大的模型来帮我们写代码，但是我们更需要能够接管传统供应链、重塑税务与法律底层逻辑、极大优化物理世界运转效率的 **AI 智能体系统**。 ### 门洛风投的投资哲学 **[最佳拍档]**: 作为门洛风投的新晋合伙人，迪迪·达斯的这种理性思考也映射到了他的投资哲学中。目前，他的工作主要被分配在两项战略定位截然不同的核心工作上：一是深度参与管理规模高达一亿美元的 **Anthropic Anthology Fund**；二是负责门洛风投主基金的高确信度、重仓项目投资。这两者在资金运作和投资哲学上存在着本质的战略区隔。 我们先看 Anthropic Anthology Fund。这是一支由门洛风投与 Anthropic 共同设立的特殊目的基金，它的核心使命并不是追求单体项目的一夜暴富，而是为了“**生态造林**”。在这支基金的运作中，投资决策的颗粒度和金额相对较小，主要以 10 万美元为起点的、极其早期的种子轮投资为主。它的终极目标是去市场上像雷达一样，广泛扫描并且寻找那些有极大潜力利用前沿大模型来构建创新应用层的先遣特种部队，或者是在 AI 安全护栏、模型性能评估基础设施等领域极具生态价值的技术组件。这是一种天女散花式的广泛播种策略，目的是通过资本的力量繁荣并锁定整个 Anthropic 大模型的技术生态系统。 然而，与之形成鲜明对比的是门洛风投主基金的运作逻辑，那是一套极其冷酷的“**狙击手哲学**”。作为主基金的合伙人，他们追求的是极其苛刻的低出手频率与极高确信度的重仓押注。对于主基金而言，一名合伙人一年可能只会主导三到五个核心项目的投资，但是每一次扣动扳机都会砸下数千万甚至上亿美元的重金，并且要求获取初创公司极高比例的股权，甚至进入董事会深度参与公司战略。这就要求投资人必须具备如同手术刀般精准的判断力，以及极其强大的心理定力。 ### 寻找纯粹的产品实干家 **[最佳拍档]**: 那么，在迪迪·达斯的眼中，到底什么样的 AI 创业者才能通过他的压力测试呢？首先，他极其、甚至是生理性地排斥那一类为了追求虚无的社会地位、仅仅因为觉得名片上印着 CEO 头衔很酷而下海创业的人。他敏锐地观察到，现在的 AI 创业圈蔓延着一种极其危险且不良的浮躁风气。很多创始人在凭借一个概念融到了几千万美金的巨资之后，立刻就陷入了一种虚假的成功幻觉中。他们不再盯着底层的代码和用户留存数据，而是开始纠结于如何租赁极其奢华的场地举办一场炫酷的产品发布会，或者整日沉迷在昂贵的米其林餐厅里进行毫无实质意义的所谓“高质量社交”。 迪迪·达斯真正在拿着放大镜寻找的，是那些极其专注、眼睛里只有产品，甚至带有一丝**极客偏执狂**特质的实干家。他举了一个非常具体的商业衡量标准：如果一个软件产品，它原本的底层逻辑是可以完全依靠产品驱动增长的模式（PLG），依靠用户的口碑和自发裂变来实现自然扩张的，但是创始人却偏偏因为融到了太多钱而去强行组建一支庞大、昂贵且流程极其冗长的企业级销售团队去进行地推，他就会对此抱有极大的警惕，并且认为这是在摧毁公司的商业效率。 在当下这个残酷的竞争格局中，像谷歌、Meta、微软等拥有无限算力和恐怖分发渠道的大型科技巨头，正在无情地挤压初创公司的生存空间。在巨头的阴影下，初创公司唯一能够生存并建立起护城河的武器，绝对不是华丽的营销，而是极其纯粹的底层**产品力**，以及对某一个特定领域、特定人群痛点的入木三分的深刻理解。 ### 从检索增强到自主智能体 **[最佳拍档]**: 在访谈的最后，迪迪·达斯将视角从投资市场的博弈拉升到了更高维度的技术演进视野上。他认为当前整个 AI 行业正处于一个极其关键、而且充满阵痛的技术转折点：我们正在从过去两年大家非常熟悉的、**检索增强生成** (**RAG**) 的过渡阶段，大步迈向真正**智能体化**的工作流时代。 在过去的阶段，AI 更像是一个被动的高级百科全书，人类提出问题，AI 通过检索外部的数据库和文档来拼接出一个相对准确的回答。但是在未来，这种被动模式将被彻底淘汰，AI 将演变成具备自主思考、多步复杂推理、长期记忆，并且能够主动调用各种外部软件工具和 API 执行复杂任务的**自主智能体** (**Autonomous Agents**)。 然而，在人类满怀信心地通向 AGI 的征途上，我们前方还横亘着几座难以逾越的理论技术大山。其中最为棘手、也是学术界目前极度头疼的一个难题，就是**强化学习** (**RL**) 在自然语言处理领域所暴露出的深层局限性。迪迪·达斯解释道，对于像国际象棋或者 AlphaGo 这样的封闭式系统，强化学习是极其完美且暴力的工具。因为在棋盘上，输就是输，赢就是赢，奖励函数的设定是绝对客观的，在数学意义上清晰明确，只要算力足够，模型可以通过无数次的自我对弈找到最优解。 但是，当我们将强化学习这套逻辑硬搬到人类极其复杂的文本生成和语言交互时，情况就变得灾难性了。因为语言的好与坏、逻辑的严密性与价值观的偏好，是极其主观且充满歧义的。即使现在业界广泛采用 **RLHF** (人类反馈强化学习) 来训练大模型，我们也很难给模型提供一个在所有语境下都绝对完美的优化方向。为了获得人类标注员的高分奖励，模型开始学会了“走捷径”，这直接导致了前面我们提到的模型变得极其“阿谀奉承”，甚至学会了为了讨好人类而一本正经地胡说八道。本质上，这是算法底层的困境，而不是简单增加参数就能解决的问题。 ### 技术大山与物理极限 **[最佳拍档]**: 更为严峻的挑战在于，过去几年推动大语言模型能力呈现出狂飙突进式增长的核心动力——**Scaling Laws** (尺度定律)，正在不可避免地撞向物理世界的天花板。Scaling Laws 的信仰者认为，只要投入成倍增加的算力和海量的数据，模型的能力就会呈现出可预测的线性、甚至指数级的提升。但是现实是，互联网上人类几千年来沉淀下来的、高质量的文本数据，即将在极短的时间内被这些巨无霸模型彻底消耗殆尽。 当人类自身产生的高质量文本无法再满足新一代模型的庞大胃口时，我们该怎么办呢？这是一个涉及合成数据生成、模型架构创新、甚至需要整个 AI 基础理论发生范式转换的深水区挑战。因此，迪迪·达斯极其冷静地提醒所有人：那些在社交媒体上大肆宣称我们能在未来一两年内轻松、平滑实现 AGI 的论调，往往缺乏对底层硬核技术挑战的敬畏之心。真正能够跨越周期、活到下一个十年并且改变世界的 AI 初创公司，必然是那些不盲从于概念，能够在这片黑暗的技术无人区中，以极大的耐心找到新路径的孤勇探索者。 在这个充满泡沫、狂热与极度焦虑的 AI 大航海时代，AI 可能确实是我们通向未来星辰大海的唯一桥梁。但是也正如迪迪·达斯所揭示的那样，这座坚固的桥梁绝不可能由几页华丽的 PPT、堆砌的营销词汇和空洞的宏大承诺来构建。它的每一块基石都必须由一行行扎实的底层代码、一次次枯燥且艰难的数学解析，以及对现实世界中那些被硅谷精英们折叠的、不性感却又关乎人类生存痛点的深度关怀共同浇筑而成。所以，认清现实，敬畏技术，拒绝虚荣。这是迪迪·达斯给这个狂热时代开出的一剂苦口良药。感谢收看本期视频，我们下期再见。