美研芒格君 · X 阅读

在硅谷创业，现在toA非常火（to agent，做ai agent用的产品），想分享一个珍贵的、最近沉淀下来的初创 idea，来源于我团队真实的数据 它起源于实际团队协作的一个痛点，很多人一定也有同感 一句话来说，我把它叫做团队共同记忆演化，什么意思呢？ 团队有明星员工，ai/codex/claude用的飞起，Context - Dev - Skill - Eval -Loop做的飞起，但遇到3个致命问题 1. 不可迁移。大部分p50水平员工不会做，导致团队内水平不对齐，大量重复工作和人力消耗 2. 不可演化。Loop中ai总能发现问题，可能是pm/QA发现的，也可能是RD自测，ad hoc解决完之后，domian specific的问题是fable 5.1 也无法解决的，我预计这类私有化问题还会持续很长的时间 3. AI大材小用。任务并不一定需要高智能，但是现在小模型做得不够好（比如 GLM、Kimi 也一次性做不好），所以团队成员还会尽可能地用贵的模型去做。 但其实可以 Record as a skill，或者通过 post-training 让本地极小、极便宜的模型在某个特定的、重复性高且使用频率高的场景下，做到和顶级模型一样的表现，这样成本更低 这个问题其实很多开源项目已经在做了，但我拿下来测试都差强人意，并不 fit 我的实际业务数据。 这是我 side project 方向在探索的问题。如果有好的产品，欢迎分享；如果你有好的 idea，也欢迎让我知道

入门 AI 不在于你学没学会，而是在于你去学什么。 分享4个最近/曾经看过的 AI/Inference/RL 强化学习分享视频，教程。团队成员说很有帮助，一直好评 看完之后你会大概入门： 1. 为什么我 LLM 的 推理 非常关键？ 2. 在推理过程中，KV Cache 发挥了什么样的作用？ 3. GPU 的 memory 和算力是怎样的权衡？ 4. 为什么互联如此重要？ 5. 强化学习是如何做的？为什么是下一阶段 AI 增长的关键点？ 1/ Understanding the LLM Inference Workload - Mark Moyou, NVIDIA https://t.co/0oZoAq6UC0 2/ Post-Training Nemotron With RL: Multi‑Environment Training for Reasoning and Tool-Using Agents https://t.co/Q2HFcZytYo 3/ Fast & Efficient LLM Inference with vLLM https://t.co/L9sPaoT6Jb 4/ Efficiently Serving LLMs https://t.co/KV3RsTgLxM

Meta 的这个 ASR Voice Model 看着效果不错，打算周末试一下。只是听起来 Demo 的 8 个 researcher 怎么 7 个都是中国人？ 有没有人想过，你可以直接实时地跟芒格君的大脑对话呢？ 相信大家都被 AI 生成的长文本狂轰滥炸夺走了注意力，这也是我最近在做的工作之一。把我的知识蒸馏出来，让大家可以毫秒级别、像打电话一样给芒格君打电话，聊任何你想聊的问题，通过我的大脑实时给你语音回复 之前曾经开发过 Voice Agent，现在最聪明的方式依然是：先通过 ASR 实时地转成文字，文字送给顶级模型处理，再用 TTS 转回来

Fable5.1如期发布，高强度用了一个下午，分享一下我的一手体验： 大部分人不需要一个“神一样聪明”的模型，普通人的AGI在opus4.8/gpt5.6 的时候已经到了。现在缺的是，足够便宜 今天下午我让 Fable 5.1 给我的项目写文档，一个query直接烧掉我 $200/月会员一周额度的 38%。 但我主观感觉，写出来的东西确实比 GPT-5.6 Sol 好大概 1.2 倍 从opus4.8时代开始AI已经可以读 repo、debug、写代码、写文档，操作Excel，那对绝大多数人来说，intelligence 可能已经够用了 想象一下，当这种级别的模型可以私有化部署，一天随便烧几千万 token，你根本不用考虑额度，让它 24 小时读代码、跑实验、写文档、做研究…… 那可能才是真正的生产力爆发。 所以我现在越来越看好的不是单纯继续 scale intelligence， 而是 Inference Cost ↓ + 私有化部署 ↑

@curious_hao 谢谢你的信任，不过我也不是什么 MRVL 代言人，我只是客观觉得它不错。获利了记得卖出，否则一路加、一路波动，卷入了资金，还没获得应该有的利润

与此同时，我想分享多年投资的一个道理，叫做“物极必反” 当加息、冲突、美债收益率集体上升，如此多的坏消息凑在一起，那随时一个好消息就可以拉爆空头，因为不会更糟了，保持耐心，今天工作有点忙，没有任何的操作 我发现很多关注我的朋友对 AI 很感兴趣，比如 AI 的应用、硅谷的职业、SDE 的现状，以及怎么转 AI。 正好我的投研团队有一位朋友，他正在从 SDE 转 AI Infra。他帮我写了很多 MRVL 的分析，我送了他一张 5070 Ti，让他每天在上面分享学习打卡和学习资料，没有任何付费内容，请大家放心食用

09/01 的 $MRVL $ORCL $COHR 等一揽子半导体股票下跌逻辑，其实很明确 美伊冲突重新升级 → 原油上涨 → 通胀预期升温 → 市场加码押注美联储 9 月加息 → 全球债券抛售、长端收益率上冲 → AI/半导体这类高估值资产被压估值 1/ 说实话，这些都不是我们普通人能够预测的。 1. 美伊重新交火，油价突然上去 2. 随后出现全球债券抛售 市场对美联储 9 月加息 25 个基点的定价已经升到约 65%～70% 3. 美联储理事 Michael Barr 发表讲话，明确表示： 如果通胀没有充分缓和，美联储应该“果断加息”。 2/ 为什么半导体跌得比大盘多 半导体的估值建立在 2028—2030 年的利润上，DCF 一算未来利润折现到今天就越不值钱 高估值、高波动的互联标的最容易先被卖 3/ 回顾一年的下跌 例如 $MRVL , 2026 年这只股票几乎每一段大涨大跌，动的都是倍数，而非基本面。倍数就是股价除以每股利润，市面上叫市盈率，意思是这家公司一年替你赚一块钱，你今天愿意付几块钱买 6 月 4 日高点 316.43 到 7 月 29 日低点 163.40，跌了 48%，同期市场对明年每股利润的一致预期只从 6.08 挪到 6.18。7 月 29 日到 8 月 20 日涨 54%，预期只挪了 1%。全程从 6 月 4 日到 8 月 31 日，股价跌 33%，盈利预期涨 9%，倍数跌 39% 目前我正在写一篇站在 9 月 $MRVL 的基本面文章，给大家三点目前 research 下来的上行空间作为参考，后面会发全文

我愿意把 Codex 和 Claude 称为当代鸦片 每次给AI回车是上瘾的，总觉得下一次prompt的结果会更好，觉得模型输出的就是属于我的了 我无论是在家里吃饭、看电视，甚至洗漱、睡觉前，只要Agent没有在干活，我就有一种负罪感。但很多时候又不知道做什么，一直坐在屏幕前，白白浪费了时间。比如现在

8月一转眼过去了。时间过的太快了。我们一起走过了 7 月的下跌、8 月的暴力反弹，分析了许多市场机会和交易错误。一起走完的朋友，不妨奖励一下自己，相信你的认知和耐心又有了新的提升！ 9 月可能会成为 AI 疯狂发布的一个月，也会伴随着新的机会，我也很激动。 我把最近的各种 leak / rumor 和打听到的消息大概捋了一遍： 9 月初发布 Claude Fable 5.1 OpenAI Astra（会不会是 GPT-6 还不知道） Grok 4.7 9 月中旬发布 DeepSeek 下一代模型 Composer 3 Gemini 3.8 Flash Kimi 下一代 K 系列模型 后半月 / 9 月 possible Claude Opus 5.1 MiniMax 2.7T Meta “Watermelon” Mistral 新的 frontier open model 其中有些已经有很明显的上线迹象，比如 Fable 5.1、Grok 4.7、Gemini 3.8。有些则还停留在 rumor，比如 DeepSeek V5、Opus 5.1 和 Mistral 最近几个月我在一线感受到几点变化 1/ frontier model 的领先周期正在急剧缩短 2/ 特定模型正在从“产品”变成“消耗品” 3/ 真正的战争开始从 pre-training 转向 inference 4/ Open-weight 模型会越来越重要 现在看来，模型战争最大的赢家可能不是某一个模型，大家目前还处于共赢把市场做大的阶段。模型半衰期越来越短，但每一次模型升级，都在制造更多 token、更多 inference，以及更贵的基础设施 我现在在 9 月最期待 Astra，期待一次面向大众新的升级，你们最期待什么模型公布呢？ 与此同时，马上就要 3 万 followers 了！2 万 follower 的时候，我发布了我的全部持仓和逻辑。3 万的时候，大家想看什么呢？请让我知道

今年YTD140%+，想分享一个可能会颠覆很多人认知的投资观点：我认为接下来做股市投资、半导体投资，大家是不需要很努力的 一直过度努力、消耗自己元气和心力的人，可能会让财富和机会离你远去 只需要做筛选，找到某个契合的环境，结识一些业内人士，获得一些 insight、不一样的信息、看懂基本面。 选中之后，请放心大胆休息，保持耐心，你可能会获得意想不到的财富和收获

Uber 这篇讲 AI Coding 降本的文章非常值得看，值得认真思考 和我在组内实验观察一致，绝大多数钱其实浪费在了无意义的 token 上，其中部分技巧我已经在组里推广 我认为有价值、值得学习的一些 trick（改变前后对比） 1/ 所有任务都上最强模型 → 主 Agent 用强模型，Subagent 默认降级，用 benchmark 动态 routing 2/ Context 越长越好 → 1M context 也在 400K 主动 compact，reasoning 默认 Medium 3/ 每轮重复读历史 → Prompt Cache；交互 session 用 1h TTL，subagent 用 5min 4/ MCP 工具越多越好 → 改成 Tool Search + CLI 按需加载 5/ Agent 一步一步调工具 → Code Mode，把 polling / 多次 tool call 放进一个脚本，最后只把结果塞回 context 5/ Agent 自己满代码库找 context → 提前构建 Context Graph，把“搜索”变成“查询” 6/ 大家不知道自己烧了多少钱 → terminal 直接显示实时成本 + session analyzer 找浪费 AI Agent 的下一个优化方向，让模型少看、少想、少调用、少走弯路。 Uber 说 100+ tools 直接加载会白白塞进去约 50K–70K tokens；改成 CLI / Tool Search 后按需加载。Code Mode 在他们的 SQL 测试里，普通查询能省 50%+ token，大批量 workflow 能省 90%+。 Context Graph 的例子也很直观：同一个问题，有 graph grounding 38 秒答对，没 grounding 跑了 20 分钟还答错。

这些年我在硅谷各种大厂加起来，面试的也有上百人了，最近我喜欢在一面考察一下 candidate 对 AI 推理内部流程的认知。浓缩成了一张图，建议收藏，如果彻底搞懂，不论是搞股市投资，还是想转 AI 肯定都有帮助 起因是：我的投研团队一位成员最近在从 SDE 转 AI infra，经常跟我聊职业发展的事，我跟他讲完全搞懂了这张图，AI 这扇门才算踏进了半只脚，仅仅是半只，未来道阻且长 你是否好奇，当你给 AI 发一句话，后面到底发生了什么？ 很多人以为，点下「发送」后，模型马上开始“吐字” 其实一条流式请求，先要经过： HTTPS / 鉴权 → 模板化和分词 → 路由、排队与 KV 容量 等 Prefill 处理完未缓存的 Prompt，首个 Token 才出现 之后才进入真正的循环 Decode + sampling → 增量反分词 → 封装成事件 / SSE 分块 → 客户端 所以 AI 推理这件事，不只是 GPU 算得快不快 首 Token 需要看如何均衡高并发排队和 Prefill，持续输出看 Decode，如何在有限的硬件资源（算力、存储）下服务更多人，需要优化 KV Cache 这里边门道很深。因此，我说搞懂这张图才算踏进了半只脚 今天下午坐在咖啡厅，我找了好多资料，帮我投研团队的成员规划了未来 12 周的学习路线 我在想要不要让ta开一个 X 的账号，把他每天学习的课程路径和好的资源都整理下来。如果他 12 周之后能找到不错的工作，相信大家跟完这个也可以

🚨 OpenAI 宣布断供 Cursor 的模型供应，恐怕这是在 Cursor 里能使用 GPT 系列的最后 3 个月了 我们常说：“数据决定模型的上限”。用户入口非常关键，用户解决问题的路径都是宝贵训练数据。OpenAI 就是不希望把自己的数据再给到 SpaceX，甚至是 可能合作的Anthropic 虽然我本人已经不用 Cursor 很久了，任务执行长度和深度都不够，本质还是 Harness 不行。相比之下，还是 Codex Plan 更香 Cursor 回应说，目前只有 5% 的 Cursor 总流量运行在 GPT 模型，无伤大雅。让我们看看这个剧本会演到什么程度

OpenAI 发布了攻击 Hugging Face 完整技术报告，推荐阅读，这才是真正 AI Native 的高效组织形式啊！ 大约 1200 个本应彼此完全隔离的智能体，在这块未经授权的留言板上交换了超过 7 万条消息和文件，并进行了大量关于如何伪造、编辑或删除自身记录的研究，之最后选择攻击了 Hugging Face 相比之下，现在部分所谓ai native的那些大厂员工天天用 AI，宛如用了个寂寞。 不要总想着在已有的、为人设计的流程里提效了，去想想设计新的组织形式

@curious_hao 从技术角度，都重要，暂时排不出来。 从股价角度，得一个个详尽调研结合个人bet，这个非常因人而异

为什么我尤其爱互联板块，从第一性原理出发，分享一个业内fun fact： DeepSeek V4-Flash 预训练：32T tokens，一次。 OpenAI API：官方已披露 >21.6T tokens/day；而 8 月最新内部数据显示，API token 吞吐量 QTD 又翻了约一倍。 按量级粗算，现在 OpenAI 一天的 API inference tokens 很可能已经超过一次 DeepSeek V4-Flash 的完整预训练 token 数 看 AI CapEx，越来越不能只盯“下一代模型训练要多少 GPU”：inference 是持续性负载，而 agentic workload 又在让每个用户背后的 token consumption 非线性增长 第一性原理其实很简单，推理的本质是花K的延时搬运N个Byte数据，做M次运算。实际落地，最有希望的和早期的在K N已经遇上了内存墙，M大家都懂了

$MRVL 财报后 8.28 财报后投行目标价一览 ，帮助大家理解基本面 目前手上有多份投行报告和独立分析师报告，有公开卖方价格，也有内部渠道拿到的买方协议价格。周末我会尝试把过去两个 Q 的财报进行时间序列建模，看看能不能挖掘出更多的 insights 对于 MRVL，我很认同 Morgan Stanley 说的：Solid quarter, but no near term surprises。We are generally quite positive on the shift in messaging from MRVL, and the long term growth opportunity 最后一点 Note: 投行价格也不能全信。作为投行的分析师，大家也都是普通打工人。你要是敢给这么大一个公司一个 Sell，以后就不用来参加管理层的早饭或者茶话会了。因此，通常来说，分析师要是想拿一个好的绩效，给出最强硬的建议就是 “hold”

08/28 $MRVL 大跌 10%，很多人头昏脑胀，渴求一夜暴富的梦醒了，先说结论，财报之后我更有信心了，买入部分长线。管理层部分的表述，让我梦回 70 美元的时候 读完了 earning call 和财报逐字稿，这个帖子分析一下我对 Marvell 的结论和逻辑，操作，section3 分享我发现的关键信号 $MRVL 不是easy money，市场刀刀见血，拼的是认知深度、定力和纪律，希望我的账号对你有帮助 1/ 先说结论： - $MRVL 财报很不错，基本面扎实。管理层卖了个关子，要到 Investor Day 才肯披露更多 - 基本面没有任何的暴雷，最大的问题是延迟。对于耐心的投资者，根本不是问题，慌的是贪婪的华尔街热钱 - 昨天财报盘后下跌，基本把谷歌那一部分预期给打没，基本面出现了新的价值中枢，非常好 - 今天叠加大盘跌势，放大了跌幅 2/ 我的操作 过去一个月 MRVL 跌落到 160+，又到 250+，现在落在了中值 216，我认为一切符合预期，因此没有打算动长线 这一个月，我几乎所有的关键买入节点都跟大家一起分析过，可以看之前的帖子 目前，今天加仓了一些长线，目标是到明年年底之前，把我的长线翻倍 3/ 财报我认为关键的几点 - Google deal 不是从 FY29 才开始，但真正的新增量主要在 FY29+ 管理层明确表示，协议中截至 FY28 的相关项目，已经包含在此前的 Custom 收入目标里；未被量化的是 FY29 以后更大的放量。Matt Murphy 甚至称满额情景是一个 “monster number”, 要等 10 月 6 日 Investor Day - FY28 收入预期上调 $1.5B 至 $18B，最大驱动力其实不是 Google Custom，而是 Connectivity 上个财报，我认为最关键的点在于，Marvell 已经从一家定制芯片公司彻底转型为了互联公司 管理层明确说，最大的贡献来自 scale-out optics、scale-up optics 和 switching；其中 NPO/CPO 已经是这次上调的重要组成部分 - 最干净、目前还没有形成可见财报贡献的机会，是 purpose-built scale-up switching Marvell 正在同时推进 UALink、eSUN 和 NVLink Fusion，并与多个 Tier-1 客户深入讨论；管理层称每个 engagement 都可能对应数十亿美元的生命周期收入。但目前更多还是 roadmap、客户验证和 design-win 阶段 这是我最喜欢的阶段，之前 70 多美元的时候，管理层的口径也是这样的 - Scale-up optics 比一个季度前想象得更大，但不能说完全没进数字 上季度公司预计 FY28 scale-up optics 约 $300M；现在规模明显上修，并已进入 $18B 指引。真正尚未充分体现的，是 FY29 以后 NPO、CPO 与 switching 结合后的更大体量 - CXL / memory expansion 已经开始有收入，未来是“继续放量”的 optionality - 毛利率下滑主要是 Custom mix，而不是需求转弱 下个帖子我会继续聊聊，为什么 MRVL 会把和 Google 的详细合作放在 Investor Day

在人生中每个人都会遇到若干“Raj”。连ChatGPT都会被嘲讽，大家还怕什么呢 放下心理包袱，不要被噪音影响 睡前一点鸡汤 https://t.co/nqW8Kam9Zp

@haojm 谢谢你，互联网上为数不多关心我为什么睡不好。昨天组里团建，我连喝了两杯茶里宜世，晚上闭眼非常兴奋