2026-09-04

@zhangyc52 每次模型迭代之前的 skill 和 prompt 都会成为新的模型的限制，我打算把之前的 prompt 全删掉，重新构建

非常建议大家让推特总结一下你自己。正确认识自己，可能比正确认识一家公司还难。 你眼中的自己，和别人眼中的你，往往根本不是同一个人。 好在推特留下了一条时间线。人会美化记忆，文字不会替你撒谎。 把过去几年的帖子交给 Grok 整理归纳、交叉验证，你会发现一个连自己都未必真正认识的自己。 所以我写这篇“推特里的我”，其实不只是自我介绍。 更重要的是一次投资认知审计： 我过去如何判断宏观？ 如何发现产业趋势？ 如何分析公司价值？ 哪里判断对了，哪里错了？ 这些判断背后，究竟反复出现了什么方法？ 当这些东西从几千条时间线里被蒸馏出来，得到的就不再是几只股票的观点，而是一套可以学习、复制、继续进化的投资框架。 普通投资者真正值得借鉴的，也从来不是我给你什么神奇股票代码一夜暴富 是我为什么会看到那个股票代码然后如何投资获取认知差，结论会过期，方法可以复利。

@GRyanGreat 瓶颈在推理速度，更多的是算力互联，hbm调度问题问题，跟网速无关

@ebigsailor 记得保存好你跟GPT6的第一句对话，多年之后跟你孩子说

多年AGI之后，回顾这周，应该是载入历史的时刻。我真的掏心窝子地劝大家试用一下OpenAI的Astra，它真的不一样 Astra Ultra 使用的第二天，下班路上一直在想，兴奋+激动，我刚200$ Codex Plan充满了100% 的额度，打算周末大干一场 /goal，下周跟大家汇报我的成果 各位 Astra Ultra 用户准备周末做什么创造性的工作呢？

是我想谢谢大家。这个世界上信息一直存在，只是因为有信息差，而我想打破它 初衷就是分享一些在硅谷一线的工程经验、带团队的感悟，以及 AI 的投资方向 有 AI 味儿不是原罪，原罪是不加思考，把 AI 生成的内容一股脑地发布出来。善用 AI，AI 是我们这一代人最大的放大器

AI 发展还在早期，你应该幸运出生在这个时代 这两周有一条非常好赚钱的逻辑路线，我永远相信我的硅谷大厂朋友，和一手的信息源以及AI认知和体验 咱复盘一下，不知道大家抓住没有 OpenAI使用了超过 10 万块 GPU 训练出的 Astra，据公开信息了解是德州的星际之门。 那星际之门后面是谁建造的？那些建造者曾经被市场惩罚的逻辑还成立吗？ 如果不成立，那一直其实都是买入的好时候 如我所说，AI 发展还在初期，不要以为 GPT-6 已经是终点了。据我了解到的信息，更庞大规模的模型还在后面，训练中 今天我将更抽象的任务交给OpenAI新模型 Astra （GPT6）来做，摸一摸 AI 投研最新的天花板

09/04 很多朋友问我对 $MRVL 的看法，我认为市场上现在有一个严重的逻辑错误, 并且相互矛盾, 不能同时成立。而逻辑错误消除就是上行的时候 每次下跌，我都看好 $MRVL ，这也是为什么我上个帖子发完，在 202-210$ 抄底了不少, 并且我在等最关键的 10月，算是一个我个人的押注。总不能股票一直嫌高不敢买，跌了又说它完了，这怎么赚钱呢？ 逻辑错误： $AVGO 丢掉了谷歌的订单，短期内业绩承压 $MRVL 拿到了谷歌的订单，短期内无法业绩兑现 很多人可能会想, 中间还有一个联发科, 你说的没错。但有一个关键的逻辑矛盾是，博通和 MRVL 现在被市场当成了一个非此即彼的选择竞争对手，但逻辑上，一个在惩罚近端，一个惩罚远端，这是常见的逻辑不对位 我的押注： 我喜欢 MRVL 的一个关键原因，是因为它的管理层很靠谱。财报会议上，管理层说谷歌的订单对于 Marvell 是 monster 的体量。我选择相信。 这期的答案都会在 10 月初的 Investor Day 揭晓 请注意，这是我的个人投资。如果你要投入一分钱，欢迎看看我之前的帖子和文章

硅谷一线公司，Anthropic $NVDA OpenAI 这类 Frontier Lab/厂 的推理工程师，平时到底在做什么？ 结合我的实际工作内容，和对周围其他公司 AI 工程师的了解，帮大家整理出来了最一线的工作 5 项技术拆解，自己评估一下是否能通过面试？完全搞懂，你也半只脚踏入了硅谷大厂，多收藏看看会有帮助 （防杠，本帖为简化，实际工作比本帖复杂得多） 一句话总结： 所有技术都围绕着把一次用户请求，变成一条高并发、低延迟、可恢复、可观测、还能持续学习的生产流水线 1. 先让更多请求挤进同一批 GPU 推理引擎负责在显卡上运行模型。下一步是如何调度不同请求。用户实际感受到的速度和价格，很大程度上取决于这一层 Continuous batching：某个请求生成结束，新的请求立即补位，不用等整批完成。 Prefix caching：相同的系统提示、长文档和对话前缀，不必反复计算。 Chunked prefill：长上下文分段处理，避免一个超长请求堵住其他用户。 Model routing：简单任务交给更快、更便宜的模型；复杂任务再升级到更强模型 2. 验证模型，控制模型 模型可能调用工具、运行代码、访问文件或操作外部系统，因此每次执行都要被限制在明确边界内： 隔离运行环境 限制处理器、内存、时间和网络权限 检查工具调用是否合法 根据真实执行结果判断任务是否成功 3. 处理几百万个同时发生的请求，高并发 生产系统还要面对排队、突发流量、硬件故障和外部服务超时： 任务队列决定请求如何等待 优先级保证高价值或实时任务先执行 Backpressure 防止流量把系统直接压垮 Idempotent retry 允许安全重试，又不会重复扣费或重复操作 Checkpoint 让长任务在故障后继续，而不是从头开始 OpenTelemetry 记录请求究竟慢在排队、模型生成、工具调用还是结果验证 4. 把用户真实使用过程重新变成训练数据 推理系统不只是消耗模型，也在生产下一代模型的数据： SFT：把经过验证的高质量回答变成示范 LoRA：用较低成本训练特定能力 RL：让模型尝试多种策略，再根据真实结果学习 GRPO等：同一道任务生成多份答案，相互比较后提高优秀策略的概率 Reward hacking：模型学会钻评测漏洞，而不是完成真实目标 Data leakage：模型提前看过测试内容，导致指标虚高 训练数据、评测集、工具环境和时间窗口，都必须严格隔离 5. 新模型不是训练完就直接上线 真正的发布流程通常更像大型在线服务，而不是发一个 checkpoint： Shadow test：新版模型偷偷处理一部分真实请求，但不把结果交给用户 Release gate：正确率、延迟、成本和安全指标同时达标才允许发布 Canary rollout：先给极少量流量，再逐步扩大 Rollback：任何关键指标恶化，立即切回旧版本 Version tracking：模型、提示词、工具、数据和评测器全部记录版本 模型决定能力上限，推理工程决定这些能力能不能真正到达用户手里