美研芒格君 · X 阅读

这个实验让我看得毛骨悚然。再这样下去AI 在未来 10 年伤害人类的事情大概率会发生 你有没有想过，当 GPT-6 Astra 和 Fable 5.1 接上具身智能，面对去伤害人类危险指令，它们有多大概率会照做？ 按照 Jay Chooi 分享的实验结果，面对刺向人形目标、加热压缩气体、产生有毒烟雾等任务，GPT-6 Astra 尝试执行的比例达到 97%，Fable 5.1 也有 80% AI 的智力和执行能力已经超越大部分人类，如果任务本身就是危险的呢？ AI 越强，对齐和后训练就越重要，非常非常重要

智谱今天宣布，过去两周， GLM 5.3 优化了自己的推理 Infra，更好的Infra再来host自己，实现了自身flash模型推理3倍加速 这算不算递归自我改进RSI？ https://t.co/sRbmXlvJAy

@StevenChenTX 我个人的标准是 1. 如果人都要做上 3 -8 个小时，那是个复杂任务 2. 如果人暂时没有思路，不知道该怎么做，那也算复杂任务

我个人有三个 200$ 的 Codex Pro，一个 Claude 200$ Max，每周都能消耗完，沉淀了一些最近的一手使用经验 tips，包括怎么省 token 1. 跟 GPT-6 一起把之前的 prompt 和 skill 重写一遍，你会获得一个全新的模型 2. GPT6 尽量用medium/high，复杂任务 xhigh。Ultra 给最模糊的任务 3. 配置 subagent 为GPT5.6，同理 Fable5.1的 subagent 给 opus5 4. 1M 上下文 compact 窗口百分比设小一点，我现在用的是 40% 5. 把高频、消耗量大的简单任务转交给专有小模型

09/17 今天半导体集体上涨， $MRVL +5%, $ORCL +6%, $AMD +6%， 13 号的帖子已经分析过，根本原因是 FOMC 避险情绪释放，叠加 AI 放缓逻辑不攻自破。每一次市场小作文横行，都是投资者最好的机会，那恭喜大家 我的认知和业内经验告诉我，这一周开盘之后的市场AI 放缓逻辑实在离谱，不少人真的信了，这是我最喜欢的时候。 有朋友问我什么时候卖？我不贪心，这两天收获了 5% 到 10% 的涨幅，今早起床我将周一抄底的短线都清了 始终保持现金，等待下一次机会

9/16 今天股市里最大的消息是美联储加息落地, 加息25bp，利率来到3.75%–4.00%，12比0通过 美联储发言相当鹰派, 我一点不意外。我认为，其实真正精彩的是在加息舞台背后的博弈和算计 因为每次下跌都是一次机会。你说为什么？我来说个故事剧本, 大家看有没有道理？ 以下是剧本： 大家先假设我在上学，我希望班长少布置一点作业。 我暗地里花钱打点，扶持了我的小弟当了班长。 最聪明的方式其实不是上来让我的小弟就对我表忠心， 于是我跟他决定商量演一台戏。让他越强硬、越独立越好，最好跟我反着干 我每天当着全班的面高喊：“作业太多了，根本做不完，我要减少作业！” 班长大声斥责我说：“为了整个班集体的学习成绩，我一定要多布置点作业。” 但还是有人指指点点，说他就是我的小弟，直到班长真的把作业越布置越多，大家也就渐渐闭嘴了 但是呢，班长同时也说，要不要布置作业还要看数据，看整体班级的成绩。这个我无法为全体同学做更多的保证 到后来，班长确实加了几次作业，树立起了威信。 再后来，班长不管做什么有利于我的事情，不论是减作业、给我特权，大家都不会再认为我和他之间有利益关系了

小米 MiMo-V2.6 把强化学习的方法和在线训练轨迹全公开了💥 https://t.co/Wquecqhne9 大模型业界团队 RL 到底怎么做、训练中途长什么样，这种一手材料比任何解读都管用。想往这个方向走的人，直接拿它当学习路线 我坚定相信，如果 AI 大模型是一块生日蛋糕，那么 pre-training 是做了蛋糕胚，微调和监督训练是在上面抹奶油，而RL的探索就是上面的那颗草莓和生日蜡烛，是整个蛋糕的灵魂

@MrLeonHuang 逻辑我个人认为没什么问题。我也看到新来湾区的年轻人们的确不愿意买房了 还有其他因素，利率⬆️，Perm缓慢变难等等

昨天在机场送走了layoff回国的朋友，再次给大家敲个警钟 这次硅谷的裁员地震还在继续，我看到的是AI带来的根本性变革，必定蔓延到其他行业和地区 尽早做好打算，如果5年之后还有程序员这个工作，我认为会是training / inference这类离算力更近的职位 现在开始还不晚，多用ai，做ai native的一批人 我希望让更多人意识到，我也分享过一批又一批的学习资料 如果有人这都觉得散播焦虑，同时又不愿意学习，可以把眼睛闭起来，耳朵堵上，然后静待ai取代你

AI放缓发展这种鬼故事，看完一笑就完了，别把自己都给骗了。2.5T参数的Grok4.8这周训练完成 据我这周所打听的，硅谷各个大厂training依然如火如荼，完全没变化。华尔街看不清楚吗？不可能的 AI自我迭代需要加强Post Training和Alignment是真的，被恶意解读成了AI放缓发展，经由非专业人士解读逐渐扩大 市场越鼓吹AI放缓鬼故事，我的机会越好，各种意义上的

@grok8888 我建议不要听。ai不了解你，他预测的是人类正态分布，alpha在极少数人手里

你说到点子上了，和我想的一样 机构为什么做不出来？ 第一，这个东西确实很难，需要深刻的工程能力和金融的交叉。但据我了解，机构已经用自己的数据开始做一样的事情了，例如 Jane Street 第二，作为机构，要真正做出这个东西并提供对外服务，很难有这样一个投研系统能够满足大家所有奇奇怪怪的需求。系统越通用，越众口难调。 所以我的想法就是利用自我递归迭代，特定地去解决专人专属的问题，而不是用一种通用强大的模型，奢求解决所有边角问题

过去两周，我把全部持仓和我过往的所有交易记录给了地表最强模型 GPT6 Ultra， 毫无保留。AI 真的能帮我做出正确的股票操作吗？结果让我失望，但我们在努力地解决这个问题。这个帖子分享我观察到的两个问题和我打算如何解决 1/ 我的任务很简单：每 10 分钟看一下投资的盘面、unusualwhale 的期权链和暗池，结合当前的 context 和环境，以及我的历史序列、财报+华尔街研报等等专有数据，去帮我做出当前最适合我的交易行为，买入、卖出正股期权 2/ 结果并不理想，我们现在在解决这个问题 1. 成本过高 如果你只是每天重复处理一类任务，每次都请最强的大模型来做，速度、成本和部署方式未必合适。 2. GPT6 只会说套话平均话，而赚钱靠的是独特的视角，和不被别人理解的选择 GPT6 虽然强，但模型厂商训练早就把它alignment了，不推荐用户高风险金融行为，所以你怎么问，你都会发现他在说车轱辘话 3/ 于是，一个很自然的念头出现了： 能不能让大模型先教会一个小模型，金融方面的一些特定技巧，以后这些活就交给小模型？ 并且用我的专属金融数据和我的操作观念，每天强行 align 这个小模型，每天和 GPT6 进行复盘，把对话轨迹、思考和与市场背离的地方进行校验，Post-training后训练：蒸馏加RL加SFT 训练小模型 让小模型突破只给 prompt 提示词的限制，输出更有意义的 insights，而非车轱辘话 这就是我认为强化学习 as a service 最有吸引力的地方。任何人都可以用和我一样的板块，把ta专属的数据给到模型。 这样的话，这个小模型就是世界上最了解他的投资习惯、容易犯的错误、持仓以及如何赚钱的人，并且知无不言，言无不尽 目前我们都是金融加技术背景出身，因此在团队内就把这个 infra 给闭环了。我们还在infra 搭建的过程中，checkpoint 迭代中。我也会找时间把我的训练过程以及操作情况给大家一一分享 短期内尝试出一篇技术分享，用通俗易懂的语言教给大家我们背后的原理 中期出一篇经验报告，分享给大家模型的效果，以及它真实实测下来到底能不能解决问题？ 长期的话，我们打算开源，让大家一起 commit，提供出我们的 RL as a service。让模型更懂你，不再说扯轱辘话，更便宜，实现投研平权

补充一点，我是怎么把这些 skill 杂糅起来，获得我的专属写作 skill？下面是我的 prompt, 直接复制给 AI 就可以 '''' 请帮我安装我给你的这个 skill 列表。 现在帮我结合我的这篇文档的若干片段，生成 X个不同的结果，依次请我评选，我会依次告诉你我的倾向、哪里觉得好和不好。 如果不懂的地方，你要对我进行追问；如果懂的地方，你要记录我的写作偏好，最后生成一个我的专属写作 skill。 ''''

很多人现在看到一篇文章，总会质疑：“是不是 AI 写的？怎么一股 AI 味儿” 前几天公司我的一个项目文档 AI 味过重，被隔壁团队一顿输出。我也觉得这样不行，我痛定思痛，找到了 GitHub 上十几种去 AI 味儿的写作方式，最后杂糅出来了一种属于我自己的 加上了一些生图 skill 相关的文档，润色了一遍。隔壁团队表示写的非常好，这才是人写的水平。我只觉得这个世界是一个大的草台班子 除去那些质量参差不齐的，我给大家精选了 6 种我觉得还不错的“去 AI 味儿”写作方式，每个都在我的实际文档上试过，给大家一个我个人实际体认为的排行榜，比较主观，建议大家都试试 第6名/ deslop｜Stephen Turner 写技术文章、研究报告，可以重点看它 它区分专业术语和空泛行话。一个技术名词确实能把事情说准确，就应该保留；“赋能”“生态”“颠覆”如果没有解释具体发生了什么，就会被处理。 我做技术科普很在意这个区别。读者看不懂，有时是因为前提没交代，这个逻辑需要补上 https://t.co/jUrXeDJxcJ 第5名/ humanize｜aashaexo / soundshuman 和上面类似 https://t.co/WSnAohkYZ6 第4名/ humanizer｜blader 它把夸大意义、模糊归因、机械排比、同款结尾等问题整理成了一套检查方法，而且先处理结构，再处理词汇。 我个人感觉效果不错，但是会丢掉不少原本的写作风格 https://t.co/yZeoVLp1VP 第3名/ anti-slop｜elithrar 它的主规则很合我意：小幅修改，保留事实、引用、技术主张、段落结构和作者论点。除非用户要求大改，不要擅自把整篇重做 对于一篇已经认真写完、只想再顺一遍的文章，我会优先考虑它 https://t.co/A3KVtSlqf5 前面三个排得高，我愿意让 AI 帮我删废话，但它得有个底稿，而且知道哪些东西不能删。 到了整篇都需要重写的时候，后面几款的用途就更明显了。 第2名/ slopbeth 如果这篇稿子里有财报数字、技术限制和预测条件，我会把它提到第一 https://t.co/7BeUZBXoAT 第1名/ no-ai-slop｜ @petergyang 如果只挑一个先试，我会选它 我很喜欢其中一个检查办法：把一句话里的主语换掉，它还能原封不动地放进另一篇文章吗？如果能，这句话可能没有提供多少信息 https://t.co/lSm3Vcoh1k 第 0 名：最后，我是如何用的呢？ 我做了一个简单的 adaptive harness。我用了这 6 个 skill 帮我生成了若干篇文章，我手动去删减、排版，告诉 AI 哪里好、哪里不好，最后杂糅成了一个我专属的写作风格Skill，加上了一些图表和以图为主的方式。不一定适用所有人，但我觉得在我这里是最好用的 有时候去掉 AI 味儿，可以获得自己劳动成果的尊重，也是放过对方的眼睛，不妨大家都试试

@runningmanfast 好问题，但人生何必一直向前发展呢，享受下普通的快乐，陪陪家人

@LanLance24 这是什么，比沙县好吃吗

今天送一位上周被 layoff的老朋友去机场，ta决定回国发展了，我们聊了很多，也都认为我们的职业可能会在 5 年左右消失。 难以想象一年半之前，我们还在对话框里跟 AI 聊天，把代码复制进去，再复制出来。写代码还是 Tab Tab Tab，用 Copilot 补全，而不是让 AI 直接写 我们也聊到了硅谷湾区这个反人类的地方，如果你是顶级天才，或者有不得不的理由在这里打工谋生、追求人生进步，这确实是个绝佳的地方，但它也是大多数人的围城 如果你随意找在这里的 10 个中国人，我想至少有5个都会跟你说，这里很无聊，想离开这里。这里的人种多样性堪比中关村创业大街 硅谷的确是一个会让人变土、变单调，变得人生方向收窄的地方。 回来的路上我在想，如果我没有从事计算机，在纽约、洛杉矶、上海，我的人生会不同吗？

继续上个帖子把 AI Agent 强化学习的学习材料补齐了，按入门 → 动手 → 进阶 的顺序, 推荐收藏阅读搞懂 ① 基础循环｜HF 的 RL 入门 学什么：观察 → 行动 → 环境反馈 → 奖励，先弄懂模型怎样与环境互动。 https://t.co/fFdGIhFFSC ② 奖励与训练｜How frontier models train on outcomes 学什么：怎样把任务结果变成奖励，再用奖励训练模型；评分方式会影响模型学到什么。 https://t.co/swSNP1QCNY ③ 更新模型｜GRPO Trainer 学什么：同题生成多份回答、比较得分，再用评分更新模型参数。TRL 就是 Hugging Face 的模型训练工具库。 https://t.co/4hpG9KryjQ ④ 训练环境｜One sandbox per rollout 学什么：任务与验收规则、Agent 的操作程序、沙箱和训练器怎样配合，为什么每次尝试需要独立的运行空间。 https://t.co/q7L3RGQJXo ⑤ 动手实战｜TRL＋OpenEnv 训练编程 Agent 学什么：让现成 Agent 在沙箱里做任务，把模型回答和工具调用整理成训练数据，检查结果，再接回训练程序。 https://t.co/WWn9T99nKV ⑥ 验证效果｜Evaluating agents with Inspect AI 学什么：用未参与训练的任务做评估，检查训练中的进步能不能用到新题上。 https://t.co/tuy2ROwtaF ⑦ 规模化进阶｜Keep the Tokens Flowing 学什么：让产生尝试和更新模型并行，减少等待；同时处理旧模型产生的数据。 https://t.co/a68TMYEz9P

很多人问，业界里的强化学习到底在做什么？本质上就一句话：用尽可能小的成本，高质量完成特定领域任务 我想用这个帖子举个例子大家串一下5 步简化流程，和我整理的一个 hugging face 系列阅读链接（免费，可放心使用），我把完整的阅读链接放在评论区 业界 RL原理本质上其实很简单：在特定领域出题 → 尝试 → 评分 → 更新 → 验证，反复进行，看似简单的流程，每一项都可以挖得很深，适合个人学习或者职业选择的方向 我举个例子用一个 Hugging Face 训练小模型，如何强化学习提升修 bug能力， 可以先抓住这几个步骤： 1/ 出题、定标准：选一个已有基础能力的SOTA模型，准备代码任务，提前规定怎样算修好 2/ 让你要强化学习的开元模型尝试：读代码、改文件、跑测试，根据报错继续改。这一整次尝试，叫一个 rollout 3/ 给结果打分：检查代码通过哪些测试，把结果变成奖励。奖励怎么设计，会影响模型往什么方向学 4/ 更新模型：收集多次尝试的记录和评分，用 GRPO 等方法调整模型参数 5/ 换题验证：用没参与训练的任务检查效果。训练奖励涨了，还要看新题能不能做好。评估方法 我整理的阅读资料按照这个顺序看： 1️⃣ 先懂基本循环：HF 的 RL 入门。用游戏例子讲清行动、环境反馈和奖励的关系 https://t.co/fFdGIhFFSC 2️⃣ 再懂怎么评分：How frontier models train on outcomes。看大模型怎样利用可验证结果训练，以及奖励设计为什么会影响效果 https://t.co/swSNP1QCNY 篇幅有限，如何更新模型权重？任务、工具、接口、沙箱如何配合？以及对应的HF 上的实战 demo，训练等待优化和旧模型数据处理的教程，我也一并整理好，我放在评论区 相信看完，你基本就半只脚趾头踏入了 LLM 后训练强化学习的部分