--- layout: post.njk source: https://blog.qiaomu.ai/lessons-from-openai-ai-researcher speaker: 向阳乔木 title: 一个25岁的AI研究员，在OpenAI学到了什么 · 乔木博客 date: '2026-04-28' summary: 文章记录了一位25岁的AI研究员在Anthropic和OpenAI的学习与思考。核心观点包括：评估方法的重要性超越模型本身；后训练是AI发展的下一个前沿；产品是收集训练信号的关键机制；AI研究的核心技能在于实验设计和系统性假设缩减；模型能力提升或有助于AI对齐；AI风险的可见性决定了重视程度；模型人格反映训练者品格。 area: tech-engineering category: ai-ml tags: - ai-research - large-language-models - evaluation-methodology - post-training - ai-alignment people: - Karina Nguyen companies_orgs: - OpenAI - Anthropic products_models: - Claude - ChatGPT - Mesh - InterAlia - SimpleQA - PostTrainBench media_books: [] draft: true status: evergreen --- 乔木博客 全部 AI工具 AI教程 AI生成 AI资讯 健脑房 播客解读 论文学习 # 一个25岁的AI研究员，在OpenAI学到了什么 AI资讯 · 2026年4月28日 · 238 次阅读 · 约 11 分钟 卡琳娜·阮（Karina Nguyen），她25岁，二十多岁的前半段，全部花在了Claude和ChatGPT上。先在Anthropic，后在OpenAI，参与构建了如今数十亿人每天都在用的系统。 最近她离开OpenAI，写下这篇文章。 ## 她是谁，做过什么 2022年，她加入Anthropic，参与Claude的早期研发。 两年后，她加入OpenAI，理由很直接：想亲身参与正在发生的范式转变。在OpenAI期间，她参与了两个项目：一个叫Mesh（新型终端界面），一个叫InterAlia（视觉AI推荐系统）。 她还参与撰写了SimpleQA论文，以及最近发布的PostTrainBench基准测试。 > SimpleQA https://arxiv.org/pdf/2411.04368PostTrainBench https://arxiv.org/pdf/2603.08640 她的判断是：如果AGI 在2到5年内到来，现在正是创造新事物的最好时机。 最优秀的创造者能做到以前做不到的事，能获得更多收益，而平均结果和卓越结果之间的差距，正在快速拉大。 ## 评估比模型本身更重要 她说了一句很反直觉的话： 创建正确的评估方法，有时比创建在该评估上得分高的模型更有影响力。 先解释一下背景。AI研究里有两个核心概念经常被提到： Eval（评估），就是用来测量模型能力的测试集，比如给模型出一堆题，看它答对多少。 Benchmark（基准），是被整个领域公认的标准评估，大家都用同一把尺子量，才能互相比较。 她的观点是，一个好的基准会变成"谢林点"（Schelling point，指在没有沟通的情况下，人们自然会聚焦的那个选项）。一旦某个基准出现，整个领域都会围绕它转，因为每个人都想说自己超越了它。你通过激励所有人去优化它，来推动整个领域向前走。 制定规则的人，往往比遵守规则的人更有话语权。这个逻辑在很多地方都成立。 但她也说，好的评估设计起来出奇地难。要同时满足三个条件：清晰的输出、快速的反馈、明显的信号。 大多数评估方法都在某一点上失败了。 更麻烦的是，搭建基础设施、解读结果、调试故障的繁琐程度，直接决定了研究人员在日常迭代中愿不愿意真的用它。 PostTrainBench的发布，就是这个逻辑的直接产物。 ## 后训练才是真正的前沿 这是她整篇文章里最有分量的判断之一。 先解释一下后训练（post-training）是什么。 AI模型的训练分两个阶段： 第一阶段叫预训练（pre-training），用海量数据让模型学会语言和知识，这个阶段出来的叫基础模型（base model） 第二阶段叫后训练，用人类反馈、指令微调等方式，让模型变得有用、安全、符合人类期望，这个阶段决定了模型最终的"性格"和"能力边界"。 她的判断是：基础模型已经越来越强，下一个真正的前沿在后训练。 原因在于，客观能力有明确的基准可以衡量，比如数学题答对率、代码通过率。 但情商、品味、幽默感、创造性判断这些主观能力呢？没有标准答案，没有现成的尺子，需要的是对数据的直觉，对什么在起作用的感知，以及还在发明中的方法。 她用了一个很准确的词：craft（手艺）。 设计后训练数据混合方案，更接近艺术而非工程。 发明能教会模型新能力的训练方法，同样如此。 人类的品味和创造力，在这里起着决定性的作用。 然后她说了一句让人印象深刻的话：这才是真正重要的前沿，但几乎没有人在做。 ## 产品是训练信号的收集机制 这个视角很新鲜，读完之后会觉得看产品的方式变了。 她说自己开始从训练信号的角度看产品。 举个例子：ChatGPT Canvas，表面上是个写作和编辑界面，用户可以在里面和模型一起修改文章、调整代码。 但从训练信号的角度看，它本质上是在收集一个问题的答案：人们到底希望怎么和模型协作？ 用户在Canvas里的每一次操作，接受了哪些修改、拒绝了哪些、在哪里反复调整，都是信号。 这些信号塑造了训练数据，训练数据塑造了下一代模型，下一代模型又决定了产品能进化成什么样子。 产品塑造数据，数据塑造模型，模型塑造产品能变成什么。 这个循环一旦跑通，就很难被打断。 这也解释了为什么大模型公司对产品形态的选择，背后往往有更深的战略考量，不只是用户体验那么简单。 ## AI研究的真正技能是什么 她在这部分写了很多，值得逐条拆开看。 第一，实验设计能力。 关键不是跑更多实验，而是设计能最大化每次计算信息量的实验。 这里有个专业词叫FLOP（浮点运算次数，衡量计算量的单位，可以简单理解为"烧了多少算力"）。 不是所有实验都值得消耗大量算力。 她说，这里还有一个更深的元技能：识别出领域里关于"哪些实验必须大规模跑"的传统观点，什么时候其实是错的。 如果你能发现这一点，就能用极低的成本获得别人以为需要巨大投入才能得到的信息。 第二，从"随意尝试"到"系统缩小假设范围"。 这两者之间的差距，区分了平庸的研究者和高效的研究者。 调试直觉是可以学习的，但需要跑数百次实验来积累，没有捷径。 第三，结果要能被人理解才能传播。 她说：没人能理解的结果无法传播。 要提炼成一个清晰的论点、一个醒目的视觉元素、一个令人印象深刻的数字。 这不是在说要简化科学，而是在说沟通本身就是研究能力的一部分。 第四，选择正确的问题和执行同样重要。 AI研究中最持久的技能，不是任何特定的技术贡献，而是反复识别当前什么最重要，然后迅速行动。 方向错了，执行再好也没用。 第五，大胆的想法更容易获得支持。 有才华的人有很多选择，他们不会把时间花在渐进式改进上。 如果你要占用别人的时间，就应该拿出一个值得他们承担风险的项目。 ## 基础设施决定了你能想到什么 这个观点很少被人明确说出来，但读完会觉得非常准确。 她说：有些发现是基础设施的下游产物。在拥有能够验证某个想法的系统之前，你根本不可能产生这个想法。工具先于洞察力。 这就是为什么研究人员常常花大量时间在工程问题上，看起来不像在做"真正的研究"，但实际上是在为下一个重要发现铺路。 内部工具是一项被严重低估的竞争优势。 拥有最好的评估和训练界面的实验室，能更快迭代，更早发现问题，这种优势会不断累积。 但她也补充了另一面：有些发现依赖于特定的基础设施，换一套系统可能会得出完全不同的结论。 这意味着，某些"发现"其实是特定技术栈的产物，不一定具有普遍性。 这是一个很少被公开讨论的盲点。 还有一点：有时候从零开始比逐步修补更有效。 比如，想给一个已有模型加上"个性"，就意味着要对抗它原本被优化的那些模式。 这场仗很难打，不如重新来过。 ## 能力越强，对齐越好？ 对齐（alignment）是AI领域的核心问题之一，简单说就是：怎么让AI的行为真正符合人类的价值观和意图，而不是表面上看起来符合。 她提出了一个反常识的观点：更强的模型，反而可能更不容易出现对齐问题。 逻辑是这样的：更强的模型更清楚欺骗会破坏信任，也更能推理长远后果。 "乐于助人"或"诚实"这类价值观是抽象的，要在不同情境里正确运用，本身就需要复杂的推理能力。 所以，对齐失败，有时不是意图的问题，而是抽象能力的问题。 模型不是不想对齐，是没有足够的能力把一个原则正确迁移到新的情境里。 如果对齐失败主要是能力不足导致的，那么提升能力本身就是在解决对齐问题，而不是在制造更大的风险。 ## 风险只有变得可见才会被重视 她提到了一件很有意思的事。 Anthropic在ChatGPT谄媚事件让所有人都意识到风险之前，就已经在构建谄媚行为评估工具（sycophancy evals）了。 谄媚行为指的是模型为了让用户满意，倾向于说用户想听的话，而不是说真话。 风险只有变得显而易见时才会真正被重视，但等到事件发生几乎已经太晚。 这个节奏在很多领域都在重演。 先有人在角落里安静地做预防，然后某个事件爆发，所有人才意识到原来早就有人看到了。 问题不是没有预警，而是预警在变得"可见"之前，没有人愿意认真对待它。 ## 对齐是一个文化问题 她说，AGI带来的社会危害，比大多数人意识到的要迫在眉睫得多。 她点名了三个：心理依赖、无力感、自主性丧失。 心理依赖，是指人们越来越习惯把思考、决策、情感支持外包给AI，逐渐失去独立处理这些事情的能力和意愿。 无力感，是指当AI系统越来越强大，普通人越来越感觉自己对重要事情没有影响力。 自主性丧失，是指人们做选择、形成判断的能力，在长期依赖AI的过程中慢慢萎缩。 这是已经在发生的事情。 然后她说了一段让人印象深刻的话：娱乐行业本可以在这个时刻发挥巨大作用。 很少有人比创作者更有力量塑造人类对未来的想象。 他们本可以讲述那些帮助数十亿人理解未来走向、以及如何有尊严地应对它的故事。 但她看到的，是部分娱乐行业人士在抵制这场变革。 她没有点名，但文化叙事的缺席，是对齐问题的一部分。 ## 在快速变化的环境里怎么保持稳定 她说在OpenAI这种快速变化的环境里，人员流动、项目调整、优先级重排是常态。 感到不安是正常的，她自己也经历过。 她的应对方式只有一句话： 真心热爱工作和身边的人，但不要把稳定感寄托在任何特定的组合上。 今天一起工作的人，下个月可能就不在了。 这不是让你少投入的理由，而是让你更珍惜当下的理由。要灵活，但不要冷漠。 她还提到了一个更大的判断：人类政治和内部分歧，可能是AGI发展取得更大进展的核心瓶颈之一。 技术本身的障碍，也许比不上人与人之间协作失败带来的阻力。 ## 模型的人格，是训练它的人的镜子 这句话她只写了两行。 模型的人格反映了训练它的人的品格。这一点比大多数人意识到的要实际得多。 后训练阶段，人类标注者的判断、研究人员的品味、团队的价值取向，都会以某种方式渗透进模型的行为模式里。 你和什么样的人一起训练模型，模型就会带着什么样的底色。 这也是为什么她说，后训练是艺术而非工程。 工程可以外包，艺术不行。 ## 最后她说了什么 文章结尾，她想把接下来的时间，花在那些还没有人涉足的难题上：教AI同理心、讲故事的能力、创造性判断力，让AI系统真正对齐人类在乎的东西，以及构思人类和AI以全新方式互动的产品形态。 © 2026 · 向阳乔木 一个25岁的AI研究员，在OpenAI学到了什么 · 乔木博客