--- author: 课代表立正 date: '2026-11-01' guest: '' layout: post.njk source: https://www.youtube.com/watch?v=C9QFBuce3j8 speaker: 课代表立正 tags: - ai-agent - forward-deployed-engineer - embedded-database - foundation-model title: 超线性学院AIE直播研讨Agent垂直落地、基础设施与基础模型探索 summary: 智慧芽、TensorChord与阶跃星辰在直播中分享了Agent落地实践：涵盖知识产权场景评测与FDE模式、面向Agent与个人会话存储的嵌入式云端基础设施需求，以及Step-2模型在端侧手机与专用领域的优化。 insight: '' draft: true series: '' category: ai-application area: tech-engineering project: [] people: - 刘紫薇 - 郭子欣 - 郑书新 companies_orgs: - 智慧芽 - TensorChord - 阶跃星辰 products_models: - Step-2 Preview - VectorChord media_books: [] status: evergreen --- [Speaker 0]: 嗯嗯，现在是技术上还出有点问题是吧？ [Speaker 2]: 呃，没有没有，我还行，就是我这边直播推流应该都是已经推上去了。呃，对，然后我们稍微再等几分钟吧。就是一般可能大家陆陆续续进来，可能我们十点零五分这样子开始好吗？好好，对，然后我会先做一个开场，然后对，然后到时候把这个画面交给您。好的，对。 [Speaker 0]: 嗯，一起我们的时间大概……不好。 [Speaker 1]: 好意思，您说你说。 [Speaker 1]: 我们的时间大概有半小时，对吧？ [Speaker 2]: 呃，半个小时我留了四十分钟，就是这边稍微超过一点什么，我们都是 flexible。 [Speaker 1]: 对，好的。 [Speaker 2]: 对，一般我们都是可能会晚五分钟开始这样子了，来来的观众会稍微再多一些。 [Speaker 1]: 对，好呀好呀好呀。 [Speaker 2]: 对对，欢迎欢迎刚进入直播间的朋友们。对，今天是 happy hello，万圣节快乐。如果有朋友在直播间的话，可以给我扣个 1，希望让我看到你们弹幕。左薇老师，您是 base 在哪里啊？是在北京吗？ [Speaker 1]: 我在苏州啊。我之前不是在做知识产权负责人嘛，然后之前我的那家公司在深圳，所以我也是刚从深圳搬到苏州过来。 [Speaker 2]: 对，感觉怎么样？那就是两个城市是不是感觉还是挺不一样的？ [Speaker 1]: 这个很不一样。对，因为深圳最近不是要办 APEC 嘛，听深圳的朋友说，深圳非常多地都在重新的翻新之类的，说为了 APEC 也是付出了很多。但 anyways 就是确实深圳和苏州的整个城市氛围和周边同事都有很不一样的感觉。 [Speaker 2]: 是不是感觉苏州会稍微 laid-back 一点，还是差不多？ [Speaker 1]: 我觉得可能是因为苏州有非常多外企的原因，所以我会觉得这边或多或少有一些外企的这种感觉在。然后比如说有些习惯，中午就是午休时间相对来说比较短，然后大家可能下班不会有那种强制加班的氛围，然后 work-life balance 我觉得还是可以的。但是我会觉得如果要做好 AI 产品的话，可能也会需要在某一些时间点要……比如说我们前段时间上了一个专利撰写的 MCP，那个因为要测要赶上，所以我们也会有一些加班。但不会有那种无效的以及过于内卷的那种氛围吧。 [Speaker 2]: 是，感觉现在 AI 公司感觉不管是在中国还是在美国，都是竞争非常激烈，非常卷的。对对对，压力很大的。 [Speaker 1]: 是的是的是的是的，所以也会需要非常敏捷地去做一些迭代，很不一样。因为我觉得深圳可能还是硬件比较多，所以深圳的一个怎么说，整个供应链对于电子方面的供应链都非常成熟。然后这边更 AI 的氛围我就会觉得更浓一点，就给我的感觉。 [Speaker 2]: 对对对，确实确实。行，我们时间差不多了，我们十点零五分，我们就准备开始吧。好，我们就准备开始吧，就我先来做个开场介绍吧。 ### 开场与活动介绍 [Speaker 2]: 非常欢迎大家来参加超线性学院的系列直播活动 AIE 和他的朋友们第二期，我是本场活动的主持人 Gordon。我之前呢是一位在 Meta 的工程师，也是超线性学院的老朋友了。 然后 AI Engineer 大会呢是在美国极富盛名的 AI 大会之一，也会在今年十一月五号到十一月六号，也就是下周登陆上海。届时呢会有非常多一线的中美 AI 企业前来进行精彩的分享。那么针对于没法参加线下活动的同学们呢，我们也是精心准备了此次线上的直播活动，邀请了九位 AIE 的金牌赞助商企业来进行线上的分享。那么这九位企业嘉宾呢都是在不同的 AI 垂直领域进行了非常多前沿的探索，我们会邀请他们来分享一些自己在各自领域的实践、一些观察以及一些对于趋势的判断。 昨天呢我们的三场嘉宾分别进行了对于 Agent 应用从一个 demo 到可大规模生产需要解决多少问题的一些讨论。那么今天呢我们会把目光投向 Agent 本身在行业内和在我们的生活中可能带来的一些变革。 我们都知道呢，在 2026 年 Agent 已经开始方方面面进入我们的工作与生活了，但是它具体带来哪些变革以及带来变革的过程当中又会遇到哪样的问题呢？这都是一些非常有意思并且值得被讨论的话题。所以我们非常高兴今天请来的三家企业分别是深耕于知识产权与 AI 的智慧芽、专注于做 AI 智能开源数据库的开源团队以及国内大模型六小龙之一的阶跃星辰 StepFun 团队。他们分别将从不同的角度来探讨 Agent 在未来可能带给我们的生活和工作中带来怎样的变革。 然后昨天的这个直播之后，我的很多观众朋友跟我反馈说我这个表情太严肃了。所以我回去看了一下，确实因为昨天的直播嘉宾都讲得非常的精彩，所以我听得非常认真。那么今天呢我也是认真地接受大家的监督。如果这个直播过程当中有主持人的表情问题给您带来的困扰，请你务必要在弹幕里面告诉我。当然也欢迎观众朋友们积极地提问和发言，非常感谢你们的参与。 另外最后呢在这边也要特别感谢一下通往 AGI 之路社区给我们本次活动带来的大力支持，谢谢。 然后我们请到的第一位嘉宾呢是来自智慧芽的产品总监刘紫薇老师。智慧芽是一家长期深耕于知识产权和专利的公司，也在近年来进行了非常多 Agent 落地的探索。那么我们都知道像知识产权和法律这样子复杂的行业里面，Agent 的落地其实是有非常多难点和卡点的。那么紫薇老师呢会给我们带来非常精彩的这些实践经验，以及最近非常火的 FTO 这个概念在真实的场景中是怎样被落地的。我们有请紫薇老师跟大家打个招呼吧。 [Speaker 1]: Hello，线上的同学们，大家好。我是智慧芽 PatSnap 的产品总监，之前是就职于一家硬件厂商做知识产权负责人的角色。那今年也是纵身跃入投入到 AI 的这个大浪潮里面，然后开始去做一些知识产权相关的 AI Agent 以及一些原子能力方面的开发。也非常荣幸有这次机会跟大家进行这次的对谈。那我这边就先开始。 [Speaker 2]: 好。对，欢迎紫薇老师。您这边开始吧。 ### 智慧芽全景与数据底座 [Speaker 1]: 好嘞，那可以看到现在的屏幕，我先给大家介绍一下智慧芽总体的一个全景。那智慧芽其实已经是一个 2007 年成立的公司，距今已经有 19 年的历程了。从最源头开始，它其实是做知识产权数据库出身的，那我们在 19 年间也是积累了大量跟知识产权以及跟创新相关的数据。那包括专利是我们最核心的，以及包括一些论文文献、生物序列以及一些技术的图书和相关的文献。那这些构成了我们做新时代 AI 的原生研发智能体的一些知识的底座。 在这个基础上呢，我们原始的一些专利数据库、情报的新药数据库以及生物序列以及化学结构的数据库也在近几年相继开发了 AI 模式。在这个 AI 模式赋能下，我们可以把我们的数据库和 AI 的能力进行一个连接。在近年我们也是开发了相关的智能体，Eureka 是我们智能体的这样的一个品牌。然后更多我们做的是知识产权，包括专利撰写以及查询检索的能力。因为专利是作为一个高密度的一个技术文档，同时我们基于 TRIZ 的这样的一个方法论，我们也可以赋能研发工程，做一些降本提效相关的这个能力。另外在生物医药和材料科学方面，我们也是能够基于我们此前一直积累的数据基座，去做一些新药的一些分析跟踪以及一些化合物的分析等等。那我们也是希望能够把我们的这个数据能力持续和 AI 的能力进行连接，然后更好地去赋能研发以及知识产权场景的各类的工作流和各类的垂直领域和应用场景。那这个是智慧芽目前公司的一个介绍以及大致的全景。 那我接下来可能分享一下就是我们的数据底座整体的一个量级。那结构化的数据已经达到了 20 亿+ 这样的一个水准。那跟这个专利文献相关的，我们持续更新的大概有 2.08 亿这样的一个全球的专利文献，以及包括科技文献，包括一些论文等等期刊类的，我们也是有相应的记录。然后全球的专利受理局，我们已经有一百七十四家的这样的一个支持全球专利受理局文献和文件的数据。另外生物序列和靶点覆盖我们也有相应的支持。那这个也是构成了我刚刚说的这个数据底座的一个能力。 ### 垂直领域 AI 的价值与落地核心 [Speaker 1]: 我今天想分享的第一个主线，其实也是之前我在加入智慧芽的时候一直在考虑的一个问题：就现在通用的大模型已经很强的情况下，垂直 AI 它的价值在哪里？或者说还有没有做垂直领域 AI 应用工具的这样一个需求？这是不是一个真需求？ 在这里也是给大家分享几个案例。因为知识产权其实是法律里面的一个分支嘛，它背靠的还是大法律这样的一个背景，当然它也有技术成分，所以知识产权其实是技术和法律 overlap 的一个领域。在大法律的这个方面呢，其实我想给大家分享几个案例。其实就是从 2023 年 ChatGPT 刚出现的时候，律师引用 ChatGPT 编造的一些不存在的判例提交给法庭的时候，法庭出具了首次的制裁，就是判了 5000 刀对律师的惩罚。在 2025 年，洛杉矶的联邦法院也出现了两家律所集体翻车，其实是一个律所的律师在加入另外一家律所、把这个案子带到另外一家律所的时候，也是出现了 AI 起草的 brief 里面出现了幻觉的一些不存在的案例。因为美国判例法是以 case law 为基础的，所以如果说是编造了不存在的案例，也是被法官判了集体性的一个专业失守，判了目前最高的一个罚单，三万多刀。在最近 2026 年 9 月的时候也出现了一个案件，这个时候这个律师用的 ChatGPT 不仅是编造了案例，还编造了不存在的律师和证人。这个其实也是因为律师的疏忽没有去做核查，最后被判了藐视法庭以及移交纪律委员会调查这样的一个结果，也是判了相应的罚金。 为什么想分享这几个案例呢？其实是想说也许在大模型对话的这个场景里面，一些幻觉可能还是可接受的。比如说我们日常跟 ChatGPT 说帮我去解决一个什么问题，或者说甚至帮我去算个命之类的，其实不期待它有一个完完全确的回答，因为你可能也很难说我再去核实一下《易经》是不是有这样的理论，所以可能对于幻觉这个事情的容忍度还是 OK 的。但其实在法律相关的这个场景里，幻觉是要付出真金白银和职业代价的。所以这个领域对于幻觉的接受度是非常非常低的。我觉得这个可能不是模型不够聪明的问题，我觉得可能还是通用这些模型没有扎透这些垂直领域。稍后我们会分享如何去扎透垂直领域，那这个我觉得可能也是我们垂直 AI 的一些点和机会点。 接下来我想分享一下我们怎么把 AI 真正钉在了一些专业场景里面。 一个我分享的就是“懂数据”。那这个其实也是关联到刚刚这个幻觉的问题了。因为在这个领域，幻觉是相对来说不可接受的或更难接受的，那我们是需要把我们每一条的结论都能够溯源到原始的专利或者说法律文本或者说科学文献里面，而不是单纯是模型记录的一个模糊的印象。所以其实看到最近很多不管是法律还是知识产权类的公司或 AI Agent，它更多关心的是怎么去核实 AI 输出的这个结论是有据可依的。它可能会有另外一个独立的 Agent 跟这个产出文件的 Agent 是不相关的，然后他们能够 cross-check，用 AI 而不是人工的方式去检验它输出的这个事情是真的有据可依、存在真实性的。 另外我认为可能会是“懂测评”。要让 AI 真的扎到垂直领域，可能还是要让 AI 真的懂行，它要匹配知识产权领域至少是要到普通的专业人员的一个水准。那我们怎么让它做到懂行？一个就是需要建立一些专业的测评，比如说 benchmark。现在很多通用大模型的一些 benchmark 可能是更 general 的一些测评，那我们要做透、扎透垂直领域，我们需要在对应的这个领域里面更加去深耕它，好的标准是什么。因为我们其实在做产品和用户访谈调研的时候，包括用户给我们一些 feedback 的时候，我们也会发现其实用户是带着答案来问问题的。包括我之前在企业做知识产权业务的时候，我们在试用 AI 平台经常是用我们已经检索过的一个专利，或者说已经写过的一个专利，脑子里已经有相应答案了；或者说一个正在答复的 OA，其实律师的脑子里面已经有了审查意见答复应该怎么答了，然后用这个去测试现在这个 AI 的产品是不是能够给我一个相对专业的回应。客户往往带着答案来问问题的情况下，如果说我们不能第一时间或很快地给他一个 aha moment，他可能就对这个 AI 失去了信任，他可能就觉得你根本不是一个懂行，你只能给出一个看起来像那么回事的文件，这个对于这个领域来说是比较难以接受的。而且我们觉得在这个过程中去建立用户信任是非常关键的。 另外右边的这两个，可能第一个是“懂场景”。我们需要把这个 AI 能力嵌入到真实的工作流里面。在知识产权领域，因为它会需要嵌入到类似于 FTO——其实它的全称是 Freedom to Operate，就是在产品上市前的一个风险排查——另外专利导航、前端的专利布局以及研发情报，它其实在各个公司都是有一些真实的工作流的。目前我们 AI 去赋能这些真实的工作流的时候，就不能仅仅停留在一个看起来对的答案，在 chatting box 里面的一些看起来很 fancy 的回复了，它可能要解决一个真实场景的问题。慢慢的我们认为它可能会更多倾向于交付一个结果，而不是停留在一个跟用户对话这样的层面上。 “懂边界”在这个领域是非常非常重要的。因为我们其实也观察到，美国加州近期已经签署了一个法案，律师不能全权把他的任务委托给 AI、托管给 AI，人类必须要去做决策，人类必须要去做一些真实的工作。那这个边界 human-in-the-loop 的设计到底要怎么去设计？要在哪些时候去停下来把这个决策交给专家？这个也是需要基于我们对场景的探索、对用户需求的探索以及对于 AI 能力的探索，去把这个边界定得更加清晰的。因为如果说再出现以往的种种幻觉等等的这些情况，我相信会让这个领域 AI 的应用变得越来越困难。所以我们会认为去做更好的 human-in-the-loop 的设计，让人在过程中去做决策、去参与，这样的一个设计是非常必要的。 在这里我也想停一下，看看针对这里大家有没有一些什么问题，或者说主持人老师有没有一些对于这方面的一些讨论？ [Speaker 2]: 对，谢谢紫薇老师。如果直播间的朋友们有问题的话，欢迎在弹幕里面跟我们进行提问和互动。那我自已这边呢是有一些问题的。我觉得您刚刚这边总结得非常好，数据、场景、评测以及边界是四个非常重要的、AI 真正进入知识工作流的必要条件。 我比较好奇的是评测这方面。刚刚我想到就是说，不知道您这边有没有一个比较可以抽象的案例可以分享一下？就是说你们这边是怎么去做评测的，然后如何去判断 Agent 的质量是越来越好的？有这样子的一个案例吗？ [Speaker 1]: 首先我们这个评测肯定我觉得不是拍脑袋评的。其实在做评测的过程中，我们跟非常非常多的行业专家…… [Speaker 1]: 因为比如说在知识产权领域，会有比如说律师、代理人、in house 等等的各种各样的这样的一个角色。那其实我们要是跟行业专家一起把这样的一个好的标准定出来的，那我们可能内部会把它叫——行业内其实也是这么称呼的——把一个 rubric 的一些规则，那其实就是用行业专家去标记一些好的和不好的标准是什么。 那其实我会觉得在知识产权这个领域，它其实也是背靠大大法务们。他有的时候很难说清楚一些 taste 的东西在里面，就是一些关于品味的东西在里面。对对对，所以其实我们对——因为这个其实或多或少这个领域都会有这样的一个情况，因为你会发现不同的大律师，他对于同样一个事情的观点可能也会有细微的不同。 那其实我会觉得我们做 1.0 版本的这样的一个 IP benchmark 的情况下，我们更多是摘取那些相对有确定性标准的，可以有 0/1 的那种标准、通过或不通过的那些标准。那这些标准也是跟行业专家一起共创的。那至于风味的那一部分、taste 的那一部分，我们可能会通过未来，比如说背靠背的一些专利的测试，或者说结果的测试会去判断。但 anyways 我会觉得，就是关于怎么说，关于审美的那一部分，我们可能未来要做好比如说 human-in-the-loop 的设计，把那一大部分的决策，就是最后那一点点一公里的决策交给用户，让用户跟我们一起把这个结果——就更符合这个客观事实，或更符合这个法律行业认知的一个结果共创出来。对，这个是我们目前的认知，对。 [Speaker 2]: 了解了解。那您刚刚也提到 human-in-the-loop 嘛，就是除了最后一段，我这个是 taste 相关的，这些东西需要是被 human-in-the-loop 来质检和判断的，还有没有刚刚您提到就是我们如何去判别在这个真实的工作流当中，什么该是被人来判断，什么该是可以放心地让 Agent 去自动化的呢？ [Speaker 1]: 我会觉得现阶段我们有一些中间过程是可以让 human-in-the-loop 去设计，但是这个是跟现在的阶段有关的。因为现在我们对数据的处理——因为我会认为现在的 AI 的判断力相对来说比较有限。那 AI 判断力相对有限，是觉得现在还没有给 AI 训练更多的一些判例的数据。比如说如果我们喂给它足够的美国的一些，或者说国内各个国家的一些真实的法官判出来的案子，这有非常非常多法官的判断或者说审查员的判断藏在这些数据里面。我们把这些数据进行了结构化和处理了之后，我觉得是有机会让 AI 慢慢提升这个判断力的。 但在现在这个阶段，其实这个判断力老实说做的还没有到完全能够达到人的标准那种程度。所以在现阶段我们做的 human-in-the-loop 的设计，更多是在人做交付的时候，有一些中间的交付节点。 我可以举个例子，比如说专利里面其实会有权利要求书和说明书。那在很多现在的场景里面，代理人和企业的 in house 交付的可能第一个版本先是权利要求书。那在这个权利要求书的这个中间节点，AI 就可以交付这样的一个中间结果，让这个代理人先去做一些 human-in-the-loop 的设计，human-in-the-loop 的这个判断的输入，然后再跟这个 IPR 去做一些讨论。完了之后，我们再写说明书，再产生全文的稿件。 也就是说，总结来说，我觉得可能的一个方式就是在中间的一些关键节点加入一些 human-in-the-loop 的判断。但是这个中间的关键节点也是跟现在人的一个工作流是相对匹配的，就是人觉得在这个阶段都需要大家一起来讨论去产生一个策略了，那我觉得在这个阶段 AI 加入，然后 AI 和人一起共同去共创这个中间结果，我觉得可能是比较合理的一种方式。 但是我觉得未来还是回到刚刚说的，如果说我们做一些垂直模型，让 AI 真的能够让它的判断力有所提升的话，可能就能够减少这些中间的一些结果的一些 human 的设计，然后到产出最终结果的时候，再让用户去调整最终的一个版本。真的是那个时候在校验的是一个 taste 的过程了。所以我觉得这个会需要一些时间的演进，也需要数据的处理和模型的一些迭代。 [Speaker 2]: 好的好的，谢谢紫薇老师。我们这边弹幕里面有一些问题啊，我们读一下。第一个是“有没有一些国内案例的分享？”左老师应该后面会准备一些具体的案例来分享，对吧？ [Speaker 1]: 是的，我一会儿会举一个案例来给大家分享一下，就是 AI 是怎么去赋能到比如 FTO（freedom to operate）的一个工作流里的，一会儿会去给大家讲一个 freedom to operate 的案例，对。 [Speaker 2]: 好好的。那第二个问题是“数据场景测评的边界在哪里？”我觉得这个边界更多的是指的是我们到底什么该去做这个测评，什么不该去做这个测评，是这意思是吧？我理解是这样子的，不知道您这边有什么样的看法？ [Speaker 1]: 怎么说呢，就像刚刚所说的，关于人的审美的那部分，我觉得做测评现在来说确实是比较难的。因为我可以举个例子，对于专利来说，它基于同样的一个技术文献，有可能这个保护范围可以往大了写，也可以往小了写。那这个可能每个公司它的策略不同，背后其实埋藏着它的战略意图是不同的。它往小了写的话，专利的稳定性就更高；往大了写的话，相对来说可能会有更大的保护范围，但是也是牺牲了一些稳定性。这跟每个公司来说是一种战略选择，那这个战略选择我会觉得很难用 benchmark 去做标准化或者说是量化，因为这个东西就是大家的品味不一的这样的一个结果。对，跟 strategy 相关的，我会觉得比较难去做 benchmark。 但是专利它其实有一定的规则，就比如说国内的专利审查指南，或者说美国也有 USPTO 颁布的一些关于专利申请文件的一些硬性要求。那这些有官方硬性要求的这些东西，我们是比较适合把它拿来作为一些测评标准，去做一些 rubric 的标准的。 [Speaker 2]: 对对对。 [Speaker 1]: 本质来说就是标准化的东西就比较容易做测评，那跟战略、品味和这些公司或企业的选择的这部分，相对来说确实比较难去做成一种测评标准，对。 [Speaker 2]: 好啊，那我们还有一个问题，是来自奥斯尔同学。因为时间有限，我们可以快速地回答一下：“在这个文献专利图书数据库建立的时候，是如何考虑获取版权授权的资料的？”就是在搭建这种数据库情况下，这个版权是有这样子的限制吗？ [Speaker 1]: 是的。因为我确实是法律出身、知识产权出身，我确实关注到前段时间——我就不明确说那个名字了——因为版权有非常大的一个争议，然后也是跟版权方最后以非常非常高额的一个金额去和解了这个版权的问题。所以其实现在我理解大家都会非常关注在训练和利用数据的时候这样的一个版权的风险。 那我们在去收集这样的数据的时候，肯定也会去关注这个版权。如果说这个版权人需要去得到相应的许可，我们也是会去争取这样的一个许可；如果说是官方数据，它不能够做商业化，那我们也是严格不去给它做商业化的。但是我们可能会把它转化成一些 know-how 的方式，去把它用在我们的产品里面。 [Speaker 2]: 好的好的，谢谢紫薇老师。我们这边最后一个问题是关于专利文件……这边我觉得主要是您下一个分享，就是你们 FDE 工作对吧？就是如何进入这个实际工作当中的，我觉得这边应该也会说到这样的问题。我们先进行下一步讨论，然后再回到这个问题，怎么样？ 您这边听不见吗？哎，我说话还是听不见？哎，是不是我重连一下？ [Speaker 0]: 好呃， [Speaker 2]: 我这边卡了。 [Speaker 0]: 现在 OK…… [Speaker 2]: 要不我这边 rejoin 一下。喂，可以听见吗？ [Speaker 0]: 啊， [Speaker 2]: 呃我给你退一下…… [Speaker 0]: the the ly, [Speaker 3]: the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the the ey. [Speaker 2]: Hello，现在可以听见了吗？可以听见哦，OK 子欣可以听见。但是紫薇老师这边您好像我还是没有声音。要不您这边也是 rejoin 一下，可以吗？不好意思大家，这个技术上有些问题。 [Speaker 0]: 对对， [Speaker 2]: 子欣您这边稍微可能我们会稍微延期一下，因为我们这边技术上遇到了一些问题，可能晚了 5 到 10 分钟等会儿，可以吗？不好意思啊。 [Speaker 2]: 可以没问题。 [Speaker 0]: 好啊， [Speaker 2]: 抱歉啊。各位如果还有什么问题的话，我们也可以在评论区里面打出来。然后我觉得刚刚紫薇老师讲的是挺不错的，对，这几个东西也是我自己在做真实的 Agent 实践过程当中遇到的这些问题。我们稍微等几分钟，等紫薇老师再加进来。 喂，hello，几位老师可以听到吗？太好了！ [Speaker 1]: 太好了。 [Speaker 2]: 好的好的，那我们继续啊。遇到了一些问题，不好意思。就是我们刚刚聊完 Agent 进入 workflow 这么重要的需要解决的问题，那我接下来会聊一聊 FDE 这个最火的模式啊。我觉得我们开始可能给不知道 FDE 是什么的朋友介绍一下 FDE 是什么，然后介绍一下您这边是怎么做 FDE 的，怎么样？ [Speaker 1]: 好的好的。那现在应该可以看到我的屏幕，对吧？ [Speaker 2]: 现在可以了，在分享当中，可以看到，是的。 ### FDE 模式与落地实践 [Speaker 1]: 好，那我们讲到 FDE 模式。其实刚刚我们已经聊到了，要把这个 AI 真的钉到专业场景里面，更多还是要去懂场景，知道真实的工作流是什么。那其实我会觉得 FDE 模式是了解客户真实的工作流是怎么样的一个非常好的方式。 FDE 它的全称其实叫前端部署工程师（Forward Deployed Engineer）。我们现在怎么去把它放到客户的工作流里面？其实第一部分我们做的是一个现场理解的工作。我们会有的专业的专家团队，那这些专家团队可能前身都是 IP 领域的，比如说专利代理人、in house 的 IPR 或者说律师等等。我们现场走进客户，去真实地理解客户的工作流是怎么样的，数据环境是怎么样的，以及他认为成功的标准是怎么样的——他是节省了人力，还是做了 cost down 等等。我们需要去走进他真实的工作流，而不是在会议室里去听听需求。 那第二部分我们会有一个快速迭代的方式，就是我们现在的 FDE 其实是一个自闭环了。因为我们其实有一些 Agent 迭代，但是在 FDE 模式下，这个 Agent 迭代它有自己的 roadmap。我们需要有一些 AI 的工程师直接到 FDE 的这个模式里、这个项目里去现场帮客户去迭代。所以我们现在 Agent 的这个 roadmap 它可能会有自己的一个发展路径，但是 FDE 的模式，我们有专门的 AI 工程师去深入现场，跟我们的行业专家一起去给客户快速迭代，然后把 AI 的能力切入他的工作流里。当然产线会产生一些例如说 MCP 或者说原子化的一些能力或者 skill，让 FDE 能够快速地去落地，然后也跟客户一起去调试，这个过程肯定是非常敏捷的。目前了解到，我们 FDE 那边的交付周期可能都是一个月内就会去交付，长的可能也不会需要拖太久。那我们也是满足客户快速落地的这样的一个需求，迭代速度也是非常快、非常敏捷。 最后会有一个共同验证验收的过程，那就看它对真实的业务是如何影响的，以及如何去提效的。这个可能就不会像对话这样由人去打分了。每一个客户可能在第一次的时候就会跟我们说他的一个成功标准是怎么样的，或者说他期望会是怎么样的一个交付模式或者交付的程度，最后我们也会有个共同验收的方式。 所以我们现在的 FDE 其实会有咨询加上 AI 工程师快速落地整体的一整套方案。我们也是希望在这个过程中，让我们整个公司快速地去打透一些垂直领域，知道场景是怎么快速交付。同时我会觉得它不仅是一个定制项目，其实也是对 Agent 的迭代或者对 MCP 的一些迭代，都是有一个很好的触角的功能或者功效的。因为我们对场景理解得越深，其实对 AI 和人的边界也会理得更清楚，我们也会更知道需要在哪一个环节有一些 human-in-the-loop 的设计，也会知道工作流怎么去设置，以及我们的一些原子化能力拆解到什么程度能够让未来我们去做一个统一的 AI 的 IP 协作平台的时候更加保持它的灵活度。那可能最后就并不一定是还需要大规模的 FDE 了，可能我们拆解一些原子化的能力，辅助用户在我们的平台上能够做一些轻量化的定制的 workflow 这样的设置，最后可能就能够满足用户的需求。 所以总结来说，我会觉得 FDE 是一个快速让客户能够感受到 AI 对他工作提效的一个很好的模式。同时它也是一个很好的对于产品进化的触角，能够反哺我们做 Agent 或者说做一个 all-in-one 的 AI IP 平台。它是一个很好的 basis，我们去做这个平台的时候也更加有一些场景的基础。那这个是我对 FDE 的一个介绍，以及我们现在正在做的一些工作。 接下来我可以分享一个场景，也非常有意思，因为跨境电商最近几年非常非常火。其实我可以给大家分享的是一个跨境电商是怎么做 freedom to operate，传统的 freedom to operate 是怎么做的。 我可以举个例子。FTO 它全称是 freedom to operate，它的本质是我的产品在上市之前，我要先去排查一下它的知识产权有没有一些风险。这个风险可能包括专利的风险、商标的风险以及等等其他的风险。专利的风险在企业来看可能是占比最大块的，然后我们可能要去做大量的检索工作的。 那传统的 FTO 是怎么做的呢？它其实针对一个产品，要逐件去检索全球的专利，它的工作量是非常大的。生成一个 FTO 的报告，成本也比较高，然后逐件要去做一些侵权的比对分析，周期长、成本高。而且这个对于跨境电商来说相对来说不好接受，因为它会需要在很短的周期内上架非常多的 SKU。如果说用传统的 FTO 的模式，它其实根本来不及做的。 这种传统的 FTO 比较适合什么呢？就比较适合研发是长周期的，可以在比如研发的 proposal 阶段就深入进去，做一些相关的风险排查。那对于跨境电商模式，跨境电商需要短周期、快速上架、快速排除风险。 [Speaker 1]: 那现场我们跑出来的工作流，其实是他们是怎么去做。他们是先把他们想要上架的货品去做一些匹配的检索。他可能就先看一下，比如说阿里巴巴等等这些电商平台有没有一些相似外观的产品。那如果有相似外观的产品，他可能再去核查一下这个权利人。比如说对应的公司，或者说对应的公司的法人，或者说相关的这个公司梳理的人，他有没有对应的一个知识产权的布局。然后针对这个知识产权的布局去做一些针对性的比对，快速出结论。他这样其实就是避免了逐渐地去检索全球专利以及逐渐比对这样的工作，它是更加有的放矢的，然后能够快速地贴合场景需求的，然后贴合这个跨境电商上新速度的，那去做出来的这样的一个 FTO 的结果。那这个其实是我们 FDE 在现场跑出来的工作流。因为刚刚其实也介绍了我之前是在深圳某个硬件大厂做知识产权的，那其实我们之前在…… [Speaker 0]: 硬件厂商去做 FTO 的模式也是完全不同的。其实跟这个公司在行业里的地位，以及它的这个行业的竞争态势都有关系。那我在第一次知道跨境电商的工作流是怎么样的时候，我也觉得这个事情非常合理。那如果我们没有 FDE 去现场去跑出来，其实我们在办公室里是没有办法凭空想象出来这个需求和这个工作流的。那这个也是我们在现场跑出来的一些经验。 所以其实在这里我想分享的是，就是不同的行业或甚至是相同行业的不同的公司，它其实对于这个人的要求，对于 AI 的要求，对于 AI 去提效这样的一个整体的期待是不同的。因为它有可能是周期长的，有可能是周期短、需要的结论输出比较快的。那我们其实要真正解决这个场景下的一个具体的问题，还是需要知道他现在的工作流是怎么样的，以及他的 expectation 是怎么样的，而不能说凭空去拍脑袋想出来。因为这个东西就可能很难去了解各种行业、各种领域、各种公司的需求了。所以我会觉得 FDE 这种模式在现在这个阶段去打透和扎透垂直领域，还是一个非常好的一个触角和方式。 那这里其实也是我分享的关于这个 FDE 模式的一些案例了。然后看看大家有没有一些什么具体的问题。 [Speaker 1]: 好的，谢谢紫薇老师啊。这边您方便把这个幻灯片全屏一下吗？因为这边看到您说的…… [Speaker 0]: 对对对，可以的。 [Speaker 1]: 可以的对。不知道这样会不会清楚一些？然后光源呀？好呀，行，好的好的，这样清楚多了，谢谢谢谢。对，然后关于 FDE 呢，我自己特别是您刚刚提到那个 FTO 的案例，特别的感同身受。因为我自己之前也尝试做过跨境电商，然后做跨境电商最头痛的第一步，就是要选品，就选一个名字嘛，给自己这个品牌，然后要去那个 USPTO 的网站上面去搜，一个个去搜。然后这样子有没有被侵权，有没有这个风险。然后当时我就在想要是有什么 AI 能够自动化这个就好了。对，然后…… [Speaker 0]: 是的是的。 [Speaker 1]: 对，然后这边有一个观众的问题啊，就是一般做 FDE 一般用什么 agent 以及客户的主要的需求的业务有哪些？我不知道您这边方不方便分享一些，就是说你们具体用的这……我相信你们的 agent 应该都是自己搭的。但比如说在模型层面，有没有一些经验可以分享一些，就是模型做什么样会比较好，以及这些客户的需求一般都是从哪去获取的，对。 [Speaker 0]: 好，我先回答第一个问题，就是它是搭在什么样的一个基座，或者说是什么样的壳的。我们最近发现啊，我不知道是不是能够回答这个朋友的问题，我们最近发现 WorkBuddy 在国内的生态确实是非常的强劲。我们会发现我们很多不管代理人或者说是 in-house 的需求，很多都是来源于：“哎，我知道你有……我也知道你有这个 MCP 的能力，但是我想试一下在我们的这个 WorkBuddy 的生态上能不能去运行得开。”然后想比如说把我们的一些 MCP 接上他自己去手搓的一些 skill，或者说我们 FDE 一起帮他去做了一些 skill，然后大家在 WorkBuddy 这种生态下面，这个可能是一个。 然后另外其实我会发现，比如说国内吧，国内对于模型的选择也是非常看重的。就是现在其实国产模型的能力也慢慢地提升了，而且因为有一些跨境的一些数据出境的一些问题，跟国内的很多公司更多还是希望用国内的模型。那国内我们也是支持跟客户去讨论，去选择不同的模型的。比如说国内的几家 Kimi 啊、DeepSeek 等等的这种模型，我们其实都可以去支持。在模型选择方面，可能更多还是要看这个客户对应的地域，以及他对于这个数据安全和数据出境的一个考量。 那我们其实是支持去做这些配套的，以及也支持这个 WorkBuddy。确实在腾讯非常强势的这样的一个推广下，它现在确实非常占领用户的信任和心智了。所以我们其实也比较支持在 WorkBuddy 上去运转一些可能的工作。当然也支持用国产模型或者说一些模型去搭建用户自己全链路定制的一些 upstream，这个其实都非常的 flexible，对。 [Speaker 1]: 好的好的，谢谢紫薇老师。对，然后我这边可能还有最后一个问题吧，可能也跟我个人相关。那如果我自己之前像我这样子，以前是纯写代码的工程师，对吧？我现在要转型成一个 FDE。那您刚才也提到就是 FDE 的工作流，您这边的配置当中基本上是一个人可能会需要去做到：我对这个产品的业务需求理解，并且把它拆解成工作流。那这边您对我有什么建议吗？那我想要转化成 FDE 的话…… [Speaker 0]: 我会建议你去搭一个懂这个领域的人。比如说我们做透知识产权场景，我们是上来给方案，其实是行业专家在给方案。那我们现在的行业专家，很多都是在知识产权领域确实做到比较资深的一些代理人或者说是律师再去给方案。我会觉得 FDE 工程师和专家的这样的一个班子非常的合理。因为如果说这个人是工程师出身的话，他其实在理解一些垂直领域的一些工作流和一些怎样比较 tricky 的事情的时候，他是有理解障碍。但是如果中间有专家去做很好的一个桥梁和沟通的工作，他就会变得更加容易理解。因为这个专家他可能一方面是懂这个行业的，一方面他因为又有比如说智慧芽的一些培训，或者说是对 AI 的一些理解，他能够很好地起到中间的沟通桥梁的作用。 但我会觉得如果说纯的一个 FDE 的 AI 的工程师，他完全没有任何这个行业的背景，要去跟这个行业的非常 senior 的一些专家在沟通一些 AI 提效和 AI 部署的一些工作的时候，沟通会有一些没有那么的 smooth。当然我觉得长期如果能积累的话，可能也是 OK 的。所以我会建议他能够去跟一个懂这个领域的一个行业专家去搭这样的一个班子，然后他们一起去做深做透 FDE 的这个事情。这个是我的建议吧，不知道有没有回答你的问题。 [Speaker 1]: 有有有，当然有，非常希望自己可以找到这样子的一个专家。对对对，这边时间有限，但是我们弹幕里面还有两个问题啊。好呀好呀，刘老师如果方便的话，可以留在这个直播间里面，然后请在弹幕及时回答一下这个朋友的问题。然后我们接下来的话，可能需要把时间交给下一位嘉宾了。不过我们这边呢先感谢一下紫薇老师，我们可以给紫薇老师扣个 1 或者鼓个掌啊，谢谢紫薇老师精彩的分享。 [Speaker 0]: 也希望大家回头是不是可以把我的联系方式发…… [Speaker 1]: 可以直接在弹幕里面说。 [Speaker 0]: 对，我会把我的联系方式发给大家。然后如果大家想要找我沟通的话，也可以，anyway 邮件任何方式都可以跟我沟通，也欢迎大家合作和加入，OK。那先到这里。 [Speaker 1]: 好，谢谢紫薇老师啊。这边可以欢迎把您的联系方式直接在弹幕里面打出来。好好好，那我们就先进入下一位分享吧。 ### 开源数据库与 Agent 基础设施革新 [Speaker 1]: 我们刚刚听到紫薇老师精彩的分享呢，确实也看到 Agent 要真正改变一个行业，需要非常多在这个行业上面的深耕和积淀，中间需要解决非常多的问题。 那接下来呢我们要带来的分享是关于 Agent 会如何对基础设施带来一个怎样的变革。那么今年以来呢，类似于像 GitHub 一样的代码托管仓库基础设施，大伙在这个层面上面受到了非常大的挑战。当今的互联网呢，我们运行这一套已经相对成熟、稳固、被验证过的一套基础设施。但是如今在 Agent 的时代呢，我们对基础设施又会有新的需求，相当于 Agent 倒逼了这个基础设施的革命与发展。 那么接下来呢我们非常高兴有请到的是开源数据库的 founder 郭子欣老师。然后他会分享一下自己是如何从大厂出来开始创业，到现在运营一个这样的开源项目的亲身经历，以及他们现在正在做的这些关于 AI 智能基础设施的革新到底有哪些。我们请子欣老师跟大家先打个招呼吧。 [Speaker 2]: 嗯，hello，金黄老师你好，然后直播间的大家你好。然后我是郭子欣，很高兴今天在这里和大家一起分享我的一些创业过程当中的经历或者经验，包括我们怎么去做这个创业，以及在过程当中我们也踩了哪些坑。然后包括我们现在在做什么，我们对于 Agent 未来这种新的应用形式，它会对整个软件的基础设施带来什么样的影响和改变，提供一些我们的一些视角和看法，很希望能在这里和大家一起进行分享和讨论交流。 [Speaker 1]: 好的，欢迎欢迎子欣老师。我们这边有准备一些物料吗？或者说可以分享一下大纲吗？ [Speaker 2]: 对，我有大纲，我投个屏吧。 [Speaker 1]: 好，您这边方便投个屏。然后整个分享您是觉得我们用对谈的形式来做呢，还是您这边先分享一下，然后我再跟您互动一下，这样子会比较好？ [Speaker 2]: 我们就轻松一点吧，就对谈形式就可以了。我也就是感觉这样活人感会更强一点。 [Speaker 1]: 好呀好呀，没问题，我们是一个很有活人感的直播间啊。那我们现在先聊一聊子欣老师自己的故事吧。可以先讲一讲您之前是做什么的，为什么出来创业，整个故事能够大概简单介绍一下吗？ [Speaker 2]: 好啊好啊。我们现在是出来创业，公司不管是公司还是产品名字就是 TensorChord。我们现在是做到种子轮，目前是在做开源的数据库 VectorChord。然后以及我们接下来今年底会有一个关于我们如何去支持 Agent 数据存储的这样子的一个产品上线。 然后在我们创业之前呢，我自己本人，包括我们团队 founder 团队是在字节跳动。我是在字节跳动做数据相关基础设施。当时出发创业的初心其实就很简单，就觉得自己在字节做过很大规模的每天处理海量数据的这种基础设施，觉得自己做数据库、做基础设施很强，很有经验，觉得可以把这个东西复制，不仅是在字节内部去受用，也可以去赋能更多的其他公司，所以当时就决定出来创业。然后后面发现，自己给内部去做一个基础设施，和去做一个产品卖给其他人，完全不是同一回事。然后这也是我们当时踩的第一个非常大的坑。 然后当时为什么想出来创业，也是觉得自己不是特别喜欢这种大厂的氛围吧。在字节其实当时觉得做技术的话，其实我在字节每年的绩效都是至少是在 M+ 以上。技术这块做到差不多之后，再往上，大家如果是在大厂的话就会有感觉，就是你想要再往上，更多的是有没有好的机会，有没有去拿到一块比较有发展或者有潜力的业务。当时想既然自己要在内部去等一个这样子的机会，那为什么不出来做呢？所以当时刚好有一个契机，就是我们当时去申请了奇绩创坛，然后也比较顺利拿到了奇绩创坛的天使轮融资，所以那个时候我们就出来做了，对。 [Speaker 1]: 好的，谢谢子欣。您刚刚提到说您出来创业之后，会有一个非常大的心态上的转变，也踩了很多坑嘛。这个方面可不可以细细讲一下，就是主要感觉出来创业之后，跟大厂工作的主要心态上转变是什么，以及踩过哪些坑呢？ [Speaker 2]: 我觉得最大的一个区别就是你在一个大厂内部，你获得的是内部需求。内部需求的话，很多时候你不需要去找用户，用户会自己过来找你。因为你相当于是内部唯一的供应，就是你的其他部门的同事的唯一供应商嘛。那他们有需求的话，就会直接跟你说：“哎，我有个这样子的东西，我有个那样子的需求，我对 infra 有这样子的想象，你能不能支持一下？”那作为一个内部的 infra，你需要做的事情很简单，就是你只要做系统设计，你只要去概括，你只要去抽象用户的需求就可以了。 但是在外部市场化的环境，没有人知道你是谁，没有客户会主动走过来说：“哎，我需要你去帮我去做一个这样子的东西。”所以主动地去寻找你的用户群体是谁，或者说你希望为什​​么样的人服务，然后尽可能地去如何挖掘到他们的需求。我觉得这是一个很多技术创业者很难迈出的一步。很多人包括我自己，其实也是很习惯了以前需求主动过来的这种情况，不愿意去和别人聊，或者不愿意去承担一个 sales 卖的一个工作，去接触用户的需求，然后不习惯被人拒绝。我觉得这是一个最早我们觉得是一个很大的不一样的地方，对对对。 [Speaker 1]: 非常非常同意，我也认同。就是我们还是要更多地走到台前去，然后去卖，去做 go-to-market，要去跟人聊，然后被拒绝，就是一个非常大的一个转变。那您这边刚刚有提到踩过一些坑嘛，在这个经历当中有没有什么您觉得现在回过头来看可能会避免做的一些动作或者想法？ [Speaker 2]: 好呀好呀。就我们当时出来的时候，我们当时在奇绩的时候做的项目，其实和我们现在做的开源项目又有很大的不同。当时我们觉得 OK，我们有很多经验去做一个分布式的数据库，那我们可以做到很好的 benchmark，我们的性能很好，那我们就把这个性能给它做上去。然后我们做一个比现在市面上同类数据库性能更好的一个这样子的数据库，那自然就会有人买。那这其实是一个我觉得当时来看是一个比较天真的想法吧。因为首先需要考虑的问题，就是什么样的公司或者什么样的客户群体，他需要一个高性能的大规模的分布式数据库？就是这东西他到底最后是卖给谁？那当时我们就觉得在国内这个其实是比较难做。 ### 转向开源与嵌入式数据库定位 [Speaker 2]: 因为你想就是对绝大部分公司来说，其实只有像阿里、像字节这种比较大的互联网公司，它才有可能去有一个非常大规模的分布式的问题，然后他才有可能去有这样子的需求。那如果说你主打的一个卖点是性能好，然后大规模分布式，那你的客户群体或者说你的用户画像就注定的是一些比较大的这样子的大 B。那针对大 B 的销售的话，我觉得并不是一个以开发者为……就是我作为一个开发者，然后作为一个 founder，然后能去比较好去做事情。 所以说当时我们在字节孵化出来创业的过程当中，我们就觉得还是应该做我们作为开发者擅长，或者说是我们更加熟悉的客户群体。所以说我们就去做的是转变去做开源，去做开源社区。然后同时也把我们的这个方向，从一个可以很好地 scale、很好地就规模化的一个数据库，改变成了一个可以非常方便地嵌入在一个应用程序内去使用的数据库。 然后呢，你不需要单独再去部署一个额外的一个数据库服务，像 MySQL 或者像 Postgres 一样；或者说是在海外的话，很多人会去选择使用像 Supabase 或者说 PlanetScale。那你数据直接就放在 S3 上，你的数据库就直接被嵌入到你的应用进程内，那你去使用数据库就很方便。同时呢你也不需要去花额外的……就去订阅或者说购买一个额外数据库服务。当时就是这么想的。 然后我们就重新改变了我们的这个定位之后呢，我们就去做，然后去开源我们的数据库。然后我们把我们的数据库主要是在海外的 Twitter/X、LinkedIn，然后 Hacker News 上去做运营。 然后当时也是取得一些非常意料之外的效果吧。因为当时在 24 年的时候——24 年底、25 年初的时候，很多开发者，甚至是一些比较炙手可热的独角兽的 SaaS 平台或者 infra 平台，他们都非常关心数据如何、尤其是数据库的数据如何直接放在 S3 上。因为大家都知道 AWS S3 是一个非常便宜，然后非常好去做规模化的一个底层存储产品，AWS 提供的一个底层存储产品。但是它的这个数据交互的接口是非常受限的，你没有办法用一个 SQL 的方式去操作或者写入数据。那大家都非常关心这个问题，所以说当时也是获得了非常多圈子里的人的关注。 然后当时也是有一个非常神奇的事情，就是我们其实没有任何的……因为我们自己本身也是在字节工作，然后一直都在国内，其实从来没有去做过海外这种社交媒体的运营，也没有过这种内部个人圈子或者说渠道。但是有一天我记得很清楚，大概是前年差不多也是国庆节，就是 10 月份的时候，然后我们过完国庆节回来上班，然后突然就发现 Twitter 上有 Supabase 的 CEO，然后他就直接在 Twitter 上就私信我说：“唉，我看了你们项目，然后我觉得这个项目很有意思。你们是个人还是有企业，还是有团队？如果你们有团队的话，我可以投资你。”然后我根本都不认识他，之前也没有 follow 或者互粉，所以是一个很神奇的。我们当时还一度以为他是一个那种高仿账号或者说是一个骗子，但是结果是真的。然后我们后面确实是拿了他的投资，他确实现在是我们的天使投资人。 然后后面其实还有很多类似的事情，有 Cursor 的 CTO 其实有直接发邮件，就是问我们愿不愿意加入到 Cursor 去做。因为他们其实都有关注到，就是说我们想要把一个数据库直接放到 S3 上这件事情。然后当你很真诚地去分享你的一些实践，或者说你拿出来一个开源项目之后，他们是非常有兴趣进一步地去了解，或者说是怎么样去做合作。 [Speaker 1]: 对，了解了解。我们可以聊一聊，您这边做海外的这种社媒或者说是这种 Hacker News 的这种运营，就刚刚提到 Supabase 跟 Cursor，CTO 和 Supabase CEO 都有关注到你们，那可以介绍一些比如说你们做这个方面的一些心得吗？就是你们是怎么让他们关注到你们的，以及做这个事情你认为有些什么样子的心得可以去分享一些呢？ ### 海外技术社区运营与开源逻辑 [Speaker 2]: 好的。其实现在有特别多的中国的一些不管是独立开发者也好，还是 AI 企业也好，他们去尝试出海的时候，很多会选择在 Twitter/X 上运营。当然现在的情况会有所不同，但当时的话，其实我观察到一个现象，就是很多国内的开发者会优先选择发中文内容。觉得因为中文内容的话，其实起号是比较快的，因为你发了中文内容，大家都知道 X 现在其实是有推荐机制，那你发中文内容可能可能会被推送到国内的其他的一些开发者。然后这个时候如果大家觉得你做得不错的话，你的 follower 会涨得很快。 但是怎么说呢？就是我觉得现在中文的开发者圈子相对于海外来说，还是比较闭，就是大家比较闭合在一起吧。就是说如果你想要达到一个破圈的效应的话，我觉得首先还是应该优先考虑的是以英文为母语的这样子的开发者群体。因为他们这个群体其实相对来说更广泛，而且多样性会更多。所以说如果你想要验证的是一些比较新的场景的一些新的需求的话，我觉得首先还是应该考虑的是英文内容。 然后另外一个的话，我觉得还是和我们刚刚提到的这个点——关键就是你到底是希望为谁解决一个什么样的问题，然后再就是怎么找到他们。如果说你希望做的项目是被在海外的、比方说硅谷的这种独角兽公司关注到，被他们的 founder 关注到的话，那你就要关心这些 founder 他们在关心什么问题，他们希望看到一个什么样的 infra 出现，有哪些他们会自己做，有哪些他们希望找到人合作来做，或者说希望扩充他们的生态。 然后这个其实是有推荐机制。像 Twitter 这样的平台有推荐机制，它其实本质上非常类似于像 SEO 的，就是因为他们会关注有一些具体的问题。比方说 database over S3，那你做的是相关的工作，那你的推文就很有可能会被推送到他们的 timeline 上。你的内容先被推送到他们 timeline 上是第一步，然后他们看到了之后觉得你的东西不错，那你自然就会有更多潜在的机会出现。所以说抓到你做东西想要被谁看到，然后他们在关心什么问题，然后你去做一个这样子的东西，然后你东西会被算法推荐给他们，然后你的内容真的不错，他们就会反过来找你们，我是这样子想的。 然后另外一个的话，就是我觉得开源对于我们来说在这方面还是非常重要的。现在其实大家都知道，有 agentic coding 之后，你用 Claude Code，只要知道自己想做什么，并且有一定的方法知道怎么做，那你其实代码生产或者说代码产物本身，其实没有像之前一样那么值钱或者是有价值。那我们现在为什么还要去做开源？原因就是因为你的开源本身其实是非常好的一个内容的产出，或者说是一个更新的方式。 很多时候你围绕着你开源的东西，你可以定期地去做非常多的内容。比方说你为什么选择在这个时候去做这样一个新的功能？你 delay 了哪些功能？你为什么在做这个功能的时候选择是这样子的一种解决方式或者方案，而不选另外那种方案？就是不仅仅只是代码本身的东西，而是你围绕了这个代码，你去做了一系列的这个决策意图或者上下文，都是可以非常定期地或者说是非常多地去做一些产出。这样子的内容你持续不断地以一定的频率去发布，才有更大的概率去出现在那些你希望被传达的那些人的 timeline 上，然后有更大的概率被看见。 所以这也是我鼓励大家在 agentic coding 的时代依然去做开源，然后把自己的开源当做一个运营或者说是一个内容产生的方式来做。我们通过这种方式接触到了特别多和这种独角兽的企业有一对一、就是和他们的 founder 有一对一交流的机会。什么 Cursor，然后包括另外一家在硅谷现在被 Databricks 收购的一家数据库公司的 CEO，然后我们也是 in person 有聊过。所以说我觉得这还是一个相对来说比较有效的方式。 [Speaker 1]: 了解了解。可以分享一下跟比如像 Supabase CEO 或者 Cursor CTO 在聊的时候会聊些什么东西，他们会关注一些什么样子的话题呢？ [Speaker 2]: 其实他们更多的还是关注产品和技术本身。他们更多地希望了解的就是你希望……一方面是他们希望了解你如何定义这个问题，然后你觉得未来这个数据库发展的趋势在这个新的应用趋势下，你觉得应该要怎么样做？然后另一方面就是他们其实在海外的 founder，尤其是这些做 infra 的 founder，他们即使不是技术背景，他们也非常关心……就像大家可能比较熟悉的 Elon Musk，他也非常关心这种火箭底层技术的发展。所以你会发现他们很多，比方说像 Neon 的 CEO，他其实不是做技术的，但是他其实也非常关心底层的一些技术的一些进展或者说是革新。所以说他们更多地会聊这些相关的内容。 [Speaker 1]: 那跟他们交流的时候感觉会紧张吗？或者说是感受是什么样子呀？ [Speaker 2]: 还行吧。我其实是一个比较容易紧张的，因为我平时很少和其他人交流。但是我觉得有一个方式是可以缓解这个紧张的，就是专注于你和他讨论的问题本身，真诚地思考，然后真诚地去分享和表达自己的思考，然后努力让自己的思考或者见解让别人听懂。只要专注在这个问题本身的话，我觉得就会很大程度上缓解你和别人沟通紧张的问题。 [Speaker 1]: 非常好的建议，我觉得这个很适用于任何其他的场景。那我们现在把目光转向汤博现在做的事情吧，就是说你们到底在做一些什么事情，解决什么问题？或者说可以模拟一下当时是怎么跟 Cursor 的 CTO 介绍你们这个项目的，我们也给直播间的观众朋友来了解一下这个项目好吗？ ### Agent 时代的数据库与基础设施需求 [Speaker 2]: 其实我们仓库本身的话是一个嵌入式数据库，有点像 SQLite，因为是个开源项目嘛，所以说任何人都可以使用。然后我们现在在做的东西呢，我们希望把我们开源的东西能转变成一个服务，然后能被所有人使用到。然后同时即使是面向那些没有开发经验的，或者说是并不希望还需要自己开发或者封装然后才能体验到我们数据库能力的一个这样子的终端用户，来去提供这样一个服务。 所以说我们希望提供的是一个 durable infrastructure for agent。不仅仅是大家现在在做的这种 agent service，还包括直接给终端用户使用的这种 personal agent，去增强他们的数据存储和能力。 然后我们为什么觉得在这个时代还需要一个新的数据库呢？是因为我们认为现在的这些基础设施要去适用这种新的 agent 应用类别，现在不管是你还需要去部署一个 Postgres 或者 MySQL 这样子的数据库，然后去提供给一千个用户或者说一万个用户的 agent 去使用，我觉得是并不符合我们现在 agent 的使用方式的需求的。而是我们现在需要的是每个人或者说每个 agent 他需要有自己的数据库，然后他需要通过自己的数据库来去存储一些个人数据。 以往我们认为单个终端用户其实没有那么多数据需要存储，所以说我们需要把所有用户的数据都放在一个这种大规模的分布式数据库里面来进行集中的管理。但其实现在大家有 agent 之后，每个人都会产出大量比以前多一百倍或者一千倍的个人数据，有很多就是你自己生产的代码，或者说你做的产品文档。然后更多的事情是我们觉得还有一类数据现在大家忽略了或者说是没有那么关注，就是你自己个人如何去使用 agent，你自己如何与 agent 交互的数据，也就是你的会话数据的存储是非常重要的，如何去利用这部分的数据价值是非常重要的。 那我们为什么会这么觉得？包括我们前段这两天不是有看到 DeepSeek 去发布了一个 blog 嘛，说是每个人需要一个 super agent。为什么需要一个 super agent 呢？就是因为我觉得大家现在面临的一种现象，如果是开发者的话你可能会深深体会，就是我把这种现象称为 session maxing。就是你一个人需要同时处理特别多的会话，即使是要用 Claude Code，你可能就要打开很多 Claude Code。因为你可能要并行去做很多开发工作，你可能要做前端，要做后端，然后你还要处理一些运维的问题，然后你甚至要做产品设计，然后你还要去处理用户过来的意见。然后你这些呢都是属于不同的上下文，或者说不同的工种或者职位，然后你需要去打开很多这个会话。 然后同时即使是对于个人，很多人会同时使用 Claude Code，以及比方说在海外的话会有人用 Manus，或者说是 OpenAI Operator。这些 agent 分布在不同的地方，有些在你自己的笔记本电脑上，有些在云电脑上。那这些 agent 之间，你生产的数据如果说都需要人的注意力来处理和协调或者关注的话，你需要大量地在这种不同的会话和上下文之间切换。然后同时你的 agent 在不同的环境里面，他们可能还互相不知道对方在做什么。那这个时候你还要手动地去复制粘贴你的一些上下文，从你的 Claude Code 搬运到你的 OpenAI Operator 里面。 所以说我们觉得未来是一定会有一个集中统一管理、存储，甚至是路由分发你的 agent 工作的产物——可能是一些文件，或者说你的模型，或者说是你的代码文件以及你的 agent 工作轨迹，就是会话本身。你只有把它们放在一起的时候，你的所有的会话才知道当前其他的会话现在正在做什么，我的工作是不是有和其他的环境里的其他的 agent 冲突，agent 之间我们该如何自主地去协调这些冲突的工作。然后当我们发现用户因为注意力爆炸做出了矛盾的决策，或者说是在不同的会话给出了比较冲突的意见的时候，怎么样主动地走到用户面前说，哎， [Speaker 2]: 你这里是不是做出了一些在另外一个规划做出了一些不一样的决策？我们是不是需要把两部分这个绘画放在一起来坐下来一起讨论？所以我们认为我们需要一个这样子的位于云端的存储服务，来去统一地去解决这个问题。 [Speaker 1]: 好的好的，谢谢谢谢子欣老师。就总结来说，就是汤姆在做的事情，就是我们会把个人的数据从中心化的大规模的这种数据库里面放到更加小规模、更加个人的这种数据库的这种托管当中去。然后这个数据库可以帮助你去完成你可能在不同的 session 之间、agent 之间的这么一个串联，然后帮你去管理统一的 context 管理，统一的 agent 的这么产出。 那这样子的问题就是，我觉得可能因为我们很多直播间的用户可能对于基础设施一块不是特别地了解嘛。就是包括我自己也是，我比较好奇，就是这样子的问题，现在的解决方案是什么？然后现在解决方案最大的这个问题，您可能刚刚也介绍了一些，但是可以深入再讲一讲现在的解决方案的一些最大问题是什么？ [Speaker 2]: 我觉得现在对于开发者来说，其实是有很有、有一个很强的解决方案。就是大家会把我们的工作产物放在 git 里面，然后提交上去，然后大家会在一个平台 GitHub 里面进行协作。但是我们现在观察到的问题有两个。 第一个问题是我们觉得 git 里面缺少有一部分很重要的数据。以往我们在没有的时候，我们人的意图是非常好对齐的。我们只要在我们提交这个代码里面写上说：我们做这个事情是解决什么问题？我们为什么要做？然后提交上去就可以了。然后仓库的所有者看到这个之后，他就会尝试去合并的这个功能。 但是现在有 agent 进来之后，有一个很大的问题是有很多意图或者决策，其实我们是在和 agent 交互的过程当中和 agent 进行沟通的。然后 agent 提交一个代码之后，你缺少这部分绘画数据的话，你另外一个就是合并者的 agent，或者说开发这个仓库所有者的 agent，他不能理解你的这个 contributor——你的这个贡献者和他的者聊了什么。这部分绘画的数据是缺失的。我们认为就是你的产物和绘画本身一起提交，来让这个决策者来进行一个最终的决策，我们认为是一个很重要事情。所以说我们希望把绘画这部分的数据，也能在这个代码场景下也能被产物——就是也能被管理，或者说一起协调。这第一部分。 然后另外一部分的话，就是面向非开发者的场景，其实我们觉得是比较有趣，就是没有一项 git。大家都知道非开发者其实是很讨厌用 git，因为它的使用方式会变得非常复杂。所以大家都会想要去使用像比方说，我们发现在非开发者协作过程当中，我们可能就是直接微信发个邮件、发个文件，就是我把我的这个文档通过微信发一发。那其实这样子的话，你的工作产物和绘画的管理对于 a 正常来说其实都是不可见的。 [Speaker 0]: 那你的 agent 很难去通过你在这个 agent 之外的这样子的工作来去好好地去识别你们在当前现在在做什么，或者说是在写过程当中大家的意图是什么，或者说是大家意图的分歧是什么。 所以说我们也希望是面向非开发者能去做一个更好的管理，把你的工作产物和你的 agent 的绘画能通过统一的一个地方来服务，来去做一个分发管理，或者说共享。通过这种方式来让这个团队里所有成员的所有的整团都能了解当前这个团队目前的目标是什么，然后每个成员的意图是什么，然后大家的意图哪些分歧，然后如何解决。 [Speaker 1]: 好的好的，谢谢子欣老师。我们这边弹幕里面有非常多的问题啊，我们稍微加快一点回答一下。 第一个是问的是，像您这样子的开源数据库，跟这个 LakeFS 对比有什么优势？LakeFS 我理解，我之前也只是听说过这个项目，也是另外一个开源数据库项目，对吧？就是您可不可以分享一些，就是说再比较一下这两个产品，你们的优势或者说是优劣会是什么样子的呢？ [Speaker 0]: LakeFS 其实我不是特别了解这个产品，我只是大致地有听说过吧。我觉得一个很大的区别，首先第一个事情是 interface 的区别吧。 我觉得对于很多这种本地、尤其是和云端协作的平台，其实我觉得并不需要一个完整的一个文件存储的 file system 的 interface 来去做。在很多场景下，比方说对于 git，是一个很成功的实践，就是我们可以优先提交到本地，然后我们需要被分享出来的东西，我们再通过操作，通过 git push 方式或者说某种方式，来去把我们想要和团队与其他成员分享的方式再推送上去就行。 所以说你用一个完整的 file system 的话，其实你的语义就是：OK，我所有的东西，我在这一个文件夹下所有的东西我都统一地管理，或者我都一起分享。那我觉得其实在团队协作场景，其实包括后面有人提到了这个隐私的问题，所以说我们的 interface 本身首先会不太一样。就是我们会更多让大家决定说我的哪些意图希望被对齐，或者说希望和其他团队成员对齐，那我就只把这一部分工作产物，或者说是这一部分我的这个筛选相关内容，然后我打包成类似于像一个 pull request 的东西，然后推送上去，然后让团队其他成员的其他 agent 知道。这是一个我觉得会不太一样的地方。 然后另外后面有提到隐私的问题，所以说我们并不希望你的所有的工作，或者说你和 agent 的所有的交流都被公开地暴露在其他的团队成员面前。我们希望在这个过程当中，依然希望的事情是：当你希望和——是一个需团团结决的决策的工作，或者说是你的工作需要被转交给另外一个人的时候，然后你来决定，或者说你的 agent 来基于你的意来决定说我需要公或者分享哪份工作。 [Speaker 1]: 好的，我看弹幕里面还有非常多的朋友，可能希望您这边可以具体来讲一讲我们提交 agent 的绘画历史，它这个意义或者说是治疗作用会有哪些？可能对您这边有什么样子的这个分享呢？ [Speaker 0]: 我觉得因为它作为 trajectory，它是可以用来迭代的。我觉得这个确实是我们未来后面一个很大的方向。 就是我们现在发现，每个人其实大家使用 agent，或者说是每个团队使用 agent 的方式，其实是有天差地别。每个人都有自己的一套使用 agent 的这个方法，或者说每个人有自己的 best practice。我目前没有看到业内有一个公认的 best practice 出来，然后大家都去 follow up 这样子一个工作模式。 那其实在这样的情况下的话，每个人使用、每个团队使用 agent 的方式其实是非常的个性化，或者说是非常地去贴合这个团队本身的这个个性本身。那在这种情况下的话，你如何基于团队本身的这个个性或者说是需求去智能化，去编排你的 agent 的工作，或者说路由你的工作。我觉得它确实就是一个 trajectory 的数据，去未来去做这种后训练，然后去达到一个更好的、去做一个更好的 super agent，去帮你去做分发管理和路由的任务的一个很大的工作意义和价值，就是这部分数据的价值。 然后另外一部分的话，还有一个我觉得即使是在没有那么多数据的情况下，我觉得还有一个非常显而易见的好处，就是你的工作不会被 blocking 在你的本地的笔记本电脑上。现在我们有非常多人、有很多用户发现有这样子的需求：就是我的工作一开始是在我的笔记本电脑上做的，或者说我一开始是在我的一个云端电脑上，比方说我在 OpenAI 做的，但是我希望把我的这个工作转移到我的另外一个地方，比方说我的笔记本电脑上。比方说我自己爱编曲，那我本地的话才有这样子的一个编曲软件。那我在这云电脑上做了一些 demo，我想要把它转到我的本地来，然后进行一些更严肃的创作。那我不希望说我把我之前和我 agent 的沟通的意图再去和我的 agent，还有在我本地的 code 又重新说一遍，然后在转述过程当中我可能还会漏掉一些东西。那如果说我有一个统一的地方去管理我的绘画和我的意图的话，那我只要提供一个 MCP server 在两端，然后我就问我的 code 说：OK，我想要在本地继续我刚刚在 OpenAI 上做工作，那它就可以自动来去接续这个工作。 [Speaker 1]: 了解了解，就还是一个我们多 agent、多 session 的这个情况下的一个最基础的基础设施，可以帮我们更好地转移这些 session。 对，好的。我们时间有限，子欣老师这边还有一些问题，可能关于开源，子欣老师方便的话，可以在直播间留一下，然后跟弹幕里面回答一下。如果没有其他问题的话，我们可以感谢一下子欣老师精彩的分享，然后聊得也挺开心的。谢谢子欣老师今天来参加。 对，另外的话，这边子欣老师需要先宣传一下，比如官网或者说一些其他项目吗？可以留一个联系方式或者是网站之类的在这个弹幕里面。 [Speaker 0]: 好的。 [Speaker 1]: 好吧，好的。 [Speaker 0]: 那谢谢金华老师，感谢大家！ ### 阶跃星辰大模型与 Agent 落地探索 [Speaker 1]: 好的，谢谢子欣老师。 那我们刚刚听完子欣老师精彩的分享，我们就大概知道开发会如何带来对于基础设施的这么一个变革嘛。那么接下来呢，我们把目光转向基础模型。因为尽管今年在 agent harness 日新月异的革新之下，基础模型的能力以及发展方向依旧是一个我们被津津乐道且被行业所关注的话题。 我们非常高兴，我们下一位嘉宾是来自于国内大模型六小龙之一的阶跃星辰 StepFun 的 CEO 助理郑书新郑总，来给我们带来精彩的对谈。首先我们请郑总给大家打个招呼吧。 [Speaker 3]: Hello hello！谢谢谢谢主持人，谢谢 AIE、Superlinear 的邀请。今天真是梦幻联动啊！因为我其实一直在这个 Superlinear 社群潜水，学了很多东西，很喜欢看看表的视频，然后也喜欢在这个社群里面看到大家的各种各样的分享，能感觉到是一个生命力非常蓬勃的社群。然后也很巧，AIE 这个活动后来我才发现竟然是 InCloud 去协办的。我跟高宁也认识了非常多年的朋友，然后一直有交流，没想到在这个上面去联动了，真是 small world。今天很高兴来到这边去跟大家去做一些简单的闲聊和分享吧。很高兴来到这里，看看咱们后面怎么去开展。 [Speaker 1]: 主持人——哎，嗨，欢迎郑总！哎，您这边好像直播断了……现在 OK，回来了回来了。Hello hello，可以看见。 好的好的，我们欢迎欢迎郑总。既然也是 Superlinear 的社群，那我们也是自己人，就是可以稍微放松一点，我们可以轻松地聊一聊。 我们这边稍微准备了几个话题，然后我可以在这边共享一下我的屏幕，然后给大家看一下我们会聊哪些内容。 我们今天大概会讲一些 StepFun 阶跃星辰这个公司我们现在在做哪些非常前沿的对于基础模型和 agent 落地应用的探索。然后我们也会展开聊一聊一些基础模型行业里面的一些被热点讨论的话题，比如说端侧模型和云端大模型、模型资金化，以及模型训练的发展方向会是什么样子的。 那么我们先请郑总给可能不太熟悉阶跃星辰和 StepFun 的观众稍微介绍一下，您这边的产品或者主要业务有哪些呢？ [Speaker 3]: 好，没问题，谢谢。 StepFun 其实就是国模公司嘛。我们一直是把国产大模型的研发作为我们的第一要义。然后在九月下旬的时候，我们当时发布了一款我们最新的模型，叫做 Step-2 Preview。那它叫 Preview 的意思，就是我们其实是一个 early 的一个版本，后面还会再发正式版，以及 Pro 版。 Step-2 Preview 其实它当时在发布的时候表现非常不错，当时是冲进了国模的开源模型，应该是国模前三。在这样一个情况下，因为它的尺寸其实很小，我们对 Step-2 的定位其实有点偏向 Flash 版，它是一个 60B 的模型。去年的时候 Flash 还是两三百 B 的模型，今年 Flash 已经到了六七百 B。所以包括其实友商也是，今天可能咱们就少谈一些友商，多谈一些我们自己。 在六七百 B 这个模型的尺寸下，其实它自己是还是很拥有竞争力的。当时我们讲说取得了一个很好的帕累托前沿的一个位置，就是说在成本和性能 trade-off 的过程中，它是一条连续的前沿曲线，那我们当时是站在了这个前沿曲线上。 那对用户来说也是很有意思的一点，就是当你对智能性的要求达到某个程度的时候，你 of course 你需要一个花销比较低的模型的一个选择，那其实这个时候我建议大家可以去看看 Step-2 Preview。我们之前还在 OpenRouter 上，还有 WorkBuddy 上也都全上线了，WorkBuddy 上还限时免费过一段时间。如果大家感兴趣的话，就可以去使用。 我觉得很神奇的是，我们的模型 somehow 有一些特色吧。它一方面就是多模态一直是我们一直以来的特色，处理得确实不错，在 WorkBuddy 上反响也不错。然后另外就是它的 computer use。大家对阶跃的了解很多时候是听到我们会推出 AI 手机，我们 AI 手机也是在十月份刚刚发布了一款，待会可以给大家演示一下，很有意思。因为要在 AI 手机上去做一些 agent 的操作，所以我们的这种 phone use 还有 computer use 也是我们重点发力的对象。 然后第三就是它的一些 science 的能力也让人比较意外。我们有很多做 science 方面的同学，尤其是一些博士生，他们在使用过程中经常我们会听到一些反馈说：哎，Step-2 Preview 它竟然是在 WorkBuddy 里面去做一些 scientific 相关的这些任务，它的懂的很多，然后效果也很好，速度也很快。尤其是当时我记得我们去提交给 Artificial Analysis（就是 AA 榜单）测评的时候，AA 榜单的那个工作人员给我们一个反馈，也很有意思。他说：你们这个能取得这样的分数——当时是国模第二嘛，能取得这样的分数，但是我们的成本消耗当时是取得这个分数以及它之前所有的模型是最低的。所以它确实是一个便宜好用的模型，这是我们的模型。 然后接下来就是刚才主持人也提到，说我们还有一些 agent 落地和产品。对，我昨天其实还给观众演示了一下， ### AI 手机的生态路线与原生系统实践 [Speaker 3]: 也不叫演示吧，就是看了一下我们的这个手机，其实已经在我们手上了，就是一个我们自己的手机。它确实很有意思，它和其他的 AI 手机不太一样，我们也不提友商名字。 但是 whatever 我可以讲的是，我们的手机和大部分友商的手机是不同的路线。它怎么个不同的路线呢？ 一方面就是大家要知道国内和国外——因为我之前还参加过一些 personal agent 的讨论——国内和国外其实对用户隐私还有生态方面是有很大的不一样。我举个例子，比如说海外的话，用户的数据其实就是自己的，他有权说我把这个数据交给谁。但在国内的话，其实我们各个软件和各个公司之间的生态、壁垒和数据墙还是挺高的。 在那这种情况下，有一种方法可以做所谓的 AI 手机。比如说我就模拟一个真实用户，我们叫做 GUI，去用 GUI 去模拟用户的点击，每次去截图分析，然后去点击。那这是一种不得已而为之的做法。但是这种做法其实会有一些天然的缺点，就是它整个模拟的过程其实很卡顿，然后速度也比较慢，和你这个软件也不是天然适配。就其实有点像我强行进入到你这个软件里面去获取你的这些数据等等内容，处理速度可能也会比较慢，也会相对来讲比较受到各家的这种抵触，因为你等于是强行越过人家生态墙去做这个事情。 那我们的手机其实采用的是另外一条路吧。我们自己会认为其实比较艰难，但是它算是难而正确的路，它会走得更长远一点。就是我们真的是希望可以去跟所有的厂商一起去共建、一起去合作，一起去谈一个能共同研发、到最后有利于用户的合作形式。那在这样的情况下，其实我们真的是一家一家地想去进行这种生态合作，然后我们也颇具成效。 基本上大家可以看到市面上的主流那些 App，你看我这手机里面装了这几个都是我们家……你看可以点美团，然后滴滴打车、高德地图、微博、支付宝、飞书等等，其实我们都是用这种 MCP 和 CLI 的形式就可以接进去。 那 MCP 和 CLI 它的好处是什么呢？其实特别简单，就是它的速度是极其的快，而且它是底层的。我在这个手机上进行一个操作，比如说我让他去……我举个特别简单的例子，我给大家看，这旁边有一个 AI 的按键，特别有意思。然后背后有一个 LED 屏，它会有一个 LED 点阵，会显示 AI 在工作的一个状态。如果要是你这个停了或者完成了，在背后都能显示出来。 然后比如我这边可以做一些简单任务，我给大家演示一下。比如说我按住这个键，然后他就唤出我们的 AI 助手，然后我就跟他讲，我说：“请你把这一周我的所有的飞书群聊的消息帮我总结一下，我的工作的日常和我下一步应该做的 To-Do。”等一会儿他就会去做这个事情，他已经在运行了，待会儿就会提示我。 对，那这样的话你会发现，一方面就是它可以在后台运行，速度非常非常快；另外一方面就是，其实它是一个操作系统的原生改进。其实我们相当于在魅族的系统上——我们和魅族达成了非常 close 的合作——然后在这个系统上进行了一个整个让它变成 AI native 的手机操作系统的方式。那这样的话，我们的手机可玩性非常高，所以其实推荐如果有这种早期的发烧友，其实真的可以来试一试。 我给大家举个例子，比如说这个当时先让他去总结着，然后我给大家举一个有意思的例子。比如说那些打车、订票我就不给大家讲了，我觉得这些比较那个啥。我自己用起来觉得比较有意思的一个是什么呢？就是你看我们这有一个叫做……我不知道我这摄像头有一些那啥，它有一个叫做 Step Studio 的一个功能。这个 Step Studio 是在做什么呢？就是以后我们叫做 AI native 的……就是以前大家去下这种 App 是要去 App Store 去下，但是我们现在就叫做 on-demand App。什么叫 on-demand App？就是你需要什么 App 你就可以自己做，这是很有意思的一个操作。 比如说它就在我们这个 Step Studio 里面去完成。我之前让他去做了一个，比如说像八字排盘 App，还有一个叫做信用卡账单提醒的 App，都是他自己帮我做出来。我就直接用口述说：“哎，我有什么什么样的需求。”然后他就说：“好，我知道。”然后他就开始去做。 我给大家去看一看我之前做的。你看他做完了之后，就做了一个……我看看我之前做在哪里。你看，八字排盘。做完之后，他就会讲右上角有一个……抱歉啊，我看怎么去显示出来。对，右上角会说：“哎，他这个 App 其实已经在这给你开发好了。”你去点这个真机测试，他就可以装到你这手机上，他就给你下一个 APK。然后你装完之后你就进来了。进来了之后，他说我链接过期了，这前两天……我给他们重新下一下。然后他装机测试之后，你觉得要不好的话，你还回到你的……你再去跟他讲，你就说：“哎，哪个哪个功能做得不好。”然后他就直接就在手机里面去做。 就这种东西，其实现在看起来可能我这么去描述，大家觉得需求量不太大或者怎么样，但是其实我自己用还是挺震撼的。它的震撼点在哪呢？就是给人了一种我仿佛能看到未来会往哪个方向去发展的样子，我觉得这个还是挺有意思的。如果以后真的不存在 App Store，或者如果是真的变成一个 AI native 手机了，那它的玩法其实特别离谱。 我们自己最终的梦想，就希望这个东西到最后就变成《钢铁侠》里边的 JARVIS。你总不可以让 JARVIS 说：“哎，你帮我做个 App”，或者说“你帮我点开哪个软件再怎么怎么样”，对吧？你可能就是一个统一的入口，你就跟他讲，任何的需求他能帮我做。最后如果能实现这种情况，我相信就会非常的酷。大概这就是我们内部的一些进展。 ### 接口标准与未来生态演进 [Speaker 1]: 好的，非常酷，非常酷。我觉得之前其实一开始我也不太理解 AI 手机这个概念，但是现在听您这么讲完，我觉得非常 inspiring 这个前景。 我这边有一些问题，当然观众朋友们有问题的话，也欢迎在 chat 里面跟我们互动。 我这边的问题主要是关于原生的 CLI 和 MCP。如果要去一个个跟 AI 这个厂商去谈的话，我觉得这个工作量还是比较大的。您能看到一个未来我们能够规模化，或者说制定一个这样子的标准，就是以后我们所有的 App 开发或者 App 迭代，我们都是先以又要做给人的接口，又要做给 Agent 的接口这么一个模式吗？如果有的话，这种标准我们是如何去推动和制定的呢？ [Speaker 3]: 哎，我觉得这个是个好问题。其实我们之前也讨论过这个问题，就比如说现在有一些事实性的接口，都是按照像大厂，像 MCP、A2A 对吧？A2A 就好像谷歌出的，然后去做一些数据上的接口。 我们分近和远。近的话，我猜测可能就是这样一种共生的形式。因为整个 Agent 落地，包括 AI 去落地，它可能是一个比较缓慢的过程。 我举个简单的例子。比如说大家虽然像现在觉得 AI 一天、人间一年，对吧？每天发生很多很多事情，然后我们身处这个行业觉得很焦虑，或者说进度很快。但实际上我们拉长远来看，其实整个 AI 的浪潮刚刚开始，对吧？我们回顾过去的所有的这些时间点，我举个例子，比如说像马车到汽车刚被发明的时候，离汽车满地跑、高速公路都建好路网、建好路灯、建好酒店、沿途的这些都建好，是很漫长的一个过程。 那反过来其实对于 AI 来说也是。我们想象一下，今天 AI 到这个地步，咱们的爷爷奶奶，老人们，或者是二三线城市的这些去工作的日常百分之九十的这些人群，其实他们可能还对 AI 的使用程度非常非常低。我举个例子，比如说咱们可能国内应用最高的 AI 应用、AI 聊天的这些 App，它日活能到几千万到一两亿就已经是非常非常不错的数字。但什么时候能像微信一样普及，就是每个人必须要装，otherwise 你这个手机用起来就没有意义了，对吧？那这个还有很长的距离。那它装上之后，和它全面地比如说侵占你的使用时间或者一个覆盖程度，那还有一个巨大的 gap。 所以在近的这个时间点，那它一定是两套机制。为大面上的这些人去服务，它是走原本的这套机制；然后有一部分尝鲜者开始去做一些 Agent 的这些协议和接口。 但是我们再想象一下，往远了去，比如说十年之后，甚至我们再远一点，比如说十五年到二十年之后，我估计可能……我之前经常有一个想法，很有意思，大概五六年前我就有这个想法，但是很多人是不信的。当时我就想说，很快互联网上大家能看到的这些内容，就是我们叫做 content，以前都是 UGC，对吧？user-generated content，或者 PGC，professional 的这种 content，但是以后应该都是 AI 产生的东西。 当时我五年前讲这个事的时候，大家很多说我很搞笑，因为当时还是 diffusion model 那个年代，刚出来生成的那些二次元图片都很鬼畜，大家还很难想象。但是未来确实肉眼可见能看到，很快速的时候你就会发生一件事，就是什么人能看到真人产生的这些内容将会是一个我们叫做 privilege，就是一个特权。就是很少有人能看到真人产出，大部分人消费其实都是 AI 生成的这些内容。 在那这种情况下，肯定很多事情会发生变化，对吧？比如说我整个投放机制、投流机制、分发机制，whatever 等等会发生变化。其实刚才跟个人问的那个问题也很类似。如果要是哪一天衍生到这个情况，你会发现其实每个人都是全部的 Agent 在网上去做各种各样的操作。那我真人也不会去点开打车软件或者 whatever。当各个网站的流量都变成 AI 的时候，其实人的那个接口可能 somehow 你都找不到那个接口了，对吧？你可能都找不到人去点开滴滴打车或者 whatever 哪个软件自己去下单，当每个人都会让自己的 AI 每天去帮你去做这种操作。 所以那个时候也谈不上什么兼容了，我感觉可能就是那边就会去占着主导。那很多时候我们是不是有一套全网的面对 Agent 的这种不管是协议、接口、infrastructure、interface 等等这些东西，其实是现在这个阶段需要去发展的事情。 [Speaker 1]: 好的好的，谢谢郑总。你刚刚提到未来大家都消费 AI 生成的内容，对于这个未来个人感觉并不是特别地开心。但是我希望像我们这样子优秀又有质量的深度对谈的真人内容，以后大家也是有机会消费的。 [Speaker 3]: 这就是 privilege 吧。 ### StepFun 模型在手机与金融场景的针对性优化 [Speaker 1]: 对对对，是的。这边我们弹幕里面有一些问题，就是想了解一下郑总，StepFun 模型对于手机的应用场景有没有做过一些比较特殊的优化呢？比如说金融类的企业会做这种 Excel、PPT 这种数据，从数据层面来看，训练模型适配的手机应用场景大概需要什么样子的数据？这边您有方便分享的话可以分享一些，不方便分享的话也可以稍微略过一下。 [Speaker 3]: 好的好的，我觉得挺好的问题，感谢弹幕的提问。 首先这个提问可能分成两层：一方面就是我们对手机的优化，另外一方面就是我们对专用场景的优化。 手机的优化，我刚才有讲过，对吧？就是你本身的 phone use，日常的使用场景，然后我们会采集很多专有的一些数据进行相对应的增强。Agent 使手机和人去使手机，它的——我们就讲得 technical 一点——就叫做 trajectory，对吧？它的 behavior 肯定是有很大的不同的。那我们要把足够的 distribution 能采到，然后让这个模型能在手机上有一个很好表现。它一定不是说我拿个 GPT，或者我拿个国内的某模型，然后就能无痛地去使用的，包括它的 environment，包括它的各种各样的 tool call、行为等等，对吧？那我们都需要去针对性地优化。 然后另外一个问题，比如像什么金融场景，那这种场景都是我们比较看重的、会专门去优化的场景。我举个例子，比如说我们跟大量的金融专家去合作，其实我们自己内部不仅仅是 StepFun 的手机或者说这版模型，我们在过去的一两年之间一直也在常态化地去推进。我们自己有一些金融方面的应用，然后有一些跟厂商的合作，比如说像财联社等等，然后还有一些专家的合作。我们会收集大量的数据，然后针对里面的这些场景继续进行优化。在 workflow 上我们也接上我们的模型，其实是金融领域大家比较喜欢用的一些模型，在一些比如说对精细的数字、读长文档、财报分析等等。 [Speaker 3]: 然后包括刚才提到像 Excel 等等，我们的模型表现其实都是还不错的。所以如果有机会，以一个比较低使用门槛的方式去用起来的话，我建议就直接上 WorkBuddy，然后去试一下。因为 WorkBuddy 它有很多的场景，其实也是金融场景嘛。然后切换一下我们的模型，去做一下这个感受。对，它这个成本、性能和速度，其实都是一个非常好的排和最优的一个位置。对。 [Speaker 1]: 好的好的，谢谢郑总。WorkBuddy 这个单词也是在今天的直播间里面被提到了非常多次，希望大家也可以多去试一试。因为 WorkBuddy 最近这个生态真的是非常火。 然后这位 Tom 同学还有另外一个问题，就是如何判别真人和 AI 生成的界限。比如这个视频是人拍的，剪辑和文案谁来做的，这个算是 AI 生成吗？那我作为一个内容创作者，我先发表一下我自己的看法。我个人认为，因为内容的本质核心还是观点和内容。这观点和内容到底是源自于 AI 原生发送的，还是我们人自己来编写出来的，我觉得这个是非常重要的一件事情。我觉得只要他的观点和内容本身是人来写出来的，那他的形式可能是 AI 做的或者辅助，我觉得都是可以的。我不知道郑总您这边是不是认同我这个说法，或者说您这边有什么独特的看法？ [Speaker 3]: 很认同，说得很对，说得很对。 [Speaker 1]: 我觉得核心我们消费内容，还是消费里面的观点，以及包括我们这些话题的碰撞，我觉得这个是内容消费者最本质的核心。 那下面还有一个问题，就是关于手机有没有什么内存的要求，不知道您这边可不可以有一些更加详细的说明？ [Speaker 3]: 对对，现在反正就是存储比较贵嘛，然后本身手机成本大家现在也变高。我前两天看了一个数字，说一台 iPhone 它 40% 成本都已经变到内存上了。 所以但我觉得还好，因为我们自己的端侧模型——不是端侧呢，就是手机端它也是一个端云协同，一些简单的让我们在本地跑。但是如果要是那种——因为为什么 AI 对显存、对内存的需求量暴涨，也是因为整个 trajectory 越来越长。 我不知道我这么说能不能比较通俗，就是我们叫做 compute 是可以 scale 的，但是 memory 其实是不好去 scale，这就导致了其实现在 memory 的需求量是很高的。尤其是在 prefill 和 decode 这个阶段，尤其像对于 decode 来说，那显存几乎就是巨大的 bottleneck。 那在这样的情况下，怎么样能——尤其是现在这个时代是越来越长，原来我们做研究的时候，1k、2k 都已经是很长的 trajectory，现在都是 1 million。然后 1 million 你还要再压缩，再上好几个 million。那这种情况下，而且它这个长度对显存的需求是一个平方，就是 $n^2$ 的复杂度。所以对显存的消耗其实是很大的。但好在我们现在很多计算是放到云端的，所以对手机上的硬件要求其实没有特别高。 [Speaker 1]: 对，还是大部分是在云端。 ### 模型演进与自我进化 [Speaker 1]: 那我们就可以聊一聊我们最后这个话题。我们最后准备了三个话题，包括云端跟端侧 AI 的生态是什么样子的、模型自进化是什么样子的，以及模型训练的发展方向是什么样子。您这边要不可以选一到两个您感兴趣的话题，可以深入聊一聊。 [Speaker 3]: 好的，没问题，我简单讲一下。刚第一个我有简单提到过，对吧？然后我讲一下 RSI。RSI 其实也是最近大家关注的一个很重要的热点。我自己对 SI 的看法是： 首先第一，我相对来讲比较客观和冷静一些，我不会觉得自我进化这个词听起来那么可怕，好像就失控，或者说一下就奇点、爆炸等等。实际上的情况是，现在 AI 已经对我们不管是内部研发还是友商、各个厂的研发，它都是起到很重要的作用。那在这个过程中，其实 AI 已经能去帮助我们自己去进行一些提升，那更多的我们管它叫做——就是现在包括硅谷、包括国内能做到的叫做 SI，就是 self-improve，我觉得这点已经很好了。 那你解决这个 improve 呢，首先你要解决一件事情，就是你要有新的数据分布进来。这句话什么意思呢？我简单解释一下：你看我们做模型、做 AI 做了这么多年，其实也没有什么特别神奇的地方，nothing secret。其实 AI 模型的底层本质就是统计学，就脱胎于统计学。那所谓的统计学呢，它其实看的就是数据的分布。那你这个模型有什么样的能力，其实都是从数据里面来的。不要给我扯什么我自己一摸就出来没有见过的东西，在这个阶段还看不到。所以其实今天大家用哪怕最厉害的这些模型做出来的最 fancy 的东西，其实都是数据里面或多或少见过类似的，它能在附近去做一个泛化，但它没有办法很跳跃地做出一些事情。好，这是第一点。 第二点就是，既然如此，那我这个模型性能的提升其实依靠的是——我这边可能更多是模型性能的提升，比如说用 AI 去改写 infrastructure、改写通信、改写一些算子，那些我就跳过，因为那些不能让你一步一步进一步在主线上做智能性的提升。我们现在更多讨论智能性提升。那我如果想做智能性提升，我必须要有数据，那我新的数据从哪来？那我 self-improve 其实等于是在我自己的数据分布里面打转，我怎么能去突破这个？其实现在是 SI 甚至是 RSI 的研究重点。 那在这里面大家一般的做法是说，在 self-improve 的时候，想办法去引入一些外部的数据。这些外部数据从哪来呢？我举个例子，比如说我可以把一些专家的数据告诉它，或者说把真实的知识、从网上收集的专家知识提示它、告诉它。那在这个过程中，经过了一些提示和 prompt，它也许有机会能走出原来的分布，然后沿着新的分布往前去走，那这个时候 self-improve 就诞生了。 那在 self-improve 诞生之后呢，下一步我们要解决的就是 recursive self-improvement，那这件事情其实更难，对吧？就是你要递归的、循环的、不断地自己能去做 improve。那这件事情其实还是业界现在攻关的重点。所以我自己对这件事情其实也没有乐观，也没有悲观，我是比较偏中性。因为看起来这就是我们这么多年过去一直在走的一个研究方向，那我们继续去研究，它一定会有一些突破。 那到时候呢，其实我觉得大家也不用特别焦虑或者恐慌，它不会像大家想象的一下就突破天地或者怎么样。它哪怕能 self-improve 几步的话，它一定会有当前方法的上限。那没关系，撞到了这个上限，我们这些科学家们一定会再去想尽办法做各种各样实验，想办法突破这个上限，然后再进入到下一个上限。所以 RSI 也是下一步我们比较看重的学术上研究的方向。 然后下一个问题就—— [Speaker 1]: 我可以问两个问题吗？我比较好奇。 [Speaker 3]: 哎，好，请问。 [Speaker 1]: 您刚刚提到模型性能提升受制于数据，解决方案是引入一些专家的数据。那我不是一个大模型训练的专家，我比较好奇的是，现在大家训练模型的时候已经会用一些 AI 合成的数据了，那么这些 AI 合成的数据的质量，或者说有没有可能在未来我们根本就不需要专家的数据了，AI 自己可以生成这些训练的数据？在这方面你有没有什么独特看法呢？ [Speaker 3]: 其实这个问题特别好。我想怎么回答你和咱们的观众、听众朋友。它是这样的，我举个例子：为什么硅谷的模型进展看起来比国内要快一些？尤其是它还是一个这种叫做探索者的身位。因为探索者要比跟随者的难度和成本高很多，对吧？但它依然往前走得很稳，也走得比较快，其实是因为他们的算力要比我们充裕很多，算力要比我们充裕很多。 那为什么算力比我们充裕很多就会导致这件事情呢？其实回到我刚才讲的，模型智能性本质底层是有数据分布的。在这个情况下呢，发明了一种东西叫做合成数据。合成数据大概您可以理解成什么呢？就是我们用算力去换数据。 什么叫用算力去换数据呢？我举个简单的例子。比如说黎曼猜想这件事情，人类历史上肯定没有出现过真正的猜想证明的过程。但是如果这个猜想在一万个词、就一万个 token 能写下来，或者至少写出完整的证明思路，那其实你可以用搜索算法搜到它，因为每一个词都在你的词表里，对吧？只不过有一个问题是什么？就是因为搜索空间太大，你很难搜到它；第二点就是说，搜到它之后，你很难去 verify 说这个东西到底是真的还是假的。因为你知道数学家审一篇论文可能要三年，非常难的 verify 的过程。 但我说到这可能你就理解了，我怎么样能解决这些问题呢？其实只要算力足够多。所以某种程度上，为什么刚才也讲到 SI 有没有专家数据，或者说不依赖专家数据怎么去前进？其实从 DeepSeek-R1 开始，包括 OpenAI 的 o1 开始，我们这套所谓的合成数据方法，包括后训练做强化学习——强化学习的本质大家可以简单理解成就是搜索。我在各种各样去做 rollout，就是在去尝试搜到 potentially 好的那种解决方案，是人类历史上没有出现过、或者说比专家还厉害的方案。但是这里面需要耗费大量的算力。在这样的情况下，其实也是国外的其中一条主线的研究路线之一，来解决这个问题。对。 [Speaker 1]: 好的好的，谢谢郑总。那您这边刚刚是要继续讨论一下模型训练的发展方向是吗？我们可以继续深入聊聊这个话题。 ### 模型训练的发展方向与前沿展望 [Speaker 3]: 对，我们简单讲一下模型训练的发展方向，除了 coding 以外正在朝哪些领域。 这个问题稍微有点 sensitive，因为我们最近在 IPO 的前期，我也不能太随便说。我们对高管都有一些要求，怕被误解读说公司的未来方向或者类似。我就说说我个人观察和行业里的情况吧。 最近有两个东西海外是比较热的： 一个就是具身。像 extra 它自己 emerge 出了具身的能力，这个还是挺神奇的。因为 OpenAI 可能没有太多使用具身的数据在里面做些什么事情，但是就凭着自己的 coding 能力、3D 模态的能力，以及 Blender 的能力，就是对 3D 资产的理解和生成这件事情，它就泛化出了对具身的操作。那具身其实之前大家也炒过一波具身的公司，大家也会反复听到说具身多么了不起、市场规模多大、实现了又怎么怎么样。如果基模本身能去泛化出这个能力，那其实是一件很了不起的事情。 第二个呢，就是硅谷那边现在天天在放奇观，对吧？什么数学证明七百多个，然后生物，然后生化环材等等。你像那个 SOHO 它招股书其实也有讲到说现在在推临床研究等等，那这些可能都是下一代模型，因为这些其实都是很重要的方向，对吧？而且在今天来看，可能离落地是比较近的。 也有很多更厉害的工作，比如说像可控核聚变的实现，对吧？室温超导的实现等等。但是那些东西呢，它的问题的 intrinsic 难度——什么叫 intrinsic 难度？就是说它内在的难度，其实是要比现在的算力和数据高出非常非常多数量级的。在这种情况下，我们可能就不见得在明年或后年就能看到，比如说可控核聚变——当然也有可能打脸，但是大概率是不会看到这样的实现。但是一些 intrinsic 难度没那么高，但现在人类又解决不了的问题，大概率明年都会得到很好的解决。我对明年还是很乐观的。嗯。 [Speaker 1]: 好的好的，就是 AI 世界的一天，就是人间一年，变化速度非常快，对对。 好，我不知道弹幕里面有没有朋友有问题的，我们可以跟郑总互动一下。 [Speaker 2]: 我们可以稍微等一下。 [Speaker 1]: 如果没有的话，我们这边也谢谢郑总，也差不多到时间了。我们非常感谢跟郑总的交流，聊得非常开心，我觉得我们聊了非常多很前沿的话题。我们给郑总鼓个掌吧。 [Speaker 3]: 再来做客，我还是很喜欢 Super Leader。对。 [Speaker 1]: 好的好的，那我们今天的直播活动也到此结束了。谢谢郑总，来来来，谢谢郑总。那我们 11 月 8 号还会有一场，到时候期待也可以在那边见到大家。那我们今天先到这，谢谢来参加的小伙伴！