什么是FDE以及大众对其的误解
我甚至有篇文章写的很中二,叫什么《异世界重生,然后转职变成 FDE》。而且很多人觉得 FDE 就是,那不就是怎么说外包吗?就是我们叫做派遣公司吗?就在日本就派遣,把人派到公司去,干完活就走了。是不是这么低端呢?OpenAI、Anthropic 还是觉得 FDE 就是外包,能够帮他把模型 Token 烧掉一点。大部分公司和领导老板们,还在两年前的这个意识,他还在用 Chatbot,他很难把他的思想,转化到 Agent 的工作流上来。他用 Chatbot 消耗,你换成 Agent 之后大概十倍一百倍。中间这个中层如果只是传话总结,其实没太大必要,AI能够做得很好。其实是信任,就这个信任的事情你说 AI 搞,搞不了。
FDE 是靠谱的 AI Expert,能够跟客户一起把我们事情做成,而且能够改变产品。我觉得人永远只能做边缘上的东西,人在 Edge 就是在边缘。是要拥抱怎么去做 AI Agent 这个事情,你不能说我只会做 Coding,你要知道怎么去做 AI Agent。你获客这是最大的问题,我觉得现在生产软件很简单,但是获客很难,因为 Attention 很贵,但是智能不贵。
然后特别是说 FDE 这个事情,特别有趣。我说什么是 FDE?
Indigo Talk 线下开场与嘉宾介绍
欢迎回到 Indigo Talk,我们今天这一期也是线下,我们在这个地方。应该我记得在今年 1 月份的时候,我录过和 UBC 的李霄霄教授在这里,在这个场地录过一次,那个角度。对不对?那边录过一次,这边都录过两次。在线下,然后正好我说 Jove,说我们在线下录。他说我们既然住这么近的时候,我们就应该线下。对,这个现在方便的时候就要线下。以后 AI 更多的时候,我们估计线下都会比较少了。
好吧,那我们就不啰嗦,我们就先介绍一下这个 Jove。然后呢,他算是我的邻居了,我们住得很近啊,对,一脚油门过来。对,然后呢,Jove 在之前我认识他的时候他在创业。对,然后现在他是一名专职的,就是成立了一个专属的 FDE 团队在公司里面,现在一个 FDE 大军,他在做 FDE。我们今天的话题,就是 FDE。这是最近这一两个月来做非常火的话题了。
FDE的起源与Palantir
FDE 全称是什么?对啊,你看我都专门拿一个道具,就是因为我在上周。你可以这样举着,就是 Forward Deployed Engineer。Forward Deployment,Forward Deployed Engineer,就是把 Engineer 部署到前线去了。因为就像 Indigo 讲,就是这个词,其实从这个很神奇的公司 Palantir 开始的,在估计十几年前就已经开始用了。而且因为他一些客户都很神奇,你可能你在没有签东西,或者是哪怕签了签了单子都不能讲得很细到底要干嘛,必须是人在那个场所他跟你讲你要干嘛干嘛。但是他有很多一些政治跟一些军事一些事情,但本来这些很复杂的需求是很难纯软件、很清晰的文档能够搞定的。所以他发现又加上本体论一些奇怪的事情之后,他对他说 FDE 是一个非常有效的解法。当然 Palantir 这公司可能这十年都很平,突然间往上涨,然后大家都很羡慕。所以可能大家觉得我想复制 Palantir 的成功,能不能通过复制 FDE 这个模式开始。对。
所以,我叫 Jove,然后中文名叫钟钱杰,然后因为我爸爸姓钟,我妈姓钱。Jove 可能更加容易叫一些。对,然后我现在在 Cresta 做了 9 个月,然后是 Head Of FDE。就专门拉了一个 FDE 的组,现在有 30 个人,后面可能会再涨,涨到 50 涨到 100,我觉得今年都有可能。
所以说,我说邀请 Jove 来聊这些就合适了。这个组是在 Cresta 的 FDE,他就是 FDE 的 Leader,Head Of FDE。Cresta 也算是我们的 Portfolio,我们的被投公司,金主爸爸之一。Cresta 应该是在湾区非常有名的一家,好早就开始做 AI Customer Service,就是语音客服这样的一家公司。其实大语言模型之前就有了,但是随着语言模型的到来,它自己技术也会迭代,是吧这样的一个。其实因为 Cresta 也是在客服领域里面,做大公司的部署。是吧,主要是做大公司。之前 Palantir 更大,Palantir 跟政府和军方的,是,然后所以说你们这边其实这挺多是需要客户讲不清楚在场的,对。
在Cresta建立世界顶级的FDE团队
我甚至其实我这个相当于放了个狠话,是大概年初的时候,说我要建一个全世界最好的 FDE Team,甚至要比 Palantir 还要好。因为坦白说我面试过一些 Palantir 的一些人也要出来,然后其实 Palantir 因为它整个事情比较复杂,然后很难说 FDE 在里面对它的成功扮演了一个多大一个起的作用。因为它毕竟你能不能见到那些军方高层,能不能把人派进去,这个就全世界没有几家可以做得到。然后当然他可能人也不错,产品也不错,FDE 是一个对他来说挺有效的一个解法,但是中间这个成分有多大,其实很难讲。另外一方面就是因为 Palantir 其实有很多这种比如说不管是 Data Engineering,什么 Digital World Digital Twin,其实有很多非 AI 的事情在里面。
所以我所在的这个组,我在公司是完全针对 AI 做一些优化的。所以我是有信心,是说在一个没那么复杂的,就是不像 Palantir 这种有大量的关系或者是一些奇怪的一些关系在里面,一个纯软件或纯 AI 的方式去做,那我们可能面临的这个竞争会更充分。然后更加需要有最好的 FDE 能够把它做成,不是说靠一些关系。所以我是很有信心,在 Cresta 这样一个平台,能够搭建一个全世界最好的 FDE Team。
FDE在AI Agent语境下的真正定义
那我们可以把这个可以从你的理解,就是给大家科普一下,FDE 在诞生已经有了,它来自于 Palantir 的概念,Palantir 最早就叫 FDE。它有一个叫本体的系统。对,然后你说一下这个 FDE 主要在做什么。而且很多人觉得 FDE 就是那不就是怎么说外包吗?就是我们叫做派遣公司吗?就在日本就派遣把人派到公司去,干完活就走了。是不是这么低端了?对,这个其实你可能因为 Indigo 也是投了 Cresta,然后其实你可能对我们 Leadership Team 你大概有了解。其实我也是,我甚至有篇文章写的很中二,叫什么《异世界重生,然后转职变成 FDE》。因为我之前是自己做创业,一会儿可以再讲。
我想说的是说,在我被联系到的时候说要加入 Cresta,也是说被 FDE 这个词既被吸引到,也被吓到了。因为 Cresta CEO 其实都是我大学同学,然后他当然他不像我,我读完本科之后我就开始工作,然后在外企做。然后他就一路读到博士,然后有一段时间是在 Google 的那个组专门做 Contact Center 的,所以这块就非常熟。然后他也邀请我说,你要不要考虑来 Cresta?然后特别是说 FDE 这个事情特别有趣。我说什么是 FDE?因为其实这个什么时候那个就是在去年七八月的时候,你想其实对我来说也是一个新的领域,因为 FDE 这个词也很陌生,然后我查一下我的第一反应这不就是驻场工程师吗,给大家做这么多企业软件。然后再看一些文章,然后包括自己找些人聊,自己去试,我觉得我现在对 FDE 的定义是,它最好是放在一个 AI Agent 的这样一个语境里面。否则你说你这是一个 Data 的 FDE 或者是 Security FDE 就很难扯。
我之所以想把它放到一个 AI Agent 的语境里面,是因为 AI 本身是每个人都想要,但是你要把它做好是蛮难的。尤其是我们这个领域做 Customer Experience,语音,然后文字,WhatsApp,Email,然后中间是涉及到大量的系统的对接,然后有企业的 SOP,然后包括语音你要比较低延时可以试一下,就有很多东西其实你要做的 Demo 都不是很容易。你更不要说你要能够上线直接面向你的客户。比如说我们是给阿拉斯加航空或者是给 United (美联航)去做,是给他们做一个新的界面,这个界面是给他的用户而不是给他内部人员去用的。所以如果你这个系统做得不好的话,就是各种投诉,然后大家要流失,或者算错钱。
所以 FDE 其实是我觉得很像你,就是一群非常靠谱的 AI 专家,结合你自身产品的优势跟功能去贴近客户,为他做出一套适合生产的系统,且能够让自己的产品越来越好。当然这可能是一个很长的一句话,但我觉得每个都很重要。
听上去还是把工程师派在里面去做外包。但是我觉得不管一方面是对用户来讲,他花钱他可以选择自己学,自己部署,但是 AI 这个事情其实有很多容易犯错的地方。进场指导,对。就像我们跟这些很大的客户去聊,他自己本身有几百几千个程序员,为什么他们自己不做,是因为 AI 太容易犯错了,有很多细节他们不见得有这么好的专家,像我们这么好的人。然后他用的是我们这个平台,他对我们这个平台了解肯定是不够的,而且他也不愿意花个三个月六个月去学。
FDE如何帮助完善产品
然后还有一块就是说我们自己产品虽然说我还挺骄傲,就这个非常很强,但是肯定还是会有各种各样的一些改进空间的。然后你把这东西全部开发文档、开发 API 上去试,这个摩擦是大的。就是我一方面基于他的这个想要的东西把它做成,一方面通过这个事情来判断我这个产品在不在一个对的方向去做,然后把这个产品变得更好。因为我自己包括我下面很多人,可能有 10%到 30%的时间就是在改产品本身。就是不是说不 Work 了就去修,而是说你多接触了几个客户之后,你发现更多的共性,你把这些东西放到产品里面去了。
这样的话,我们是相当于把自己蒸馏了。就是不停地去把自己的好的东西,你在前端,用你的人类智商去了解前端的各种摩擦,然后把摩擦 Log 喂给后端的机器。然后拿回去重新训练你们公司的系统,改模型,改产品,然后提供新的一些体验,让这产品越来越强。然后我们 FDE,就比如说我们三个月前正在非常很痛苦的 Struggle 的一些事情,可能就已经变成产品一部分了。我们就可以去解决新的问题,新的场景。这样的话对产品本身是很有利的,尤其是我们这种偏产品公司。
一会儿我们可以说这种模型公司 FDE 跟产品公司 FDE 的差别。我觉得对,尤其这种偏重应用的公司来讲,FDE 是个很好的模型,就是很好的一个工作方式。能够不光把这个站着把钱给收了,而且让你这个产品变得越来越 Make Sense,能够抓到一些共性。下次再去实施的时候,就会时间会变得更短。
FDE服务的客户群体与下沉市场
那你就是说,你服务的客户得能够支付得起雇 FDE 的成本,对吧?所以说一般都是大企业,像阿拉斯加航空、美联航。就是因为 Cresta 产品比较多,但是 AI 进的,这是一块。然后我们一般都是六位数起,对,六位数企业,不然你的人力耗不起。但是对于很多小公司来说可能是用不起这种服务,我们也在做一些尝试。
因为我们有一段时间,就是 Cresta 是偏 Call Center,我们现在已经把它定位成 Customer Experience。有 Call Center 当然好,也不好因为你可能有些人要 Train,要怎么样,这块显然 Cresta 可以帮忙。但包括一些别的场景,比如说你是一个小的饭店,然后你一个牙医,甚至是说你要做招聘,你要做买房卖房,其实有很多事情你是希望有个 AI 帮你来挡掉一些事情,你让他打电话过来咨询,你先跟他聊 AI 聊一聊大概知道这人靠不靠谱,然后想要干嘛,甚至约一个时间,你有个 AI 助手或者是 AI 的一个 Assistant 或者一个 Manager 帮你搞定的事情。所以这块其实有很多机会,我们也开始在做,就是针对中小型的。他根本就没有呼叫中心,但是他希望有这样一个 AI 助手,能够帮他结合他的日程表,然后订单系统,能够帮他高效处理一些事情,然后这个体验可能也是基于文字基于语音。
对这个我了解,就是你们市场再往下层,再往更加中小的方向。我们 2B 优势特别好,都是什么 Fortune 100、Fortune 500 都有,然后现在再往下做,然后很多这个领域当然也不安静,很多新的玩家。对。
FDE与驻场工程师的区别:建立企业本体模型
我们后面会话题聊一下,我觉得前面还有一个,关于 FDE 有个特点,就是如何区分你是就是纯派遣的,还是你是一家有这种前端部署工程师能力的这样一家系统公司,或者叫做一家 AI 公司。或者说是一家,因为我们之前来拿 Palantir 举例子,Palantir 它有取的很酷的名字叫本体,对对,你前面你很多驻厂工程师去给大企业或者国防去做这种,然后它给你整个你的企业建立一个本体。实际上是你企业 Know-How 的一个超级 Wiki。对,应该是这样子。他帮你把企业的 Know-How 整理成了一个,你肯定整理不出来的一个,他用他的专家给你整理成了一个超级 Wiki。你企业里面 Know-How,你的知识节点怎么流通的,都在这个网格里面。然后他用他的工程师在前面实施,让他的系统在这个网格里面运行,就是这样子。相当于是他帮你的企业建立你企业的模型,就是 Company Model。
同时,他自己也会回去用这个 Company Model 的知识去让它自己的下一代的本体系统变得更好。如果有企业想要复用的时候,我可以很快的把这个,这个迭代很重要的,把这个模型给你用。就是现在说,我们现在所有的东西都要训练,AI 现在的问题是这些模型我觉得下一代如果说像 Anthropic 或者 OpenAI,他们进一步的去 Get 到企业里面更多的内部的工作流,或者他们的这个模型的训练会给你有帮助。是的。
其实我们所有的人都在,我们都在训练一个超级的神,AI 本身智商已经很高,但它要接地气。接地气才能解决真实的问题。然后这些地气怎么接,你各种比如说你要靠 FDE,或者是靠各种一些产品 SOP 来去做。
把个人工作流当成小公司运作的感悟
相对于小的我自己我分享一下我自己的一个感觉。如果说我把我个人的事情,我个人每天做的项目当成一个小公司来运作,实际上我换不同的模型,就像换了不同的提词器一样,换了不同的模型。然后我做了每一个步骤,我思考了关键节点,我都会让我的 Agent 帮我写记录,写笔记。这个时候,这个是错的我提醒他。这个叫做认知,对自己的执行过程进行一个反思、反馈,这个挺重要因为这个不对。这个对,然后下一次战是好。对,然后下一次就是 Reward,然后一战是很好,下一次我们就保持这个,或过几天之后发现又不对了,或你要把过去七天的东西给我给总结一下,然后他会写到一个很长的 Log 里面去,他自己也会写 Memory。
然后这个东西就是可被迁移的,就是我的工作流。因为不同的企业包括个人,哪怕是小企业,哪怕是中等规模的企业,他的业务如果说按照本体的方法都拆成 Wiki 了之后,他就做非常小的 Project,Project 的零件它才形成连结的东西。然后我觉得这些 Know-How 可能是只有在场才做得了。你不在场,你不实施,你根本不知道这些东西。对,而且你真的要 Train 个模型,虽然说也不是不行,但你的这个收效是比较难评估的,而且比较笨重。你信息,你每个我们在跟一些游戏公司在聊,你可能每隔一两周有个新的 DLC,有些东西你不停的 Train 是很费劲的。而且你可能中间有些错就很难纠正。但是你通过这些有些 Markdown,有些 Context,有些沉淀的东西,然后这些东西相对比较透明。而且跨 Vendor,大家也不想绑在某个具体的模型上面。
对,其实绑在一个模型上挺恐怖的,大家很支持这种现实,就是说你现在好就算贵我也愿意花钱,但是如果能找到一个更便宜的更高效,要不就是多两个互备。因为我记得之前云厂商也是一样的,一般大家都会你至少要用两个云,Google 云和 Amazon 同时采用,特别大企业。企业越大,它用了混合的 Hybrid 架构越多。不管是万一 AWS 哪天抽风,或者是你有两家至少你有谈判有筹码。对你说我要下来,有个折扣,是,这是一个比较现实。
模型公司亲自下场做FDE的看法
我们差不多懂了 FDE 是做什么的,然后包括你们的期望是什么想做这个。那么现在还有一个为什么最近很火的,就是因为 OpenAI 和 Anthropic 就在前上一周的时候,然后他们是和一些投行做了 JV 公司是吧,然后成立了专门的公司去服务投行,他们所投资的企业,就直接我的被投企业你就用我的 OpenAI 和合资公司做的这个系统,我的工程师帮你部署吧。然后这样就是说模型公司要只专注于做模型,然后前端部署他们就另外一家公司去做。你怎么来看这个变化,这个时刻的模型公司下场。
对,因为我在线上、线下有很多跟别的 FDE 的从业人员或者是一些 KOL 有些沟通,大家都觉得这是一个既是好事又是坏事。一方面好事就是这个词更加热了,对我们来说肯定是利好。大家可能或者是你要去阐述你到底想做什么事情,然后招聘可能会有些帮助,然后这个。但另一方面就是模型厂商做 FDE 有些说法是说,因为 OpenAI 或是 Anthropic 的就是这些研究员或者工程师本身很贵,然后他觉得我要招很多 FDE 才能够把这个 AI 项目做成,然后这些人可能不见得需要那么好,然后能不能找些外包。然后会不会把,我这个如果说我用 OpenAI 那个品牌去招人的话那价格是三倍是吧。如果说我换个公司去招人价格下来,他有点亏的。他说我能不能外面开公司,然后大家有个合作,然后你人招的次一点价格拉的低一点,只要把我活干完了。这样对他估值一个帮助之类的,这是很重要的事情,有些想法。所以这也是我觉得可能大家。
FDE不属于专业服务(PS)部门
因为我觉得上周我在旧金山开那个会也实际上就是,什么会?就是这个会。你们公司的会?Propel 是一个,其实是偏 Professional Service 的一个会,大概五六百人左右。对,然后它应该是全世界最大的关于 Professional Service 的一个行业的协会。然后在这个其实很巧,因为我的观点是 FDE 是不应该属于 PS 或 Professional Service 这个组,但是依然很多人这样去做的。包括其实他们也对 FDE 这个模型很感兴趣,因为最后能够承担能够多卖点钱,当然是愿意的。
但是我的观点之所以不想把 FDE 放在 PS 下面,是因为就像我前面说的,FDE 不光要把帮助客户把 AI 项目做成,而且我们是 Forward Deployed Product Engineer。就是我们本质上讲还是做软件做产品的。我们只是花很多时间跟客户在一块,我们有很大的一些职责是要让这个产品变得更好。所以我自己也花很多时间去做新的 CLI,甚至我们 FDE 自己做个 IDE,能够让我们效率很高,把我改了很多的东西。
这样的话如果我们这 FDE 组是属于 Professional Service 的话,基本上你在整天想我怎么去放不同的项目,然后算人头算时间,然后你如果发现产品有问题,你可能就开一个 Ticket 跟谁说一下。但这个再去改完就很长对吧。就是你没有你不见得被信任或不见得被支持直接去改产品,因为毕竟是另外一个组。那我自己现在是直接 Report 给那个 VP Engineering,VP Engineering Report 给 CEO,这样的话其他组那些做界面、做后台、做各种功能的人对我来说都是 Peer。甚至是我 FDE 这边很多人的面试,是要经过他们的初期的面试。大家都只是都是平级,只是我们这边组更加面向客户一些。
为客户和内部开发通用IDE工具
对你刚刚说了一个词,实际上你们为了部署的需要共性,你们甚至会开发 IDE 来做这个事情。对。那就是说这个和行业有关,还是和行业没关?还有我的问法就是你们会开发 IDE,就是为了让你们部署更快速更加方便,就是你们会有做一个公共有通用性的工具,然后给内部使用。然后用这个工具去在前端部署不同的客户会做这样的事情对吧?
对大致是这样,然后就包括我上周在这个 PS 的会上面,其实大家也很容易会讲到是说,你要把你原先要做的这些步骤、流程把它工具化,把它 Skill 化。大家用 Claude Skill 把它变成文档,变成 Script。其实不管是大家在哪个组,大家都有这个意识能够把这些事情自动化掉。然后我们 FDE 肯定是要做大量的这种系统对接,然后有些最佳实践,然后我们肯定是做了很大量的 Skill。
然后我们面向的客户有两种。一种是比方说像大的保险公司,或者是包括美国有些 Home Security,他们其实本身 IT 不强的,坦白说,这样他很认可我们这个牌子。他面向很多各种各样的一些不同能力的客户,有些客户可能比较年轻一点,有些比较老年化一点,然后他们买他们产品,然后他们动不动就要打电话过来。所以对他们来说,养了一个很大的一个 Call Center Team。然后他希望能够通过 Cresta 能够提高绩效,然后他自己也不想自己做这套 AI 的系统。就完全给我们签告诉我们应该做成什么样子,然后他的 API,他的数据库是怎么样子,我们去做完就好。这是一类其实是蛮大一个比例,就相当于我们不需要把我们到底怎么做告诉他他也没有兴趣知道。他只管你给我一个电话号码,以后人家打电话过来,就直接上这个电话号码了。然后你要能够搞定这个跟我的员工一样好。
然后另外一类就是比较 Technical 的一些公司,然后他本身也在做 AI,发现自己做的 AI 不是很理想,比如说你问个问题要隔个五秒钟才能回答,或者是会有些幻觉,因为其实做 AI 出错才容易。所以他 OK,找到我们,我们先做一版 FDE,做完之后他们最后是要拿过去。就因为他说我如果加了新的 API 或者是我一些 Routines 要改,我要有能力自己改。他不想绑定在我们这边。所以对这种比较有技术能力的客户来讲,我们也需要让他知道怎么改,不能瞎改。所以一方面我这边 FDE 做了大量的这些 Skill,大量的新的工具。但是这些东西,我们把它又包装成一个比较 Agentic 的一个 Harness 或一个 Tool。这个不光我们自己用,我们这些 Solution Engineer 用,而且客户也可以用。相当于客户他要下次要改一个 AI Agent,他就只要对我们这个系统点一点指一指。
就是说就是给他做的这个 IDE 是吧?对,你们用他们也用。对,因为相对把我们的一些想法沉淀都把它变成产品,能够直接影响客户。
那么你们服务不同的客户,会回头把所有不同客户的意见反馈都来改进这个 IDE 吗?会有这种机制?
因为相当于 Skill 本身就像一个插件一样,我们可以有一些偏支付类的一些 Skill,或一些偏比如说 Scheduling 相关的一些 Skill。那在不泄露客户隐私的情况下,我们是可以把它一些共性可以抽象出来的。然后甚至是我们可以针对某个客户再做一些额外的包。那这些包仅限在这个客户里面去用,然后让它下次迭代会更加方便一些。其实这些就有点像是它的这个 IDE 本身是一层软件,上面这些 Skill 像一个插件包一样。这个插件包可以是一些很通用的东西,也可以是偏行业,甚至是真正的就是客户。然后这些内容其实是非常的有价值,甚至比软件还有价值。因为相当于是 SOP 的一个自动化已经沉淀下来了。
从自动化到智能:下一代软件的形态
对,而且它是知道公司的很细节的一些业务流程、一些认知的一些 SOP,就是自动化的。其实它也是一种软件,只是说这个软件它是动态的执行任务。对它不见得是 Python 或 CDA,它可能是一些 Markdown 和一些表格。对,它会根据上下文,未来新任务的 Context,逻辑的,灵活的判断这个任务应该怎么执行。
就是下一代软件,在智能就是 Intelligence In Software。对,之前的软件再聪明,它都只是按照程序代码 If Then Else 执行的结果。我打个句话说,就是之前手写的自动驾驶代码,和现在神经网络训练出来的自动驾驶,是不一样的。对吧神经网络训练出来的自动驾驶是不一样的,我忘了是谁说,以前代码可能 100% 都是 CPU 来执行,因为它是非常逻辑化的。黄老板说的。对啊。然后你这个比例现在可能一半一半,一半 CPU 一半 GPU。以后主体都是 GPU,中间一小部分是让 CPU 算一算。现在为什么 CPU 炒得这么厉害呢?那是因为 Agent 调度的时候还需要 CPU。对大家可能就又回头来觉得 CPU 还是有点用的,这个比例大家都在调。对,对。
现在来看,GPU 是很要用的,这个板上钉钉了。然后为了让上下文任务执行的时间更长,为了让上下文更大,那内存很重要,对不对内存很重要。然后大量的 Agent 在协调调度事物的时候,发现 GPU 也很重要。反过来就再造半导体,再造半导体行业。对甚至可能在过程时间,这些什么数据库啊,文件系统都会重新再翻出来,因为再炒一遍是吧,如果后面发现总共能找到新的瓶颈。对对对,说的很对,数据库,文件系统,下一波软件里面最重要的,我觉得市场会炒他们的。
但我觉得因为回到我有点扯到我自己的经历。就是我在加入 Cresta 之前就做了四五年的自己创业就做数据库,给人分享一下。做了有点早,因为我之所以那篇文章说在异世界相当于重生转职为 FDE,就是因为因为我的背景是都在外企,我是 81 年出生的。之前在复旦读书,然后 03 年毕业就在 Ibm 做了四年多,然后做企业搜索,在 Emc 做了四年多,然后在 Splunk 做大数据跟安全的做了七年多。做到后来都觉得很无聊的自己创业。创业扎进去四五年,然后那个是非常的实时的一个数据库。我可能跟你说过,我们都要做那种 Single-Digit Millisecond 就是毫秒级的延迟。就是针对比如说你要做量化交易或者是大量的网络攻击,这种数量又大又复杂,又要能够实时出结果的这种信息。我们是针对那个领域,但那个领域就相当于就比较精益求精了,然后肯定没有 AI 那么普世。然后可能再过个几年,那个领域又会重新热起来,因为 AI 可能对要求越来越高了。对大家这样的理解。
我的判断是这样子,就是说因为 Agent,它像人类一样的工作。对然后你想想看,但是它要换了一个角度,它没有人类这么慢,它很快。同时
Agent 的协作模式与通讯
它协作起来方法和人类不一样,因为他们的带宽很大,它的沟通效率会非常高。那么,之前人类软件工程师协助用的这些工具,其实它可以再用一遍,它都可以再用一遍。我们就是从为什么 Agent 活起来,为什么小龙虾 OpenClaw 活起来,就是因为文件系统。对,他们用文件系统的共享知识了。那么接下来高效的这个缓存系统、文件系统、通讯系统,然后比如说刚才还有说的这种数据库,新的数据库更像他们用的数据库。其实文件系统也是一种。因为他们沟通的时候,更多的是用命令行和文件系统。他很熟悉的,当然他那个数据库访问、增删改查他也很熟,只是说现在场景不多。对,所以说这些东西都可以重新来一遍,被 Agent。这确实是个好提示,我觉得这是一个结构性变化。你看现在大家,包括像昨天的 Jacky 过来给大家演示那个 Slack,像 Slack 一样,可能大家觉得比较亲切,但是不见得是 Agent 的这种态。因为你开个几百个上千个还是不够用。不够用的,它的带宽很大的,同时搞个几万个都没问题的,大家可以聊得很复杂的事情。就是这种非常拟人化的工具对 AI 来讲可能是不必要的。对。是的,有可能会有新的工具出现。但是我们说它现在能够像人,因为我们现在训练它就是让它像人一样工作。但是随着它自己的下一步再进化,比如说今年 2026 年年底的,你说明年的 2027 年,当它能够 Self-Evolve 之后,它能够进化出什么通讯形式,我们也不知道,对吧。他可能是大量的进程在服务器集群这样子涌现出来的工作,我们也不知道。可能智能体大量的协作,因为我觉得这种超级智能不是在一个模型里面诞生的,而是在一群模型里面诞生的。他有大量的 Agent 在他们的涌现出来工作,会产生这样的一些结果。当然这个我们可以扯得有点远。
模型厂商与 FDE 的部署生态
这个跟 FDE 还是有点关系的。回到前面那个话题,接回来就是,OpenAI、Anthropic 他们这种模型厂商做 FDE,我觉得对我来说比较纠结的地方在于,我觉得模型的粘性其实还是有问题的。对我来说,我可能这两天,我两三个月前喜欢用 Claude Code,最近这一两个月大家觉得 Codex 又回来了,对还是很香的。我用过了,真的干活是又快又好。所以这个事情你只是说大家可能没有在听姚顺宇的一期,我们不是有两个姚顺宇,有一个是在 Anthropic,他有一期他也在说。其实在早期更多是一个模型公司意愿的问题,就是 Anthropic 作为公司更意愿做 Coding,他就占了先期。但到后面大家都有这个意愿了,那 OpenAI 也不傻,招了很好的一些人,Codex 也起来了。所以我的意思是说,模型公司他的粘性其实一直是有问题的。然后另一方面,它模型再强,它不接地气,它不能搞定这些比如说一些事务性的东西。它用户来觉得也是,这么大一只鸡,不知道怎么吃。所以需要有 FDE 去落地。然后但是对我来说,我觉得这是一个观点的不同,就是我觉得 OpenAI 本身没有那么强的意愿做企业级应用,它这些意愿确实不强,所以它其实没有一个沉淀出来的一个企业级应用的一个平台,或者是一套 API。基本上我不管,我自己招 FDE,还是说我拉了一个新的 FDE 公司,The Deployment 公司去把这个事情做成了。你到底做成什么样子我不管,只要把这个单子做成了,你用我的模型就好了。但是 Cresta 不一样。就是我们自己是扎根在 Customer Experience 这个领域的。我们有非常复杂的 API,然后非常多的比如说我们做非常好的 RAG,非常好的语义检测,非常快的 Summarization。就我们有很强的应用的沉淀,然后这东西本身非常复杂,复杂到用户自己学是很麻烦,所以 FDE 可以帮他去搞定。另一方面的话,我们通过不停地去把单子做成,然后反过来说,把这个产品打磨得越来越好。所以对我来说,FDE 来讲既把单子做成,而且把产品做好。所以这个 FDE 在里面的作用就很明显。就不是,就是不是外包型的。但是我觉得多多少少 OpenAI、Anthropic 还是觉得 FDE 就是外包,能够帮他把模型 Token 刷掉一点。对对。对他们来说确实是这样。因为有两方面,我理解。我从投资角度来看,像你刚才说的第一方面,就是如果说他用 OpenAI 的名义去招这种部署工程师,对他太划不来了,对吧?财报不好看,这么贵,你做的这个利润 Margin 只有这么一点,你现在卖 Token Margin 多高。但是你去做部署,那你就低了。他说还不如用另外一个实体去做,这样更好。对他来说,说另外一个实体做,他可以通过 FDE 部署那一批 JV 公司,然后形成一个快速的切掉他的企业市场,是吧?然后可以帮他的 Token 在这些企业里面得到更好的消耗。实际上对 FDE 公司来看,就是我们叫做前端部署公司来看,对他来说,是帮他消耗 Token 的一个好渠道,对吧?因为很多大企业都不会消耗,不知道怎么消耗,我来我的公司,我来帮他消耗,教你怎么消耗。
企业转型 Agent 工作流的挑战
现在就这个问题,因为我看了好多这种特别中小企业,包括个人也是的,我觉得现在 AI 的 Gap 巨大。特别是这半年 Agent 起来之后,大部分公司和领导、老板们还在两年前的这个意识。他还在用 Chatbot,他很难把他的思想转化到 Agent 的工作流上来。他用 Chatbot 消耗,那个消耗 Token 多少?太慢了。你换成 Agent 之后大概十倍一百倍。所以说现在就是说,但是这个转换是非常难的。这个转换,我觉得从我周围环境、我接触过的人,包括自己做节目和别人聊天反馈来看,这个转换,可比你用 Chatbot 去问问题难多了。对,难多了。因为问问题,第一个你得会提问就好了。是,你这个,你想要变成让 Agent 的工作,你首先你得抽象你自己的工作流。是的,这个就是对很多人来说或者企业来说,企业连自己的目标都讲不清楚,我的 SOP 我也搞不清楚。今天老板拍头这样干,明天那样干。而且我自己还经常遇到有些客户,他主管脑子里的 SOP 跟他真实那些接线员的 SOP 根本是两回事。脑子里想的是一个完美世界,应该这么讲。然后我说对不起,我就随便拿个百分之五的 Sample,你的最好的接线员不是不这样讲。其实这个现实世界是非常的 Messy 的。对。是的,我觉得这个就是最大的问题。因为你像之前我通过聊天或搜索的方式解决问题,那真的只是进入 AI 世界的第一步,那个时代已经过去了。因为他现在 AI 你什么问题上能回答,基本上没问题。现在就要真的干活。要真的干活之后,那就涉及到你真实世界里面的意图、标准化的工作流理解意图,然后把这个工作流执行出、交付结果,然后验收结果。那就是,想想看 FDE,其实现在的 Agent 你就是相当于我雇的员工。我雇的员工,我怎么用好这个人?怎么验收他的结果?就是这样一个过程。如果说一个企业公司目标没有,然后老板天天变主意,然后老板上面的就是上面想一个、下面做一个。这样的公司特别多。然后你说你怎么去实施 FDE?怎么去做 Agent 的部署?但他如果不实施 FDE,这个事情会更加摆烂,就更加没有进步。如果说他没有 FDE 进来,他这个事情根本做不成。所以说很多企业我觉得大量的转型,其实他在雇用新的 IT。我上个月我分享的一个主题,我不是在湾区做了个巡回嘛。对对对。我就是说,我们叫做新的 IT 家政,我不是说 FDE 是家政,其实就是帮你进来收拾,找个外人帮你把家里收拾很整齐。你这样搞太乱了,你这个不统一。对对,我们之前就是,之前不是还有专门人来帮你做家庭整理的人?日本就是这种服务,帮你把家庭整理、断舍离做这种东西的。其实就是你需要请一个 FDE 公司进来,帮你把家里的公司给断舍离。对。我们有一个 Roughly 有个标准,是说哪些公司是我们接下来比较舒服的。首先有点是 AI Native 或者 AI Ready。比如说他已经在用 Salesforce 了,他用他的比如说 Data API Salesforce 数据模型在那边,然后你可能知识库在 ServiceNow。就是这些公司他只是不知道怎么做一个好的语音 Agent。因为延迟、一些事情还是比较复杂的,但这些人我们相对来说比较靠谱的。我们也遇到很多公司,就是就像你说的,就是老板有一个模糊一个印象,然后他自己的家里的 API 都是自己建的,或外面随便找个学生搞的。就是非常不稳定,然后变来变去,然后 Error Code 也是错的,然后是似是而非。对这些人来讲,AI 他们自己用,就是对于那些好学生来讲,他已经 AI Ready,只要搞一个好的模型、搞套框架做成是比较容易的。对那些内部的这种 API 比较乱、SOP 就是随便讲,这些人你要自己改过自新,让 AI 把它理顺是很难。所以 FDE 相当于家政,你说得没错。就是以一个比较客气但又比较专业的方式告诉他,你应该先把 API 改成好的样子,你的 SOP 理顺,你的数据库、你的 Knowledge Base 要理顺。这个时候你才能够有个好的基础去做 AI 的自动化。否则 AI 都不知道这次做得对不对、它下一步是什么。这些都是。所以有些公司已经跳过了,不管是上云这一波,还是说上移动那一波,因为他觉得赶上赶不上。但他大家都觉得不能错过 AI 这一波。因为你不上 AI,大家都死了,你的投资人也不相信,你的客户也不相信,你的同业人员都很卷,所以上 AI 不上 AI 这个是没什么好说的,肯定要上 AI。但是很多公司现在是不 Ready 上 AI。因为它自己的数据库很烂,你的 API 很烂,SOP 没清楚。所以这个情况下有一个外力,就像 FDE 就像一个有点像咨询公司。当然我们不只做咨询公司,我们做产品。但是光我们做落地这个事情本身就能够做一个外力,让他好好想一想,我这个不能每个都要,我要哪前三个东西?我的这个标准化流程是什么样子的?然后这样的话其实是一个很好的方式,不是出 Slides,就出一个能够用的 AI 系统。对,这个你说得很多。
FDE 如何替代传统顾问与公司中层
你刚才说像新时代的,我觉得智能时代的顾问公司,上一个时代的顾问公司我只要是出个 Slide,我出个 PPT 给你,那老板可以看得很好,鼓掌。员工都是在,我们都请过顾问公司的以前,因为他只能做到这些,他下不去。然后顾问公司再牛逼一点,他其实很多顾问公司是跟 HR 系统在一块的,他帮你换高层、换中层领导,就是帮你换公司的结构。然后那些人再进去做实施。实际上就是现在的顾问公司,怎么样我不用换你的高层,我派 FDE 进去,带着 Agent 进来帮你重新整理。就是你把中层换成了 Agent。就是,他基层还是一个员工。就是我觉得这一点就是当 AI 越发达的时候,就是这个 AI 性能越好、智能越高的时候,整个公司就会抽离出来,就是一个领导层、核心决策层。这个组织慢慢中层就会被消灭掉。因为我不需要,因为 Agent 沟通效率很高,然后呢他能够做大量的这个消息并发传递。就是我可以战场透明嘛。对对对。我前线发生什么事了马上 Agent 回报,然后老板都知道了。就是他把这一层跳过去了。然后他直接用指挥边缘的员工们干活就好了。员工可以是人类,也可以是机器人,也可以是 Agent,无所谓大家说需要人干就人干,不用人干就其他干。我以前在这种公司可能一般一个 Manager 下面管个 10 个人,现在管 20 个人,我现在管他 30 个人,马上就管 50 个人很正常。对吧?就是你中间这个中层如果只是传话总结其实没太大必要,AI 能够做得很好。对。包括你看到前面说像这些比如说像 Elon Musk,他 GPU 利用率那么低,他有 Token 也卖不掉。我觉得他也缺 FDE。他如果能早点搞 FDE 模型,也不至于说 GPU 闲置然后再转卖给 Anthropic。但是他野心太大了,他觉得他能够把他的东西都用完。业务增长过慢。而且他光做比如说 Grok 做 Image、做语音我觉得还是一样。就是说现在模型那边非常卷,然后应用这端其实大家需求除了 Coding 是很明显的需求,但是你这种出个图片、出个视频其实是有的没的,大家觉得就玩玩。
Customer Experience 领域的商业机会
所以 Customer Service、Customer Experience 是一个有点像是所谓低垂的果实,但是又是很具体的。你看我们做这种什么美联航或者是 Marriott,你做完之后,一天几百个几万个电话进来,相当于实际上就是你做一次软件、做一次 Agent,能够按 Volume 收费。对吧就本身事情是不算容易。但是一旦做成了,你这个收益是很可观的,Token 消耗是巨大的。你刚才说你想可以 Demo 一下,要不你打个电话试一下给你们系统,让大家有一个直观的印象?就是说,当然我这个不是一个 Call Center,不是一个呼叫中心,就是我做了一个 Agent,能够把我一个,是我录了一个两分钟的声音上传上去,能够把我声音克隆。当然这是一个非常粗糙的克隆。比较好的克隆你可能要上传一个六分钟的、六小时的一个东西。各种情感、音色都要在这里面。克隆一方面,一方面的话,我把我的一些博客、一些访谈,包括招聘的一些流程放进去。然后这个作用就是说,如果我现在经常有 LinkedIn 找我能不能聊个十分钟十五分钟,我说你先跟我的虚拟化身先聊一下,然后顺便让你感受一下 Cresta 产品大概是怎么样。好。你试一下,感受一下 Cresta 的产品,然后就拨个号码。这里不是做广告啊。对。
FDE Agent 演示环节
Hi there. I'm Jove an AI Agent representing Jove and the Forward Deployed Engineer Team at Cresta. Quick heads up, this call is recorded so Jove can review your questions and keep improving me. I'm here to answer anything you'd like to know about the FDE role to get started. May I ask who I'm speaking with? Hello, this is Tom. Nice to meet you Tom. Thanks for hopping on this Demo with me today. What questions do you have about the FDE role the Team or Cresta? Yeah I noticed Jove shared on LinkedIn that we won FDE Team of the Year last week congratulations. Oh gotcha, you saw Jove's LinkedIn post from last week. Are you asking specifically about the FDE opening he mentioned or just generally what changed with the Team? Uh I have too many questions, but do you hire any FDE in Canada? Yeah we do hire FDEs in Canada including fully remote roles. There's an active Forward Deployed Engineer AI Agent posting specifically for Canada right now. Wait wait, so how many FDEs today in Canada? Yeah so, I actually don't have a precise Canada only headcount number in my data. I do know globally there are around 20 FDEs today. Wow that's a lot can you share more about like what's the interview process? Yes totally good question. The FDE process is apply online quick resume screen, then an online Coding test, then a short recruiter video chat。大概是这样。对。不错。这不是一个简单问答器可以做的事情。包括他如果真要给我留个言,或者是博客留个时间,而且他信息都准确。比如说现在是招了 27 个人,下周就是 28 个人。你可以想象,就是说如果你是一个餐馆、你是个牙医,你比如说最近有什么优惠,或者是哪个医生在不在,或者我把某个事情给取消掉,你就不用搞一些前台。他怎么能够那么精准的有 Context 知道这些信息呢?对,所以这些事情是合作做的,这些数据肯定是归客户的。
企业知识库对接与拟真调试
比方说牙医也好,他需要整理出一方面他的这些数据集,我们称为 Knowledge。你的知识库,你的公司,你的文化,你的历史,你的老板是谁,然后有一些比较动态。比如说你的库存信息,然后你的哪个医生什么时候有空。然后包括你要去把握住你这个想要营造的一个氛围。比方说如果你做银行,RBC 跟比如说这边的 VanCity 的风格肯定是不一样。RBC 可能会更加的 Serious,严谨一点,然后 VanCity 可能更加轻快一点。你可能涉及到挑这个语音的音色,说话速度,包括它中间是不是要加一些比如像我这边故意加了一些嗯、啊,这种比较轻快的事情。有很多细节你要高度拟合到你的真人。包括是说如果你有过去比如说一两年的这些通话的历史,你就可以拿它做一个样本,或者是做一个训练。所以中间其实有很多细节。然后比如说我们又有一个流程的,只要你把文章贴进去,链接贴进去,就能够建这样一个数据库系统。然后你能够做一些 API 的调用,能够做一些 Payment,包括你整个延迟比较低而且可以打断。所以这是为什么我说我们要比,其实很难说哪个更复杂。但是模型公司就做成大一统,就是到最后有一个模型你都看不见,只要聊就好了。我们是中间涉及到可能是 20 个不同的模型,然后 1 万个参数都可以调。然后中间你要去,不光是要把这个通过写 Prompt、写 Subagent 把它做成,而且你要做大量测试,证明这个 Agent 不会犯错,不会说一些不该说的政治话题或者敏感话题,你要能够刹车。包括你要什么信用卡要脱敏,中间有很多细节。这个事情就是,如果你光花钱买 OpenAI,没人帮你做是不行的。然后 OpenAI 也不高兴自己做,所以他要找个 FDE 来做。对,这样子。对。是的,这个我深有感触。我们以前做内容审核就这样,非常定制化。而且定制,越定制其实越好。我觉得现在大家在说可能 SaaS 已经死了,就是因为太标准化的东西已经没有吸引力了。你就是要越定制越好,然后就觉得贴身服务。对我这个公司几乎就是一个非常定制化的一个产品,能够让我少招很多人,或者是让我们的交付变得更快更好。
FDE 在不同 API 质量客户中的落地体验
你可以举个例子方便啊,不泄露任何用户信息的情况下,你可以举一个比较 Tricky 或者说部署你觉得最有趣的一个例子,你的 FDE 在实施的时候就是客户啊这个感觉很混乱,然后你实施之后就是变得很好这样一个例子?所以你前面讲了一个挺好的,就是说你们会有什么样的标准判断这个公司做 FDE 或者 Agent 的流程化它的难易度。如果这个客户本身都用的很多很标准的 SaaS 系统,数据库很 Well Organized,就是很好、管理的很好,那他们就很快。但是有的系统公司就是乱七八糟的。比如中国很多中小型企业简直惨不忍睹。对。对我自己,我们团队甚至是像我做过创业的我来讲,其实大家一会儿可能有机会聊聊,就是我喜欢怎样的一些人交流 FDE。但是就是对我们来说,有些公司他 API 非常标准化,在用 Salesforce 这种产品,对我来说相对比较容易一些。但是他的这套 IT 的硬性的指标比较靠谱并不意味着这个就好做。因为有的时候我们就会发现有些公司其实坦白说特别有钱,一个会动不动就是 20 人、30 人在一个会上。然后可能没两天就要开一次。就是大家不停地 Align。就是我们应该怎么去拿捏 Conversation 的一个方式。对他们来说,API 实现是因为他们很有钱,他可以买最好的 API、最好的平台,但是他这个意见分歧比较大。然后可能经常会改,这种情况下对 FDE 来讲其实也会比较受伤,就是你这个实施周期会比较长而且变动会比较多。然后另外一方面就是,如果一个公司他的 API 很烂,自己找学生做的,或者是做的那个工程师已经不存在了,然后他的文档也是比较大量的截屏,或者是说有一些比较古老的 Format。就对 AI 非常不友好。当然我们 AI 可以看到做 OCR,或者是看到一些图片一些识别做一些识别,但是毕竟这个内容对 AI 来讲没有那么理想。就大家为什么现在特别喜欢 Markdown,不是说你文档本身如果主要是给人看,不是给 AI 看的话,就很难讲让 AI 很快能够上手。但是我觉得这些困难本身对我们这样的公司来讲反而是机会。如果大家的 API 都非常好,我们的价值就低了。我们家里越乱,你越想请家政。如果也太整洁了,不需要家政了。大家真的都不知道怎么理,不知道油污怎么清洁。我们有好的油污去除方法而且有 Best Practice。其实我觉得感受比较 Mixed。就是看到一个比较头疼的客户来讲,可能也只能我们能搞定。对,了解。挺真实的感觉。而且有些场景真的蛮好玩,比如说我说做那种牙医,牙医在美国在加拿大也是一样,就是非常赚钱,很赚钱。对。尤其是如果你是有个商业保险,我觉得说个很个人化的事情。就是我在 Splunk 的时候保险可能还不错,可能一年可能有个 2000、3000 的牙医,后来自己创业了,我们就买了个最低的保险,可能也就几百块钱样子。然后牙医的那边的人就对我相当爱理不理,因为那个 Budget 有限。但是我现在又回过来了,然后 Cresta 比较正规,然后又变成了两三千的牙医。他就想着把它用满,各种洗牙、各种 X 光。因为虽然不是国家 Cover,但是对你来说,你手头有三千块钱的 Budget,你用就用了,你到底这次用一千、用一千五其实是不敏感。所以牙医是个很暴利的,很有很多赚头的一个行业,在北美。但是他们的 IT 能力其实不怎么样。然后我们有大量的,就是帮牙医做这些 Scheduling,就是预约或者是问一些理赔东西。然后你会发现中间有很多就是你想一个人牙齿都已经掉了,他打电话过来话都说不清,你想话都说不清你跟一个 AI 讲,能让 AI 能够大概知道你是哪里不舒服,你想约下周四还是再下周四,就这种事情,你自己不做是不知道会有这种奇怪的事情。然后你就要去调整你的语音模型,如果你听到这个词有可能是这个意思,或者是让他多想一想。就是你要越贴近这个世界,你才能够把最后一公里能够补得比较好。我觉得这也是 FDE 一个比较有趣的经历。就是我们可以不用一年换四五次工作,就可以一年四五次贴身到某个行业里面。比如说我们有些人是做这种国家公园的,就很有趣。就是国家公园有很多门道。然后这些像这种牙医有很多门道,然后有保险有很多门道。就这个对我们来说其实是蛮有趣,能够不光是从知识层面指导,而且从这个人的感受来讲你会就,原来原来这个世界是这样 Work。
模型公司的云端锁定与演进
对,所以我有一种感觉,特别是现在看着模型能力这样的增长。就是模型公司,它肯定有它的目标。我们前面一聊,聊他们肯定是最大化,还卖它的 Token 就好了。对吧?然后呢而且他也不想去做这个非常 Real World 的这些需要投入大量的能力去做这种清理,它精力就分散掉了。对对,他想的就是一个卖 Token,第二个你能够把这些数据回报给我,我能够训练模型用。对对对,这他就是两个需求。所以说他们前面做的什么 JV 模式,像 Snowflake 和 OpenAI,包括 OpenAI 自己他也在发他的那个 Cloud 里面做 Agent,包括企业我看到上周好像 Google 也成立一个 FDE 组,对他也要下场。都有。所以说这是第一个变化。所以模型公司它是上面,它们更像是操作系统 Operating System 所有的软件层。所以我觉得在这个时代的我们说应用层,应用层分成,先不说个人的,企业应用层,不是那种标准的 SaaS 应用。因为你其实大量的东西都可以用模型实现,用模型能力来实现。然后第二个其实我觉得在应用层需要有深度的理解企业需求的这样一些人进去之后,把这个过程变成 Context,然后让这个 Context 再变成模型可以执行的这些 Agent 的工作流。他是这样子。然后执行过程中,他可能需要新的 Cloud 设施。比如说现在 Anthropic 推出了自己的一个 Managed Agents,这个 Platform 就是托管的 Agent,他的云端运行的。它开了很多设施,什么 Context 管理包括做梦,Dreams。对对,自己做反省,这些能力都有。这个东西只能在云端做,它不给本地做。因为我觉得,为什么我这样考虑,因为我觉得下一代的模型出来之后,它就不是一个简单的一个 Model,权重一堆你可以单独部署的。它必须是和你的 Infra 整合在一起的。怎么说呢?这个可托管的 Agent 实际上就是下一代的模型。是,而且相当于 Anthropic 做了一个这一支特别精简的模型,也不是很大,但是它推理能力特别好,直觉感觉特别好。它要好多作为这种基础 Infra 设施,给它强化 Context,给它做记忆能力给它做 Continual Learning 持续学习。当你的企业选择了模型之后,它就把你完全锁到它的云端了,锁住了。锁定了。在商言商,肯定是希望大家能够多用一点,而且不要整天拿我跟开源比。对。一定是这样子,光拼参数没有意义,很累的。随着大量的企业在使用他东西,他 Get 到大量的从前端 FDE Get 到大量的反馈之后,实际上就是 Anthropic、OpenAI 要建立自己的本体支撑系统。
FDE与行业的演化趋势
这个本体你可以交给前端的FDE公司用。然后他的模型慢慢地就会有了更多Know-How,他能把客户锁住。我觉得这企业感觉就像是Microsoft Office加上AWS,对企业来说,所有的都会是这样的变化。
FDE就是下一代的实施公司,或者针对某些行业的FDE实施公司。它就是下一代行业的SaaS,或者叫做行业的本体公司。就是你Know-How这个行业,那我就给行业快速做实施,就会非常快。或者说在这个行业里面最懂IT的、玩了很久的人,他就可以出来变成这种公司,服务于他的同伴。可能后面有一定比例的程序员,不管主动被动,都会变成FDE。现在就在这样做,因为你还是会有一些需求,你要做非常好的数据库,非常好的Cache系统,一些后端的甚至前端,你需要有审美。
不是所有人都要变成FDE。但是如果你在中间状态,我觉得中层现在在哪里都很麻烦,不管是中层的管理还是中层的技术,中间状态都很尴尬。因为你可能会被更便宜的替代,或者是上面一些人懂得比较多。所以会有蛮多人是需要把IT技能结合一些主观判断,以FDE的方式去落地,能够把产品、把模型用好。否则你就只能变成某个非常细分领域的专家,不用去跟客户聊,只要把通用模块做得很好就行。但是毕竟有大量的代码或者系统,都是需要跟现实世界去对接交互的。
应用公司与特定领域的壁垒
刚才提到模型公司肯定是希望能够做一个大一统的方式,能够什么都懂,而且跟你产生比较长的绑定,你不能轻易离开。
我觉得应用公司还是有一些机会的,不管是像Stripe这种做支付的,或者是Cloudflare这些,包括我们这些偏Customer Experience特定的公司。要做创业或者做公司,你还是要想清楚你的ICP是什么,你不能很泛。如果泛泛地做语音Agent,这就太泛了。对我们来说,我们就扎根在Customer Experience,当然从Customer Call Center起来,但我们针对个人的Customer Experience,这样的话会有些聚焦。越是聚焦,你沉淀的东西会越具体,别人就很难轻易地Copy。
这一类应用公司,结合AI的技术和FDE模型,还是蛮重要的一类公司。当然你也可以选择纯做咨询、纯做外包,那也是一种活法。但对他们来说,他们没有一个根。我招聘时也会招一些来自埃森哲、麦肯锡的人,他们很习惯客户有个项目,过去解一下,把事情做完就好了,然后就跑掉了。他没有一个自己需要沉淀的东西,对他来说可能也很茫然,做两三年觉得也就这样了。
但是对我们来说,我们的根在这边,这个树会越来越大。我们会觉得下次你这个Case,我可能两年前做过了,原先花两个月,现在只要两天,甚至命令行敲一下就搞定了。这样的话,我们是在不断壮大,然后更接地气。坦白说,我们其实也有一些场景是做赌场相关的,可能也有一些很有趣的Case。比如你怎么合规地收信用卡,怎么去做小额逾期的提醒——不是催债,而是用不是那么反感的方式提醒对方先还50%。这些沉淀下来之后,换一个银行品牌,其实差别不是那么大。
Know-How复用与普惠智能
客户肯定会在意自己的东西被学过去教给别人。我们也会很小心,涉及到具体的PI信息、个人信息肯定是不能泄露的。公司要很清楚哪些是Secret Sauce,是不想跟别人讲的。但毕竟有些共性的东西,或者是行业的Common Sense,大家可能不会明说,但都是这样做的,这就不是秘密。FDE知道了,对下一次部署来讲还是很有用的。
你把他的Know-How变成软件的Skill了,另外一个类似客户上来的时候,直接用这个Skill,相当于把别人的技能通过系统传递给另一个人。在一些场合,我们还会升级出优势。比如我有几个FDE已经做了三四家这种公司了,做第五家时,对方说API和流程是这样的。我们就会说,这我可以做,但还可以更好,以我的经验,跳开这一步直接到下一步大家会更自然。他也相信我们比较有经验。甚至比如做餐馆,我们可能会比一般的餐馆更有经验,知道怎么提高翻台率。所以FDE结合AI技能和行业Know-How,是非常有价值、可复制、可被认可的。
这就像之前的SaaS软件把很多中小公司的流程约束化了,比如财务流程。随着大家用流程化的东西变少之后,我们可能会用模型、Skill或者FDE部署,让这些中小企业更加灵活地使用流程。这等于是松绑,让它变得更加个性化、更适合自己。之前软件确实有很多不适合自己的,但现在我可以按照需要微调它。如果客户买账,那就是粘性了。人家愿意跟你聊你的风格,不管是二次元也好,怎么样也好,你越是Be Yourself,人家越买账。
其实这说明实施企业部署的时候,FDE的增长潜力会非常大。这个新市场,之前只是被Palantir这样的公司或麦肯锡这样的顾问公司玩过。以前没有能力请不起,现在一下子把智能下放了。只要会IT的工程师培训一下,就能够干这个事情,实际上这就是专业能力的普惠。普惠是一个很大的市场,因为像我们投了Cresta这样一家客服公司,我觉得现在这个方向更有价值。到最后,像我自己也有一个Virtual Jove,就像虚拟的Senior Manager,可以帮我挡很多事情。以后每个人都应该配好几个AI助手,了解你的公开信息甚至个性化信息,每个月花几千块钱帮你省事,大家都会很愿意。
FDE的核心价值与信任建立
明年的模型就算更好,我觉得近一两年FDE的工作也很难被自动化。像所谓的AI SDR发冷邮件打电话,或者AI DevOps,反响平平,效率并不是很高。我们是AI Agent的FDE,但要有个纯AI的FDE其实很难。
很多时候我们要去客户那边Forward Deploy待个两天或者一周。虽然没有长期驻场,但过去认识一下,在会议室聊聊High Level的东西,再聊聊API怎么Work。这不光是说说,核心是信任。大家喝咖啡喝酒,关掉Zoom聊聊小孩和喜好。信任建立起来之后,后续API调整或有摩擦时就很好沟通。这个事情AI搞不了,人在边缘上干这些事情就好了。信任建立完之后,还是Agent在干活,就不需要人干了。AI还是要把Context拿回来做事,但让AI去培养信任太难了。人永远在边缘(Edge)上沟通感情,吃吃喝喝,把事情Connect到一起,毕竟还是需要大家考虑。做具身智能也是想更接近真实世界,光在Digital Channel是不够的。
给One Person Company与工程师的建议
我觉得One Person Company(OPC)跟FDE不太一样。OPC不仅要把产品做出来,GTM和Funding都很重要。FDE则避开了怎么去获客、怎么找PMF定位这些问题。我现在不用担心去跟VC忽悠或者打Cold Call,单子差不多能成,怎么用好、做完就行。
如果你是一个Engineer,觉得自己的前端后端设计可能AI都能做,价值有点被稀释,那FDE是个蛮好的方向。FDE的定义是靠谱的AI Expert,能跟客户一起把事情做成并改变产品。靠谱是最重要的。现在每个月收几百份简历,大家都是AI Engineer。你是个Engineer当然就是AI Engineer,不用AI是很奇怪的事。但不是所有人都知道怎么做AI Agent,这涉及到Prompt Context Engineering、Test Eval,以及语音、Call Center等很多细节。这有技术门槛,你必须拥抱怎么做AI Agent,不能只会做Coding。
如果你不讨厌跟人沟通,应该尝试多做一点。哪怕你很Nerd,这也是一种方式。对方的Tech Lead也很Nerd,你油腔滑调反而会让他反感。Nerd能产生共鸣,你要愿意跟人沟通,像一个迷你CTO一样,结合产品把对方的事情做出来,中间做取舍并Say No。此外,动手能力要快准狠,学东西快。接下一个保险项目,要快速学习Base Contracts和API,并快准地做出判断。我现在不招Junior,是因为Junior积极性高但不见得能做非常好的决定。还是最好有资深的老鸟,模型比较大,能做好的决定。
加班、Travel肯定会有,所以我很喜欢招做过创业的人。要把事情做成很难,不是按部就班就能成的,你要去跟人吵架、加班、跟客户磨,对自己狠一点。现在AI领域都在抢山头,拿下大客户后对方就很难离开,你动作不快、不借助好平台,一个人很难搞出大动静。
现在的OPC在中国很火,但我认为它更加局限。生产软件简单,但获客很难,Attention很贵,智能不贵。所以OPC最适合自媒体做,天生有Attention,做啥都可以。如果你是个很好的内容创作者,能用AI做出带有个人色彩的很Sharp的工具,在利基市场有粉丝基础,那很适合做OPC,比如做明星软件或KOL性质的软件,像Peter做几十款软件最终OpenClaw成功那样。如果你没有这种成为KOL的基因,那找个大厂或者找个FDE公司做个很好的FDE工程师,比OPC要稍微简单一点。