用最贵的Token干最脏的活
[老修]: 我说你想那么多干嘛?来,现在最贵的时间点,内存涨价最贵的时间点,先给我买一台顶配的Mac。哈哈哈,先买,我先看到你这个动作,你再来找我。第二个,给我充最贵的模型,干最脏的活,哈哈哈!干了没有?干完我们再来聊你这个业务怎么做。
[小苏]: 最贵的模型好达到,问题最脏的活在哪?这个事你得想清楚啊,就到底最脏活他能不能干啊?
[老修]: 是,我就是要讲的这个最脏的活,用最贵的Token干最脏的活,对吧?我一直很想聊这个事情,我最近对这个事情特别有感触。然后呢,以至于逼着老修跟我一起氪了OpenAI的金,也是很舍不得,但是用了以后真香的那种感觉。但这个有个反面教材,今天要拉出来批斗,就闲哥。来,你告诉我,你为什么不充值?为什么不升级?
[闲哥]: 我我这一回,你知道我这一回终于站到了人民这一面,你知道吧?不再是资本家那一面了,哈哈哈!
[老修]: 不容易。
[闲哥]: 其实这个不充值,我觉得啊,我肯定是有自己充分理由的。然后首先肯定不是因为充不起,对吧?我觉得现在是真的,就是说钱在AI这件事上,我觉得并不是说最贵的,是注意力,真的。这话听起来有点怎么讲呢,凡尔赛,但我觉得就是AI时代最大的问题就是注意力。我现在觉得没有那么多注意力去满足500或者200的这一档的这个AI的需求。什么意思?就是说AI在吞噬我的时间,在吞噬我的判断力。我现在如果充值之后,我会有很大的焦虑。这也是我现在来讲的话,这段时间反正我用Codex嘛,这段时间是处在这个频繁重置期,然后经常会有一种损失厌恶。有时候这额度没用完,然后呢就会觉得自己特别不爽。
[老修]: 哈哈哈,然后我就在想,那你这还是穷人心态啊!
[闲哥]: 对对对,你听我说啊,所以我就在想,我多亏没充那200的,你知道,哈哈哈!我20的我都没用完,我都这样讨厌我自己了。因为除了AI以外,我现在不是自己还有自己的事干嘛?你要真让我上了100的,我会觉得我很焦虑很焦虑,我可能就会一定会牺牲一些跟家庭时间啊、干一些其他事的时间,因为我就想在这时间段内尽快地把这额度用完。但是对应的来讲的话,是不是能创造价值,这画一个巨大的问号。但就是我不知道你们是怎么,可能还是不能控制你自己吧,哈哈哈。
[老修]: 那肯定啊,那肯定。
[闲哥]: 终其一生我可能都在学习怎么控制自己。诶,我想先听你们两位啊,就是为什么觉得氪了金之后真香啊?
组合编程、工作流重构与审核成本
[小苏]: 这个其实是老修先给我被迫充值的。
[老修]: 对,我觉得就该上。
[小苏]: 对,但是充完值以后,我会发现说,我原本啊还是用组合编程的,比如说这个GPT加GLM这样一种组合嘛。那其实这个组合的过程中、调度的过程中浪费了我非常多的时间。但是呢,老修给我充值以后,我全程开Astra,对哈哈,全程Astra,非常好。然后我就发现说单位时间啊,我完成一个任务的效率提升了,然后我以至于我可以完成更多任务。这个时候我就出现了闲哥刚才讲那个问题,就我控制不了我自己,我效率他娘的太高了!
[闲哥]: 哈哈哈,上瘾了,网瘾来了。
[小苏]: 对,这个瘾就上了。每天干到很晚,然后你知道这个最搞笑的是什么?就我用这些Token来编程呢,还是写给我的BOT用的,就写给GPT自己用的。所以你看吧,这个钱又回流到OpenAI,哈哈哈,自己闭环了!我后面我说不行,这个我一定要把老修拉下水,我叫老修也要从全公司都给我开Pro档位的,所以这个效率给我拉满,对吧?
[老修]: 自己上瘾不行,还得把同桌拉下水,对吧?对,我先说这里最重要的是啥。最重要的就是被迫我重新重构了一下我的工作流。现在的话,我就是特别把电脑上面和云端的全部都做了各种各样的互相审核的工作,就是用这个100档位的去审那个200档位的Claude,互相审。
[闲哥]: 怀疑你是在恶心他,哈哈哈!
[老修]: 没有没有,就是你其实花钱相当于买了一个保险,他能够帮你把你原来要乱七八糟去收尾啊的那些时间给你省下来了。我记得有一个小数据挺有意思的,是哈佛最近干的,什么一个Jellyfish上面搞了70万员工啊。他说70万员工的数据统计是大部分人这个代码确实快了,增长了30%,但是最后交付的结果是一样的。然后呢又出现另外一个坑:审核增加了49%的时间。
[小苏]: 对。
[老修]: 其实最终的时间,大家就会感觉更累了,就是我花了更多时间。这个其实是有例子证明的嘛。你看最近我们看很多,比如说在我们国内现在投了很多这种AI工厂,然后布了很多机器人嘛,那你会发现说,好,如果机器人在单点的工作效率更高了,人是会更忙的。比如说这一筐货他很快就理完了,那人你要很快要过去给他补货,给他清理现场,人就会更忙。就变成如果单点机器效率过高,人可能跟不上这个链条。
还有一种是单点的机器效率也不变的情况下,但是它的错误率是1%。那如果这个错误被放量了,放了1,000倍,就是有1,000个错误,那人在线下去擦这1,000个错误的屁股其实非常累的。所以为什么说最近大家也在讲说妈的AI越强我越累,我觉得是有这样的原因的,对吧?
而且还有一个用最贵的模型跟次一点的模型的差距,我原来不知道,我这次也看到了一个小数据。他就是说我们不是经常用A社嘛,那我原来就觉得说Opus 5.5应该不错了,但我的体感感觉没那么好,我一直觉得找不到一个数据的支撑。最近看到一个调查的数据,他是这样子的:大概Fable 5的自己乱编答案的那个概率只有0.7%,Opus是7%点几,好像就10倍的样子。听起来好像如果说一个普通人,可能你7%跟0.7%好像也不是会很差,但你用在生产上,我是生产环境,我就确实我是感觉得到这个差别。就是我在一些关键的地方,什么支付啊、工作流啊、做什么ToB业务,那我确实就要0.7%,就要这么低。
但是我们最近不是在研究什么做视频对吧?做视频的时候明显Opus那个有幻觉7%的,他去做那个创意类的东西就比Claude的那个Fable还有什么Astra的都会好很多。所以我说老修你也不用共情我,真的。
便宜模型的最大陷阱:蠢得自洽
[闲哥]: 就是说关于我充不充值这个事,其实我是有自己的判断的。就是现在目前来讲的话,用最好的模型肯定是能拿到最好的效果,但这个最好其实打引号的。我不知道你们同不同意啊,起码我是这么想的:就是现在有些我身边用的事,就是日常做的事,我觉得普通模型就够了。就是现在甚至说免费版的,或者说DeepSeek和GLM就足够满足我现在的一些需求了。然后你让我说一定要用大模型才能判断出来不同模型的差距的这种事太少了。所以在骨子里我自己头脑里头还没形成之前,我没法让AI给我一个答案,这是我自己的抗辩啊。
[老修]: 闲哥,我这个是有不同观点。为什么我觉得我们今年开始还要加大对这个AI的投入?为什么我一直要坚定这事情?我觉得这本质上你可以理解为是一个投资。我经常会跟我很多朋友来讲,他说:“啊,我这个要这个怎么做、那个怎么做,这个跟AI怎么做?”我说你想那么多干嘛?来,现在最贵的时间点,内存涨价最贵的时间点,先给我买一台顶配的Mac,哈哈哈!先买,我先看到你这个动作,你再来找我。对吧?第二个,给我充最贵的模型,干最脏的活,哈哈哈!干了没有?干完我们再来聊你这个业务怎么做。对吧?最贵的模型好达到,问题最脏的活在哪?这个事你得想清楚吧,到底最脏活他能不能干啊?
[小苏]: 是,我就是要讲的这个最脏的活。
[老修]: 我上次给大家举一个例子,大家很感兴趣嘛。就是说Twitter上面有一个独立开发者嘛,他还做这个Mac清理软件嘛,他用这个最强的模型干最脏的活,就是去把市面上所有的这些大部分主流的Mac软件下载下来,监控它的这个垃圾存放的文件夹路径,针对性写出这个清理的策略,就是用computer use干这个事情。就用最贵的模型干最脏的活,那这个事情的收益是很高的。所以这个是我看到一个很好的一个案例。但我不知道你们有没有更好的案例啊?
[小苏]: 我有个很硬核的例子。它是有个节目是那个LEX,大家应该知道那个老师系着黑领带、穿西装那哥们,采访过很多名人。他采访了有一个技术的人,可能大家不一定知道是谁,有一个叫DHH的。
[闲哥]: 啊,这个我知道。
[老修]: DHH很火,他最近火了是吧?
[小苏]: 你知道他火是火的哪个新闻?最近火是因为他来中国用Tailscale去连他家里的Claude,他被封号。看来是跑到哪里都逃不了,OK。但他实际上是火在哪啊?他首先是自动化元老,我跟你说啊,就是我们原来早期这个上20年了快,以前有一个东西叫Ruby on Rails,这一套框架是这个大神写的,他是那个Creator。这个大神呢,这两年他又开始用AI去写了,重写了Linux,我靠!他把那个操作系统Linux写了个agent版的Linux,那个名字有点绕口读不出来,回头大家可以自己去搜。
他里面讲了一个事情,就是现在这个事情啊真的是把人累到死,就是exhausted,但是应该会过去的,我们后面肯定会有一个好时候。为什么呢?说这个话就是因为把一个极脏的活干得很好了。是什么活?我刚才说了,写Linux是很难的,这个大几十年的一个系统了,而且是操作系统,它是非常多地方是非常难写的。但是DHH他做了一个移植,就用Claude Fable去做这个plan。就这个plan大概可能花了几百美金,就是200美金包月的是直接跑空了之后,还加了GPT和Grok。
但是这个plan拿出来以后呢,它分别交给了像那个DeepSeek的那个Flash,然后还有那个应该是GPT的可能是Luna,然后呢让他们两个去执行。然后呢他们两个都说干完了,然后两个活拿出来一看都不能用。但是他们有一个神奇的地方是什么?他们俩写代码的时候都做了很充分的注释,说这些东西我实现得多么好啊,就是看起来都很好。然后以至于他们做code review的时候,因为他们俩智能是一样的嘛,他看了那个注释以后就觉得那个注释写得真是太有道理了,就应该这么写!
[老修]: 被说服了!
[小苏]: 被说服了,完全就被说服了!然后结果他这个整个代码最后很正式地端到你面前,全部搞定了,没有任何问题,跑了多少轮测试。
[老修]: 稳稳地接住你,对。
[小苏]: 稳稳地全部都搞定了,你们一定都见过这样的话,你可以没问题,你感觉就是特别好,结果拿起来一我靠,完全不能用!
[闲哥]: 你这就是他说的这个,你这就是成语里的两小儿辩日。
[小苏]: 对,这说的就是这个便宜模型的最大的坑是在于说:他不光活没干成,还骗你说他干成了;然后呢,而且你审核他的agent因为跟他的智能是相同的,也发现不了,还跟被他收买了一样的。
[老修]: 就蠢得自洽了,是吧?
[小苏]: 回到算账嘛,就是单Token产生的成本跟收益是多少嘛,对吧?就是这个事情是不是划算的嘛。因为现在整个行业从上到下整个链条都在算这个账啊。比如说这个数据中心,它也会算一度电能够产生多少的收益;那现在做模型,一个Token能够产生多少收益?只要这个事情能够被度量,我觉得它就是能够算得过来账的。
然后你看他跟这个哥们DHH,最后还是靠什么?他还是靠的GPT的那个so和DeepSeek的Pro模型把这个任务才完成了,大概可能又花了三四倍的钱吧。但是就没有说要返工了对吧?你至少那个完不成还要返工,还被他气,这个就省掉了。
算力成本骤降与Human in the Loop的瓶颈
[闲哥]: 确实,对。不是,这个首先我承认,我绝对承认高级模型有高级模型用处。但是咱们类比一下,就跨界类比一下,咱说自动机器人现在有翻跟头的对吧,然后有叠衣服的、有捏鸡蛋的。但是我觉得最好的、最普遍的机器人还是扫地机器人,对吧?干的就是脏活累活,就是大家每天都得干但又不想天天干的事。但是它呢,已经实现了多少代迭代之后就能把事做得好,所以全球卖得最好,甚至说能创造几个市值好几亿的公司在这。所以我想说类比一下,如果说现在的高级模型能做到说真真正正每个人都需要做的脏活累活让他能干完,我觉得就值得去上模型。
[老修]: 诶,我觉得你讲到了一个悖论,闲哥。你能用高级模型加脏活累活这样的人,他一定是想到了一个非常值得去做的事情。但是其实大部分人,比如说像闲哥开餐馆,这就是一个标准的SOP,没有那么复杂的。
[闲哥]: 对,你可以这么讲。就是说你真正开餐馆你干嘛?你首先如果是常客,就是周边客人来了之后,你用AI你并不能优化太多东西。你更多做的还是说菜品稳定对吧、出餐速度快、然后跟人能聊天。然后你能做的所谓营销,那比如说什么网红营销什么那些东西,你说让我用高级模型,我真用不上。所以这就是可能当你说的那个悖论。
[小苏]: 可能还没开业,这个焦虑还没到,哈哈哈!他一开业了,闲哥说:“老修,GEO怎么做?快点千人千面给我上!”
[老修]: 闲哥这个可能还没到时候,我跟你讲,我这个互联网是有记忆的,哈哈哈!
[闲哥]: 对对对,呦,那等着打脸。
[老修]: 那绝对是。那生意越来越好的时候,到了时候你赶紧跟我说:“哎,赶快老修把那个docs打开,我天天整理不过来了。”没错,但是真的是有一些脏活累活,比如说我们最近上期聊的这个REA嘛,就是逆向的这个能力嘛。诶,闲哥,我们最近也接了一个比较大的任务对不对?确实也就是用这个逆向的REA我们去把这个任务给承接下来了,对吧?确实你说这是不是脏活累活?那逆向绝对是脏活累活。
而且你看我们的哥们也是花了一个晚上几个晚上的时间,差不多专门做这种东西,就真的纯我们说的是guessing game嘛。就是你要一直猜的,这个活还是得靠人的智力在里面去判断。当然很没有创意啊,你去逆向,我们是为了完成一个goal,完成一个目标嘛,完成客户的托付嘛,使命必达嘛,对吧?那我肯定用最贵的模型干最脏的活,我觉得这个事情钱能到手,这个为什么不呢?这个账是算得过来的嘛。
我那天看到老黄的一个采访,我觉得分享给你们一下啊。你们可以猜一下这个数啊:我们在GPT-1是几年前啊?忘了,五年前吧,更早。当时训练GPT-1的模型,整个综合下来硬件来的这些成本大概一千万到两千万美元。然后你们猜今天呢,2026年做一个GPT-1这样的模型要有多少的成本?你们猜一下。
[闲哥]: 几百美金?
[老修]: 100美金。
[闲哥]: 嗯,那我猜的还算挺接近,我想说千位数,结果没想到100美金。
[老修]: 100美金!就是过去这五年,整个算力的成本降低了一万倍,真的降低了一万倍。智能有没有提升一万倍呢?我不能确定,智能这个不好衡量,对吧?肯定没有啊。那我刚才有一个点没有说清楚,说如果你对未来的投资,你投的是你未来能够产生的利润;但如果你看不到利润,那你应该看到这里面有一个差价,就是智能的成本5年降低了1万倍,那未来5年会降低多少倍呢?我觉得你今天用最先进的模型去干最脏的活就是值得的。
但我想到一个更有意思的点是:不管你用不用,就是你用的少,比如说闲哥你的典型,可能20美金的普通的就够了。但这个里面有一个很大的问题是说,不管你还是我们,我们现在都是human in the loop,就是我们现在都是人在里面。这个问题其实是一个很大的问题。怎么说呢?比如说我应该会比小苏就会有更强的反感觉。小苏可能觉得现在就挺爽,刚好已经有Token自由的感觉,随便用。
但我其实是不一样的,因为我在追求的是生产环境的那个东西,我Token怎么也不够用。而且不够用的情况下,更大的焦虑是也有跟闲哥你一样的,就是我可能Token没用完,但是我其实大多数时候是用完了的;但我没用完的时候,我想的是说我没有用在刀刃上,我就是觉得诶这周是没把那个最好的东西登上去,对吧?然后还有就是我生产工作流没优化。你看我开了套餐,其实前3天到4天都是在改进工作流,因为我知道工作流不改我也用不上。
[小苏]: 那个点会爆,你必须把你工作流都给改造。
[老修]: 我必须得改掉。像老修给我开那个Docs对吧,我第一天大部分的额度全部花在给他造不同的工具,我要做一个for agent专门的RSS的新闻订阅咯,给一个for agent专门的一些什么工具了,我都得做出来。所以我这里面这种感觉,你看讲出来就会感受到:现在都是human in the loop,就是你AI变强了,我还是人在里面,是一个最重要的环节,我还是那个卡点。就是我人不能并行,我们最终还是没有办法真正把我的判断力去复制几个,我怎么复制一个都复制不了。
从发动机切换成刹车片
[小苏]: 我们人在这个loop里面,迟早有一天是会成为最大的卡点。现在其实就是,因为你现在忙就是这个问题嘛。所以我特别想讲的就是说,智能变大,比如说我们刚才说变大了5倍,是不是最后能够把我这个……我虽然更忙了,我最后可能业务变得更忙了,但我产出有没有增加这件事情,可能因人而异。就刚才闲哥说的,场景不一样。
但是我觉得这个能力特别重要,随着未来你可能闲哥你用的20美金就是我现在用的100美金的模型了,可能三个月左右,最慢半年也应该到。那你到那个时候,你应该就会感触到我们的感觉。你会发现你怎么用,我靠那个Token都用不完了,然后你还有很多事情没有做,哈哈哈!
所以我就说买一张未来的门票嘛。因为现在human in the loop可能还蛮长一段时间都会是瓶颈。但是我觉得说即使是瓶颈,你实际上是交付了更多东西,只是因为我们变得更智能以后,我想交付的东西又更多了。但我很实在地去看我交付的内容,我们在一年以前「JustSayAI早晚报」刚刚上线和现在,我就知道说我以前才交付的时候,我是连代码都还不太能写的;现在的话,不光能写代码、能做运维,而且我还能够同时运行好几个这样的项目。这个是一年以来用顶级智能带来的杠杆。然后呢也还有很多的思路会被打开,因为原来想不到的东西,我现在通过用这个新的东西会想到“哦,可以这么做”,那以前是想不到。
Callback那个Lex跟DHH大神,DHH大神跟我们其实是一样的情况。没有因为他是大神,他就不是human in the loop里面最卡的那个点。他操的心更多,因为他是大神,他知道有很多地方会卡住,然后他就必须得去做很多事情。那这就好像是个啥?必须得把自己从发动机切换成刹车片,这就这么个情况。你不再是那个发动机了,你没有办法说发动机还可以多个发动机一起跑,但是人已经是变成说你就是那个没办法并行的那个点。
[老修]: 诶,你讲这个有道理啊!以前我们总觉得自己是发动机对不对?一脚油门干下去,AI vibe coding,Token烧起来!对啊,我们很累是因为我们觉得我们在花我们的时间,它的产出就变大了吧。但其实这个趋势就在变化中,但是还没变过去的那个过程。
[小苏]: 我们做这件事情是在训模型啊,就我给他造那么多工具,让我的agent去日夜给我干活,其实这些工具最终是搬运成模型的知识。
[老修]: 对啊,它获取了我们的经验,变成了上下文,给它滋养了它的工作模式、它的思考能力。
[闲哥]: 用词用错了,你不是训模型,你是喂模型,你是喂养模型。把它当小……它都不是小孩,它就是贪婪在吸收你的营养啊!
[老修]: 但我觉得我们聊这些其实还是一小撮人的福利哈,或者一小撮人的进步。为什么闲哥刚才老是反驳我?因为他不能代表大多数人嘛,对吧?我们都不要说大多数人,这个事情AI我们的这些提效在数字世界里面,你总会有一天你真的就是变成刹车了。那你可以想象得到,但是实际上在进入到像闲哥开的餐馆啊这种现实的世界里面,我觉得AI还是有非常大的这种瓶颈吧,或者是说非常难以去用这套范式去适配的。
[闲哥]: 没错,我的感觉也是。就是说现在如果我们换一个视角说,AI就是站在整个的舞台的正中央对吧,站在高光里面,但舞台没有被打亮的那个其他地方还有很大的空间呢。
[老修]: 然后我也一直觉得说闲哥你现在就是阶段还没到,你等你那个店开起来了,线上线下要结合,你这个BOT你就用得上了,哈哈哈!
[闲哥]: 对对对,到时候欢迎打脸,哈哈哈!
[老修]: 我觉得那个时候一定是看着每天数着钱,带着用的这个Token。国内给你送几个那个传菜机器人,你自己去逆向一下。
[闲哥]: 哈哈哈,我就直接把我那扫地机器人逆向不就完了嘛,对吧?
[小苏]: 诶,其实可以有很多想象力的,哈哈哈!你要在闲哥餐厅里抓老鼠。
[闲哥]: 哈哈哈,我们店里没老鼠,哈哈哈!