AI Agent Token消耗的隐形账单与效率真相 Best Partners TV 2026-05-19

AI Agent的代码协作困局

在近期的AI技术浪潮中,AI Agent(人工智能代理: 能够自主感知环境并执行任务的系统)尤其是代码Agent的出现,正在根本性地改变程序开发模式。然而,行业中普遍存在一种令人困惑的现象:用户在使用此类工具解决简单任务时,常遭遇高昂的Token消耗甚至任务失败却仍产生大笔费用,而面对看似复杂的任务时,Agent却能快速收敛。这种成本不透明、结果不保底、消耗不可预测的痛点,成为AI Agent规模化落地的核心阻碍。

2026年4月,来自多家顶尖科研机构与知名AI公司的研究团队联合发布论文《AI Agent如何花你的钱?分析和预测Agent编码任务中的token消耗》,首次对Agent代码任务的消耗模式进行了系统性研究。实验采用开源的OpenHands(一种主流的通用代码Agent框架)平台,基于SWE-bench Verified(当前主流的GitHub代码任务基准)数据集,对包括GPT-5Claude Sonnet-4.5Gemini-3-Pro Preview在内的8款前沿大模型进行了数千次基准测试。

核心消耗模式:输入主导与极端波动

研究通过对比代码推理、代码对话及Agentic Coding(智能体代码任务)三种模式发现,Agentic Coding的Token消耗呈极端高昂态势,平均消耗分别是前两者的3500倍与1200倍。与普通对话任务中平衡的输入输出比例不同,Agentic Coding的输入输出Token比高达153.85:1,这意味着Agent的工作重心完全在于处理上下文输入。由于Agent在任务执行过程中需反复读入代码仓库、工具执行结果及历史交互记录,即便利用Token缓存技术,输入Token的总量仍呈现指数级膨胀。

更严重的问题在于Agent行为的极度不稳定。研究指出,即便针对完全相同的任务,不同运行轮次的Token消耗方差极大,最贵与最便宜的运行成本差距最高可达30倍。这种随机性使得用户根本无法依据任务难度进行事前成本预测。

逆测试时间缩放与模型效率差异

针对“多花钱是否有助于提升效果”这一核心疑问,研究发现了逆测试时间缩放(Inverse Test-Time Scaling: 增加计算资源反而导致效果下降)现象。数据显示,Token消耗越高的任务,其整体解决准确率反而越低;在同一任务的多次运行中,准确率通常在较低成本组达到峰值,继续增加资源反而因为无效探索和冗余的文件操作,降低了最终的性能。

在模型对比方面,研究显示不同模型的Token效率由其自身的工具调用逻辑与处理行为决定,与任务难度无关。GPT-5系列以低消耗、高准确率表现出极高的性价比;Claude Sonnet系列与Qwen3-Coder-480B属于高成本、中高准确率类型;而Kimi-K2在测试中表现最差,其在失败任务上的Token增量消耗远超其他模型,显示出其在无法解决问题时未能及时止损的低效行为模式。

成本预判的局限与设计启示

研究深入评估了成本预判的可能性。结果表明,人类专家对任务难度的评判与Agent的实际计算开销几乎没有关联,且各前沿模型在自预测能力上表现极差。所有参与测试的模型均系统性地低估了实际Token消耗,特别是在输入Token方面,模型完全无法预判长上下文和多轮交互引发的爆炸式增长。

通过拆解任务阶段,研究发现探索阶段修复阶段占用了总消耗的三分之二,而成本结构中,即便输出Token单价较高,缓存读取输入Token仍是成本的绝对主导者。这些发现为产业界提出了明确启示:不仅需要服务商重构基于成本预测与预算管控的定价模式,AI研发团队更需要优化工具调用策略与上下文管理机制,解决Agent在冗余操作中浪费资源的根本问题,从而实现Agent的规模化落地。

关键字: agentic-coding token-consumption cost-prediction efficiency-optimization