◆ The Learning Grove 林间拾穗

标签：token-optimization

  • Optiver 如何在盈亏一线间规模化应用 AI 并实现前沿模型当日上线 AI Engineer
    Optiver AI 工程主管 Nayan 介绍了做市商环境下规模化应用 AI 的实践。由于交易盈亏反馈周期以小时计，团队构建了支持多模型路由、本地化部署的 AI 平台与评测框架，实现前沿模型公开当天即可上线生产。针对 Token 开销激增，团队通过 MCP 工具搜索、CLI 封装、上下文缓存与预算控制优化 ROI，并依托 Agent 网关推进多智能体协作与评测。
  • 超越传统RAG：关系型上下文引擎如何削减50%Token消耗 AI Engineer
    Unblocked团队展示了如何构建关系型上下文引擎来解决AI智能体面临的离散信息难题。相比单纯的向量语义检索，该引擎结合了动态模式推断、跨系统身份消歧、结构化查询合成与运行时安全校验循环，使复杂工程任务的Token成本直降50%。
  • “母病速归”式 AI：号称省 65% Token，实测只有 8.5% | 宝玉的分享 baoyu.io
    文章探讨了“电报体 Skill”在 AI Agent 中的应用，该技能旨在通过极度精简语言来压缩 Token 消耗。实验结果显示，虽然宣传能节省高达 65% 的 Token，但实际测试中仅能达到约 8.5% 的节省率。作者指出，这种优化主要针对聊天场景的客套话，而对于编程 Agent 而言，Token 大头通常来自上下文、代码和工具调用等部分，过度压缩可能导致信息不完整或增加后续返工成本。
  • 模型的窗口不是无限大的垃圾桶：为什么智能体需要上下文治理 yage.ai
    文章探讨了在构建智能体（agent）时，如何从简单的上下文窗口管理转向更复杂的上下文治理。核心观点是，仅仅依靠增大模型窗口或简单地拼接提示词是不够的，真正的挑战在于建立一套运行期管理机制，以保护模型的注意力免受海量无关信息污染。文章提出了通过分层状态管理、动态过滤与压缩中间生成物、以及将文件系统作为最终上下文存储等运行时架构改变，来解决高昂的开销和延迟问题，强调系统需要知道很多，但模型这一轮不该看太多。
  • 想省 AI token 钱，第一刀别砍模型单价 yage.ai
    文章探讨了如何科学地管理和降低 AI token 成本，强调第一步不是盲目更换更便宜的模型。核心观点是需要先区分 AI 成本的性质：内部效率型（如员工工具）与客户交付型（如产品功能），并根据成本类型采取不同的降本策略。对于内部效率型成本，应优先清理闲置资源和失控流程；对于客户交付型成本，则应关注每次结果的边际成本而非单纯的 token 价格。
  • 利用大语言模型与 MCP 构建数据抓取流水线 AI Engineer
    分享者探讨了利用大语言模型与 MCP 构建爬虫流水线而非逐页解析的方法。通过 Bright Data 的技能集与 MCP，智能体可提取网页内容并编写和维护爬虫脚本，从而降低 token 消耗并应对反爬机制。
  • AI 时代的掌控者：YC 总裁 Garry Tan 的 400 倍生产力秘籍 Best Partners TV
    本期内容深入对话 YC 总裁 Garry Tan，探讨其如何通过 Token 最大化（Tokenmaxxing）理念及 GStack 人机协作工作流，实现编程与研发效率 400 倍的提升。文章解析了如何通过掌控底层提示词逻辑、构建完善的 AI 辅助工程闭环，实现从被工具支配到驾驭 AI 智能体的范式转移，并探讨了个人 AI 系统对开发者与创业者的深远意义。
  • 超越语言转译：Project SeaLion 如何构建东南亚本土化 AI 生态 一席YiXi
    AI Singapore 模型开发负责人 Jin Kang 介绍了 Project SeaLion。该项目致力于解决主流大模型在东南亚语言和文化语境下的理解缺失，通过构建包含 1 万亿 token 的本土化数据集，SeaLion 在识别当地文化隐喻、优化非拉丁语系 token 效率以及服务外籍劳工等垂直应用中展现了卓越的性能与社会影响力。
  • Claude Code 省 Token 指南：慎用 1M 上下文，不开新会话或者总是开新会话都不对 | 宝玉的分享 baoyu.io
    本文介绍了 Claude Code 的提示缓存机制，指出频繁开启新会话可能增加成本。文章提供了几个优化 Token 使用的策略：在缓存活跃时继续会话，一次性完成复杂任务，优先使用文件路径而非复制粘贴内容，以及仅在任务切换或会话闲置过久时才开启新会话。此外，建议谨慎使用 1M 上下文窗口，日常工作多用 Sonnet 模型，并讨论了 AWS Bedrock、Codex 插件等替代方案。
  • 🚀 OpenClaw 高级玩法：记忆蒸馏、Skill 固化与模型降级策略深度解析 AI超元域
    本视频深度分享了 OpenClaw 的进阶架构方案。核心通过“记忆蒸馏”技术，将主 Agent 冗余的记忆按主题提取并赋予子 Agent，实现类似面向对象编程的知识继承。结合 Skill 固化与模型降级（如从 Claude 4.6 降至 GPT-5.2），不仅大幅降低了 Token 成本，还将上下文长度缩减近 50%，显著提升了特定任务的执行效率。