标签：model-efficiency

• 从 800 KB 到 1.8 KB，账单却一分不减：为什么英伟达劝你砍掉长上下文，Anthropic 却帮 100 万 Token 修高速路 yage.ai 2026-11-12
  文章讨论了在利用 Claude Code 等工具进行长对话时，如何通过 Message Threads 增量传输协议来优化上下文处理，以解决长对话首字等待时间过长的问题。该协议将长对话单次上传的请求包中位数从约 800 KB 降至 1.8 KB，但模型每轮仍读取完整历史。同时，文章对比了英伟达关于长上下文扩展带来的硬件成本增加的实验结果，并分析了 Anthropic 采用的轻量级内存暂存协议的工程限制，以及与 OpenAI 长连接模式在处理上下文和合规性方面的差异。文章总结了在构建智能体时，应根据算力成本和合规边界选择不同的技术路线，如使用锯齿波模式结合增量传输和上下文压缩，或优先考虑不落盘设置的 WebSocket 长连接模式。
• DeepSeek V4.1 Flash：算力优化触顶之后，长上下文的战争转向内存 yage.ai 2026-09-11
  文章讨论了 DeepSeek V4.1 Flash 的发布及其技术报告，核心在于将长上下文的优化重心从算力转向内存体系。通过对 KV 缓存压缩、预填充算力削减以及持久化存储的工程取舍，报告展示了如何通过优化这些物理资源来降低长文本推理的成本，使模型在处理长上下文任务时的账单重心从计算转向存储与搬运。
• 都是 Multi-Agent，各家 AI 编程 Harness 的基因与信仰到底有何不同？ yage.ai 2026-07-27
  文章对比了 Claude Code、Codex CLI、Cursor 和 Antigravity 这四种主流 AI 编程 Harness 在多 Agent 协作方面的底层设计哲学和工程信仰。它分析了每种工具在通信拓扑（Claude）、算力效率（OpenAI）、无感融合体验（Cursor）以及显式工作流治理（Antigravity）上的差异，帮助开发者根据具体业务场景进行 AI 编程工具的选型。
• 科学研究中的规模效应与数据瓶颈：从模拟到现实的挑战 Latent Space 2026-07-16
  文章探讨了在人工智能和科学领域，如何克服“规模的苦涩教训”，即现有数据集的局限性。核心议题包括如何为模型提供新的扩展轴（如数据），以及将实验室概念转化为类似数据中心的未来模式。同时，文章分析了科研范式转变，例如利用计算资源进行快速验证和商业合作，以及解决“模拟到现实”的差距等关键技术瓶颈。
• OpenAI业绩未达预期，AI算力瓶颈凸显，巨头资本支出激增，新型减肥药引关注 All-In Podcast 2026-05-01
  本期节目深入探讨了OpenAI用户和营收未达预期的问题，分析了AI算力（特别是电力）成为行业发展瓶颈的现状。嘉宾们讨论了OpenAI与Anthropic在产品和市场份额上的竞争，以及AI在网络安全领域的应用潜力。此外，节目还关注了大型科技公司在AI基础设施上的巨额资本支出及其对自由现金流的影响，并介绍了Eli Lilly新型减肥药Retatrutide的惊人临床试验数据。最后，节目还简要提及了Elon Musk对OpenAI的诉讼以及最高法院的听证会。