英偉達論文評析:長上下文並非必要與上下文壓縮策略
Best Partners TV
英偉達研究院論文提出長上下文並非必要,透過會話結束壓縮(EOC)、單作用壓縮(SAC)與選擇性閱讀策略,在代理任務與長輸入中以短上下文達成相近精度並降低推算成本,同時提出語意狀態空間模型(SSM)概念。但其成本節約基於分級定價假設,且長輸入基準多偏向可檢索任務,長上下文能力仍具價值。
构建可靠的生产级 Agent 基础设施:基于 Restate 的持久化执行与状态管理
AI Engineer
随着 AI Agent 从单次问答演变为长生命周期、异步运行的分布式实体,传统 Agent SDK 难以应对网络故障、状态并发与人机协同等生产级基础设施挑战。本文结合 Restate 架构,深入探讨如何利用分布式事件日志、持久化执行(Durable Execution)、虚拟对象(Virtual Objects)与推送模型,构建具备容错自愈、双向交互控制及高并发隔离的生产级 Agent 技术栈。
生产环境中的AI Agent:OpenGov如何构建与规模化OG Assist
AI Engineer
本文详细介绍了OpenGov在生产环境中构建和规模化AI Agent系统(OG Assist)的实战经验。团队放弃了LangGraph,全面转向基于TypeScript Effect库的自研Agent循环,实现了高细粒度的并发控制、日志追踪和错误处理。同时,文章探讨了Google的A2A协议应用、隔离安全沙箱机制、长上下文滚动摘要管理,以及运行时的生成式UI设计,为企业级Agent的落地提供了系统化的技术参考。
日志即智能体:重构 AI 系统的持久化与架构范式
AI Engineer
Omnara 首席执行官 Ishaan Sehgal 提出“日志即智能体”的核心理念,主张将智能体定义为只追加的事件历史日志,而非模型或运行时环境。这种架构设计不仅从工程上自然解决可靠性、可扩展性、多端协同和平台迁移等痛点,还能确保用户对智能体最核心的私密数据资产拥有自主所有权,避免日志锁定。
从混乱到有序:行之有效的多智能体系统编排模式
AI Engineer
Sandipan Bhaumik 分享了构建可扩展、可靠多智能体 AI 系统的经验。她阐述了从单智能体到多智能体的复杂性爆炸,介绍了编舞(Choreography)和编排(Orchestration)两种核心协调模式,并强调了不可变状态快照、版本控制、数据契约、断路器模式和补偿模式在故障恢复中的关键作用。演讲最终展示了一个生产级别的 Databricks 架构,强调了从构建演示到构建生产系统的转变。