标签:retrieval-augmented-generation
-
AI 查不到就编不出数字:Kepler 创始人谈金融级确定性与验证架构
AI Engineer
Kepler 联合创始人兼 CEO 探讨了华尔街仍不信任 AI 的核心根源在于结构性幻觉与缺乏确定性。他拆解了数值错误的三大来源(检索错误、抽取错误、心算错误),提出通过代码确定性生成指针、确定性计算工具与多层安全检索,使模型仅能通过解引用指针输出事实与数字,从架构底层实现免于数值幻觉的验证系统。 -
Mixedbread:以多模态检索与延迟交互重构智能体知识底层
AI Engineer
Mixedbread 创始人分享了传统 RAG 管道因解析、切块及单向量模型导致的信息严重丢失与高昂成本。通过自研多模态搜索模型、延迟交互机制与专有数据库,Mixedbread 支持直接基于页面视觉与多向量进行精准检索,使对冲基金智能体问答准确率从 36% 提升至 98%,同时将 LLM 消耗降低至三分之一。 -
从 RAG 到 Agent Memory:决定智能体该记住什么与记忆晋升机制
AI Engineer
Oracle AI Database 技术市场负责人 Wojtek Pluta 探讨了 AI 智能体记忆系统。他指出 RAG 仅代表读取路径,而记忆是写入路径;需通过分类、比对与护栏机制进行“记忆晋升”,并介绍了 Oracle 的 agent memory 架构与上下文卡片设计。 -
超越传统RAG:关系型上下文引擎如何削减50%Token消耗
AI Engineer
Unblocked团队展示了如何构建关系型上下文引擎来解决AI智能体面临的离散信息难题。相比单纯的向量语义检索,该引擎结合了动态模式推断、跨系统身份消歧、结构化查询合成与运行时安全校验循环,使复杂工程任务的Token成本直降50%。 -
告别2022年的落后分块:基于多尺度索引与倒数排名融合的高效RAG检索策略
AI Engineer
AI21 Labs研究员Yuval Belfer指出固定分块大小是导致RAG检索性能受限的信息损失瓶颈,且不存在全局最优的分块尺寸。演讲提出了多尺度索引(Multiscale Indexing)结合倒数排名融合(RRF)的解决方案,通过多副本与多窗口并行检索,在仅增加可控常数级存储开销的前提下,将基准检索召回率大幅提升20%至40%。 -
基于大语言模型与边缘交付的敏捷站点超个性化构建
AI Engineer
演讲者介绍了利用 Adobe Experience Manager 边缘交付与大语言模型构建超个性化敏捷站点的实践,通过将整个网站作为语料库构建 RAG,实现实时模块级定制与快速页面生成,并探讨了评估与智能体生成工具。 -
重构 AI 与知识的联结:微软 CVP 阐述智能体的三维知识演进与工程实践
AI Engineer
微软杰出工程师兼 CVP Pablo Castro 探讨了智能体时代知识的三大维度:内源知识、外源知识和学得知识。他详细介绍了微软 Foundry、Microsoft IQ 以及 Agent Optimizer 等工具,展示了如何通过混合检索与自主优化构建高效的企业级 AI 学习闭环。 -
AI 生成内容的法律倒逼:从 91% 准确率到全球问责时代
House of El - AI
探讨近期慕尼黑与密西西比州法院针对 AI 幻觉和事实错误的裁决,深入解析 AI 产品面临的法律责任转变。文章论证了这一法律拐点如何终结科技巨头“先发布后问责”的野蛮生长,推动大语言模型向真正可靠的架构演进。 -
搜索的未来:Agent、RAG 与为何检索依然至关重要——访 Turbopuffer 创始人 Simon Eskildsen
Latent Space
本次访谈深入探讨了 Turbopuffer 的诞生背景及其创新的数据库架构。创始人 Simon Eskildsen 分享了他在 Shopify 扩展 Elasticsearch 的痛苦经历,以及如何利用 S3 的强一致性与 NVMe SSD 构建高性能、低成本的向量与全文搜索引擎。他还详细讲述了为 Cursor 和 Notion 优化 RAG 成本的故事,并提出了“P99 工程师”的招聘哲学。 -
大语言模型记忆机制:权重与激活的深度解析
AI Engineer
本文深入探讨了大型语言模型(LLM)的知识存储与检索机制,对比了三种核心方法:全上下文、检索增强生成(RAG)和权重注入(训练到模型参数中)。讲者详细分析了全上下文的成本与推理瓶颈,揭示了RAG在安全性、适应性和复杂推理方面的局限性。核心论点在于,通过合成数据生成和参数高效微调技术,将知识直接训练到模型权重中,能够有效克服现有方法的挑战,实现更智能、更专业化且推理成本更低的LLM应用,并探讨了未来模型个性化与持续更新的潜力。 -
斯坦福 CS230 | 2025秋季 | 第8课:超越 LLM——Agent、提示工程与 RAG
Stanford Online
本讲座深入探讨了如何超越基础大语言模型(LLM)构建实际的 AI 系统。内容涵盖了从提示工程(Prompt Engineering)、微调(Fine-tuning)到检索增强生成(RAG)的优化路径。重点讲解了吴恩达(Andrew Ng)定义的 Agentic AI 工作流、Agent 的核心组件(内存、工具、规划)以及多 Agent 系统。通过客服 Agent 案例演示了评估框架,并展望了多模态和架构搜索等未来趋势。