Open Cloud 记忆增强:LanceDB 插件实战指南 AI超元域 2026-02-24

Open Cloud 记忆增强:LanceDB 插件实战指南

Open Cloud 的记忆困境

上期视频我分享了关于 Open Cloud 的一些高级用法,并且答应大家当视频点赞破千之后,本期视频就会为大家分享我这段时间不断迭代的,专门提升 Open Cloud 记忆能力的 LanceDB 记忆插件。在昨天,我发现视频的点赞已经破千了,所以今天这期视频就专门为大家讲解如何使用我专门为 Open Cloud 开发的这一款 LanceDB 插件。

因为我们平时在使用 Open Cloud 的时候,它经常会忘记我们之前让它记住的一些知识、经验或者方法论。比如说,我们之前让它对服务器做了一些配置,但是现在配置出现了问题。当我们告诉 Open Cloud 的时候,它根本不记得我们之前的对话信息,也不记得它做了哪些配置。所以很多 Open Cloud 用户就感觉 Open Cloud 非常笨,记不住之前的一些重要事情。

所以我们需要为 Open Cloud 增强它的记忆能力。当 Open Cloud 具备了强大的记忆能力,它就能记住我们之前让它进行的一些操作,我们就不需要在对话中反复提及之前做了哪些修复。当 Open Cloud 有了强大的记忆,它才能成为真正的长期助手,才能越用越聪明,越用越懂。

LanceDB 插件:增强 AI 记忆的利器

比如说,在 Open Cloud 中,我通过斜杠命令重新开了一个 session。在新的 session 中,我问他:“关于调用 Cloud Code,你已经积累了哪些经验,还有方法论?” 然后 Open Cloud 就能够从 LanceDB 中来检索之前它所存储的与调用 Cloud Code 相关的这些经验和方法论,包括调用模式,还有调用时踩过的坑,这些都会存入到记忆中。还有通过踩坑所总结的这些架构方法论。在下面这里,它就会提到,这一些基本上都是血泪教训换来的。

像这样的话,Open Cloud 就能将它在执行某项任务时踩的这些坑,还有学到的经验以及方法论存入 LanceDB 数据库中。像这样就能避免下次再踩同样的坑,这样才能做到 Open Cloud 越用越聪明。

插件对比:为何选择 LanceDB

讲到这里,大家应该会问:“Open Cloud 它自带记忆系统呀,为什么非要再为它新增一个记忆系统呢?” 首先,我们可以来对比一下 Open Cloud 它内置的记忆系统和我这边不断迭代开发的这个 LanceDB 插件,它们的区别有哪些?

首先,Open Cloud 在前些时间的更新中已经内置了 Cloud Secret,但它内置的这两种记忆模块还是有很大的局限性的。比如说它内置的 LanceDB 在嵌入模型提供商这里,它仅支持 OpenAI,我们必须充值 OpenAIAPI 才能来使用它的嵌入模型。而且它内置的 LanceDB 只实现了一些基础的检索功能,也就是向量搜索。

而我开发的这个 LanceDB 插件,它相比 Open Cloud 内置的这两种记忆模块就更加完善了。包括 BM25 全文搜索,还有混合检索,还有评分管线。我这里设置的是六层管线,但 Open Cloud 内置的这两种记忆模块只有一层评分管线。而且我还实现了 MMRMaximum Marginal Relevance: 最大边际相关性,一种用于提高检索结果多样性的技术)多样性去重,还有自适应检索、跳过噪声,而且具备更多功能,包括噪声拦截、保留时间戳,还有 ID、前缀匹配等多种功能。

我将这个记忆模块做成了 Open Cloud 插件的形式,因为做成 Open Cloud 插件,它具有非常多的优势,包括热拔插机制,只需要在 Open Cloud 中修改一行配置,就可以来启用这个插件。而且和 Open Cloud 自带的记忆插件并不会冲突,还能实现独立版本独立升级。在升级 Open Cloud 版本之后,也不会影响我们的插件使用,而且可以自由切换嵌入模型的提供商,包括 OpenAIAIGinaAI,还有 Germany,还可以调用欧拉玛中部署的本地模型。而且我还实现了多 scope 隔离,这样就可以实现记忆的隐私保护,也就是每个 agent(代理)他们有自己独立的记忆。而且他们还可以有共享的知识。而且我还实现了七层混合检索。

因为在这里用到了与 reg 相关的这些知识。考虑到很多粉丝可能在 2024 年的时候没有看过我发的与 reg 相关的这些视频,所以在这里就不再详细为大家讲解与 reg 相关的这一检索过程了。本期视频所提及的这个铁律文件的内容,也上传到我们这个插件的仓库。这个铁律文件的解压密码会随机出现在视频中,而且持续五秒。本期视频的点赞量如果超过一千的话,在下期视频中,我将为大家讲解并且开源我开发的与 Open 跨机跨 Cloud Gateway 通信相关的插件。

实操演示与效果验证

下面我们可以回到 Open Cloud,先测试一下这些记忆的效果。比如说,我可以新开一个 Cloud Session,然后我输入一个提示词:“我们配置 Open Cloud 的时候踩了哪些坑?” 这里它就很快检索到了之前踩坑的这些内容,按照现象、原因,还有解决方案进行了整理。包括这里给出的这一些具体的踩坑的细节,可以看到它检索到非常多的踩坑的经验。

然后我问他:“从哪个数据库里检索的?” 他说是从 Open Cloud 长期记忆库 LanceDB 向量数据库里检索到的。而且他还提到了使用混合检索,包括向量加关键词,还有 rerank(重排序)。

然后我们还可以接着提问:“混合检索有哪些优势?” 让他来分析一下。他采用的向量加关键词,还有 rerank 这个优势啊,他提到了语义召回更强,而且精准匹配也更稳,还能降低漏召回与误召回,而且更适合经验库、还有故障库这种内容结构,再加 rerank 后排序更贴近问题。在最后他提到这种混合检索的核心优势就是语义理解,还有精准匹配。对配置排除故障、踩坑复盘这种场景特别实用。

而且有了这个记忆插件,Open Cloud 每次创建新会话的时候,它加载的上下文会更少。我们可以直接用 status 这条命令进行查看。可以看到在创建新会话的时候,它加载的上下文只有 18k。

安装配置指南

下面就为大家演示我们如何在我们的 Open Cloud 中来安装我开发的这个记忆插件。想安装它的话,首先我们先打开 OpenAI 的官网网站,然后点击右上角的这个登录注册。注册之后,这里就会出现这个 API Key。然后我们只需要复制这一段 API Key 将它保存好。

然后我们只需要复制一下我这个 LanceDB 它在 GitHub 的仓库链接,然后我们就可以回到 Open Cloud。在 Open Cloud 中我们就可以输入完整的提示词。我输入的是:“这也是 OpenAIAPI Key。然后在这里将刚才复制的 API Key 放在了这个位置。然后紧接着我输入的是‘请帮我为 Open Cloud 安装这个记忆插件’。在这里我们就输入刚才 GitHub 复制的这个仓库链接就可以。”

当发送之后,我们需要稍等一下,因为 Open Cloud 需要时间来为我们配置。在等了几分钟之后,我就问他:“怎么样了?” 然后他就很快回答,他说已经配置好了,而且 Gateway 也已经重新生效了。并且提到这个插件已经安装并且加载。而且他把默认的记忆系统已经切换到了我们这一个插件。

紧接着我还测试了让他来更新一下 LanceDB 插件。我输入的提示词是“更新 LanceDB 插件”,然后这里就跟上我们的仓库链接。然后过了几分钟我就问他:“怎么样了?” 然后他说已经更新完成并且生效。像这样的话,我们就能让 Open Cloud 自行为我们完成这个插件的安装与配置。当需要更新的时候,我只需要告诉他“更新 LanceDB 插件”,在后面跟上仓库链接。这样的话它就会自动为我们完成这个插件的更新。

Open Cloud 中安装好这个插件之后,我们还需要做一些设置。在这里,我写了一些与 LanceDB 相关的这些铁律,然后直接用自然语言告诉 Open Cloud,将下面的这些铁律写入到这个记忆文件中。在这里它就提示已经写入到这个长期的记忆文件中了,也就是写入了 memory 这个 markdown 文件。像这样的话,在 Open Cloud 中,我们通过 LanceDB 插件再配合这个铁律,这样的话就能更大程度发挥出我们这个插件的优势。

当插件配置好之后,我们使用 Open Cloud 的时候,当遇到一些踩坑相关的问题的时候,我们就可以设置一个斜杠命令。当输入这个斜杠命令的时候,Open Cloud 就可以将它踩坑的这些经验,还有学到的这些技能都存储到 LanceDB 中。哪怕我们不设置这种斜杠命令,在刚才设置的这些铁律中,也包含当它遇到踩坑的时候,就要将学到的经验写入到 LanceDB 中的这些铁律。因为采用斜杠命令,就能保证 Open Cloud 百分百能将它踩坑学到的经验和知识都写入到数据库中。

深度应用与最佳实践

下面我们还可以测试一下,我们问他:“你记住了哪些与 coding 相关的方法论?” 因为我们刚才在铁律中,不仅让他记住这些踩坑的技术细节,还要让他记住真正的方法论。这样的话,有技术细节还有方法论相互配合,才能让 Open Cloud 更加聪明。

这里他检索到了与 Cloud Coding 相关的这些方法论,包括多 agent 的交叉审查,能发现单 agent 遗漏的 bug,还包含逻辑改动之后必须测试。下面还包含这一些架构与调度相关的方法论。这里还提到了认知纪律,包括调用任何工具失败或者报错后,就要搜索经验,然后再重试。下面这里就是与代码安全相关的这些方法论。像这些技术细节还有方法论,它都是从 LanceDB 中进行了检索。

总结与获取方式

总而言之,我们就为 Open Cloud 通过这一个插件实现了更加持久的记忆。好,本期视频我们演示的这个插件已经同步到了 GitHub 仓库。这里就是仓库链接。大家也可以直接进入我的 GitHub 主页,就能找到这个仓库。然后大家只需要按照视频中的方式进行安装,就可以。

安装好之后,就可以将这个铁律的内容也让 Open Cloud 为你写入到铁律中。这个铁律的完整内容,我会打包压缩,也放在这个仓库中。铁律内容的解压密码刚才已经出现在了视频中。

好,本期视频就做到这里,欢迎大家点赞、关注和转发,谢谢大家观看。

📌 文中提及的人物和组织

公司/组织: OpenAI

产品/模型: LanceDB plugin

关键字: ai-memory llm-plugins vector-databases prompt-engineering