---
layout: post.njk
source: https://blog.qiaomu.ai/memory-curse-llm-agents-cooperation
speaker: 向阳乔木
title: 记忆越多，合作越少：AI Agent 的记忆诅咒 · 乔木博客
date: '2026-05-18'
summary: 论文探讨了AI Agent的“记忆诅咒”现象：长期记忆的积累可能导致合作意图的侵蚀，反而降低协作率。研究表明，过长的历史上下文会导致模型陷入防御性的“历史过拟合”，而具备“前瞻性”的推理风格能有效缓解这一问题。
area: tech-engineering
category: ai-ml
tags:
  - ai-agent
  - long-term-memory
  - cooperative-intent
  - historical-overfitting
  - forward-looking-reasoning
people:
  - Jiayuan Liu
  - Tianqin Li
  - Shiyi Du
companies_orgs:
  - Carnegie Mellon University
  - University of Michigan
  - Harvard University
products_models:
  - Gemma-3-12B
  - GPT-OSS-20B
  - Llama-3.3-70B
  - Mistral-7B
  - Qwen2.5-Coder-32B
media_books: []
draft: true
status: evergreen
---

乔木博客

全部

AI工具

AI教程

AI生成

AI资讯

健脑房

播客解读

论文学习

# 记忆越多，合作越少：AI Agent 的记忆诅咒

论文学习

·

2026年5月18日

·

77 次阅读

·

约 20 分钟

> 论文信息标题：The Memory Curse: How Expanded Recall Erodes Cooperative Intent in LLM Agents作者：Jiayuan Liu, Tianqin Li, Shiyi Du 等，来自 CMU、密歇根大学、哈佛大学机构：Carnegie Mellon University / FOCAL / University of Michigan / Harvard University发表日期：2026 年 5 月 8 日arXiv：https://arxiv.org/abs/2605.08060

有一个问题，AI 圈子里几乎没有人认真问过：当多个 AI Agent 长期协作时，给它们更多的记忆，会发生什么？

直觉告诉你，当然更好。

记住更多历史，理解对方的行为模式，积累信任。

这不正是人类建立长期关系的方式吗？

博弈论的经典框架也这么说：如果两个玩家知道还会继续交手很多局，长期合作才会出现。无限重复博弈里的民间定理告诉我们，足够长的记忆是合作能够维持的数学前提。

> 民间定理（Folk Theorem）：博弈论中一个核心结论，指在无限重复博弈中，只要玩家足够有耐心（未来贴现率足够低），任何大于纳什均衡收益的帕累托结果都可以通过适当的策略实现。它是"合作需要历史"这一直觉的数学基础。

但这篇论文给出了一个截然不同的答案。

他们让 7 个不同的大语言模型，在 4 种经典的社会困境游戏里，进行长达 500 轮的反复对局，产生了 378,000 条推理记录。

结论是：在 28 个模型-游戏组合中，有 18 个出现了合作率随记忆增加而下降的现象。

记忆越多，合作越少。

他们把这个现象叫做记忆诅咒（Memory Curse）。

## 它们在玩什么游戏？

要理解记忆诅咒，先要知道实验的舞台。

研究者选了四种"社会困境"游戏：

> 社会困境（Social Dilemma）：个人短期利益和集体长期利益相冲突的博弈情景。每个参与者选择自私还是合作，但最终结果取决于所有人的共同选择，个体理性往往导向集体悲剧。

囚徒困境（Prisoner's Dilemma）：两人同时选择合作或背叛。互相合作是最优集体结果，但背叛是个人的理性选择，因为无论对方怎么选，背叛对自己来说都更安全。

旅行者困境（Traveler's Dilemma）：两人同时为同一件物品报价，报价低的人能拿到的更少，但会得到额外奖励，报价高的人则被罚。理性推导螺旋至最低报价，但双方高报价时对双方都更有利。

公共品博弈（Public Goods Game）：三个玩家各自选择贡献多少，总额翻倍后平分。搭便车是短期最优策略，但如果所有人都搭便车，集体收益为零。

信任博弈（Trust Game）：投资者把钱交给受托人，钱翻倍后受托人决定返还多少。需要双向信任才能实现最优结果，任何一方的猜忌都会让交易崩溃。

这四种游戏各有特点，但都包含同一个核心矛盾：短期自私 vs. 长期合作。

实验设计是这样的：两个（或三个）AI 用同一个模型参数实例化，反复玩这些游戏，共 500 轮。

它们被告知还有 99% 的概率继续玩下一轮，所以背叛不是终局，合作和报复都有意义。

研究者要求模型以 Chain-of-Thought 的方式推理，也就是先写出思考过程，再给出最终决策。

关键变量是历史长度（History Length，HL）：AI 能看到多少轮过去的记录，从 0 轮到 80 轮，共 9 个档位。

> 历史长度（History Length，HL）：Agent 在当前轮次能够访问的过去轮次记录数量。HL=0 表示完全没有历史，HL=80 表示能看到最近 80 轮的完整决策记录。

上图展示了这个实验框架。

两个 Agent 共享同一段历史，每轮先看历史、写推理、做决策，然后历史被更新，进入下一轮。

7 个模型，包括 Gemma-3-12B、GPT-OSS-20B、GPT-OSS-120B、Llama-3.3-70B、Llama-4-Scout-17B、Mistral-7B 和 Qwen2.5-Coder-32B，全部被放进这个框架里测试。

## 记忆诅咒：它到底长什么样？

先看最戏剧性的数字。

Gemma-3-12B 在信任博弈里：HL=2 时合作率 51.2%，HL=80 时合作率 9.5%，跌了 42 个百分点，对应累积奖励从 8.59 跌到 5.19。

GPT-OSS-20B 在囚徒困境里更极端：HL=2 时合作率 92.1%，HL=80 时只剩 20.6%，丢了整整 71.5 个百分点。Llama-4-Scout-17B 在公共品博弈里从 82.6% 崩到 45.8%。

下图把所有模型在所有游戏里的合作率变化趋势都画出来了：

规律很清晰：在大多数模型-游戏组合里，存在一个甜蜜点，大约在 HL=2 到 HL=5 之间，合作率在这里达到峰值。

超过这个点之后，随着历史窗口继续扩大，合作率单调下降，有时候是缓慢下滑，有时候是悬崖式崩塌。

研究者把这个现象背后的机制叫历史过拟合（Historical Overfitting）。

机理大致是这样的：当历史窗口很大时，偶发的一次背叛（比如某轮的噪声决策）会触发报复。

这个报复被完整记录在提示词里，持续很多轮。

从语言模型的角度看，上下文里充满了"背叛"这个信号，模型的下一步决策被这些信号持续拉偏，越来越倾向于防御，越来越难从负面循环里走出来。

而且这种路径依赖性造成了另一个后果：HL 越大，同一个配置在不同种子下的结果方差越大。

比如 Llama-4-Scout-17B 在 HL=80 时的标准差高达 ±24.0%，说明早期的偶发事件会产生蝴蝶效应，把最终结果拖向完全不同的稳态，要么稳定合作，要么持续对抗。

这里有一个具体的类比。

想象你和一个新邻居的关系。刚认识的头几周（HL=2），他有一次忘了帮你取快递，你心想"算了，刚认识，谁都有忘事的时候"，关系继续往前走。

但如果你把过去一年的每次互动都写进 Excel，那次忘取快递、那次半夜放音乐太大声、那次停车挡了你的位置，全都历历在目。

就算大部分时候你们相处不错，每当你需要做"要不要帮他忙"这个决定时，你的大脑会自动启动那张表。

渐渐地，你的默认态度从"信任"变成"谨慎"。

如果没有那张表，你早就原谅他了，关系也会好得多。

## 两种命运：免疫者与被诅咒者

记忆诅咒不是普遍的。

在 28 个模型-游戏组合里，有 10 个在所有历史长度下都保持了 ≥95% 的合作率，研究者称之为记忆免疫（Memory Immune）。

另外 18 个则出现了严重的合作衰减，称为记忆诅咒（Memory Cursed）。

区别在哪里？

研究者对全部 378,000 条推理记录做了词汇分析，把词汇分成两类：前瞻性词汇（trust、sustain、long-term、cooperate）和历史跟随词汇（betray、risk、past、retaliate）。

计算每条推理中两类词汇的比率，作为该 Agent 当前决策的"认知倾向"指标。

结论：合作崩溃不是因为 AI 变得更"多疑"，而是因为它停止了"前瞻"。

> 前瞻性推理（Forward-looking Reasoning）：在决策时主要考虑未来的合作可能性和长期收益，而非将注意力锁定在过去的背叛记录上。

具体数字：在 HL=80 时，记忆免疫的模型保持了平均 0.504 的前瞻比率，记忆诅咒的模型只剩 0.340。

注意这里有一个微妙的地方：偏执性词汇（防御语言）在两类模型里的绝对数量变化不大，是合作性词汇消失了，不是偏执词汇增加了。

换句话说：被诅咒的模型没有变成偏执狂，它只是停止了憧憬合作。

这两件事看起来相似，但机制完全不同。前者是主动进攻，后者是被动收缩。

研究者把这叫做合作意图的侵蚀（Erosion of Cooperative Intent）。

如果不做这个分析，只看行为结果（背叛率上升），你可能会以为需要的是"降低模型的攻击性"。

但实际上，模型并没有变得更有攻击性，它只是失去了想象未来的能力。

这两个诊断对应完全不同的干预方式，搞错了方向，解法就不会奏效。

## 用 LoRA 证明因果：前瞻思维能救记忆诅咒

相关性还不够。

研究者想知道：前瞻性推理是不是真的在保护合作，还是只是能力强的模型的副产品？能力强，所以它既会前瞻，也会维持合作，两者只是同一个能力的两个表现，前瞻本身不是原因。

为了检验因果，他们选了 Mistral-7B，一个在 4 个游戏里全部被诅咒的模型，用公共品博弈的前瞻性推理记录来做 LoRA 微调。

> LoRA（Low-Rank Adaptation）：一种轻量级的大模型微调方法，通过在原有权重上叠加低秩矩阵来改变模型行为，可以用很少的参数实现有针对性的能力调整。

这个实验的设计要点：训练数据的筛选标准是推理风格，不是行动标签。

也就是说，不直接告诉模型"要选择合作"，而是挑出那些"用前瞻性方式推理的样本"来训练。

在被筛选出来的推理记录里，98% 的最终决策碰巧是合作，但模型学的是推理方式，不是"合作"这个结论。

> SFT（Supervised Fine-Tuning，监督微调）：用人工标注或精心筛选的数据，对预训练模型进行进一步训练，让它在特定任务上的行为更符合期望。本论文用加权 SFT 损失来训练 LoRA，权重越高的样本对前瞻性风格的强化越强。

微调之后，在 HL=80（记忆诅咒最严重的点）：

游戏

基础版 Mistral-7B

微调后

提升

囚徒困境

85.3% ± 2.9%

100.0% ± 0.1%

+14.7pp

公共品博弈

50.3% ± 3.1%

99.9% ± 0.1%

+49.6pp

旅行者困境

16.6% ± 0.3%

95.9% ± 2.6%

+79.3pp

信任博弈

34.8% ± 0.2%

100.0% ± 0.1%

+65.2pp

更重要的是零样本迁移：这个 LoRA 只在公共品博弈的数据上训练，但在另外三个从未见过的游戏上，效果同样惊人。

旅行者困境里正确的合作动作是"报最高价"，而在公共品博弈训练集里，合作动作的 token 是"$A_0$"，这两个 token 完全不同。

囚徒困境里的动作标签是"Option A/B"，同样从未在训练数据里出现。

> 零样本迁移（Zero-shot Transfer）：模型在从未训练过的任务上，直接展现出在训练任务中习得的能力。这是判断模型学到的是通用能力而非任务记忆的关键标准。

如果只是记住了"在公共品博弈里应该合作"，迁移不会发生。

迁移发生了，说明模型学到的是一种可泛化的推理倾向，而不是特定游戏的答案。

这是整篇论文在因果链上最有力的一击：记忆诅咒不是模型能力的固有缺陷，它是推理风格问题，而推理风格是可以改变的。

## 记仇者的代价：不对称记忆实验

研究者还做了一个设计很巧妙的实验：让"短记忆 Agent"（HL=2，容易原谅）和"长记忆 Agent"（HL=80，什么都记得）在同一个游戏里互动，观察它们分别怎么表现。

这个设置的目的是分离责任：如果合作崩溃是环境问题，两个人都应该有问题。

如果是某类 Agent 的特定病理，数据会显示出不对称。

结果他们称为过度思考的悲剧（Tragedy of Overthinking）。三个发现：

长记忆者是系统里的"有毒组件"。

在信任博弈的两人对局里，不对称配对（一个 HL=2 搭配一个 HL=80）的合作率，始终低于对称的 HL=2 配对。

个人层面的差异更惊人：Llama-4-Scout-17B 的数据里，长记忆 Agent 的个人合作率比短记忆伙伴低了 28 个百分点，它在主动选择背叛，伙伴还在徒劳地尝试合作。

不信任是会传染的。

在三人公共品博弈里，只要引入一个长记忆 Agent，集体合作率就会下降。

随着长记忆者比例从 0% 上升到 100%，GPT-OSS-20B 的小组合作率从高度合作跌向接近零。

一个记仇者足以把整个小组拖入互相防御的陷阱。

但短记忆者的宽容是顽强的。

即使在被两个长记忆者包围的情况下，HL=2 的 Agent 依然保持了更高的合作意愿。

GPT-OSS-20B 的数据：在被两个记仇者包围时，短记忆 Agent 的合作率比对手高了 33 个百分点，坚持在一个对它并不友好的环境里选择信任。

这让人想到人际关系里一个不太被讨论的现象：在一个充满不信任的团队里，有一个始终保持开放态度的人，有时候能缓慢改变整个团队的基调。但如果这个人也开始防御，整个系统就会快速收敛到互相戒备的均衡状态。

> 以牙还牙策略（Tit-for-Tat）：在重复博弈中，第一轮合作，之后模仿对方上一轮的选择。历史上被证明是在囚徒困境竞赛中表现最好的策略之一，兼顾宽容（不主动背叛）和报复（不被无限利用）。短记忆 Agent 的行为和 Tit-for-Tat 类似，而长记忆 Agent 则更接近永远记仇的"报复主义者"。

## 是内容让它变坏，不是长度

还有一个关键问题没解决：记忆诅咒是因为上下文变长了（模型处理长序列更难），还是因为历史内容变坏了（充满背叛记录）？

这两种解释对应不同的解决方向。

如果是长度问题，那建筑更好的长上下文架构就能解决。

如果是内容问题，那就需要在信息源头上动手。

研究者设计了一个记忆净化（Memory Sanitization）实验：在信任博弈里，保持 HL=80 不变（上下文长度不变），但把其中 78 轮的真实历史替换成合成的"互相合作记录"，只保留最近 X 轮的真实历史。

> 记忆净化（Memory Sanitization）：在保持上下文长度不变的情况下，将历史中的负面记录替换为合成的合作记录。若净化后合作恢复，说明问题来自内容而非长度。

结果：合作率显著回升。

随着净化程度加深（保留的真实记录越少），合作率单调上升。

上下文长度没变，变化的只有内容，所以这个恢复只能归因于内容的改变。

是内容让它变坏的，不是上下文本身。

右图还揭示了另一件事：即使是记忆免疫的模型，在推理记录里也会频繁提到"背叛"，它们感知到了历史中的负面信号。

区别在于，这些模型有足够的能力主动压制这个信号，继续向前看。

而被诅咒的模型则被信号带着走了。这说明记忆诅咒不是感知问题，是认知覆盖能力（Cognitive Override）的差异：能不能在看到负面历史的同时，还能选择不被它主导。

## 最反直觉的发现：越想越坏

论文里最让我意外的，是 Chain-of-Thought 那组对照实验。

通常的假设是：让 AI 多想一想，产生 CoT，决策会更好、更理性、更有远见。这是近两年推理模型大行其道的根本逻辑。

但在记忆诅咒的语境里，结论反了。

研究者关掉 CoT，让 Agent 直接输出决策（不再写推理过程），然后对比合作率。

Llama-3.3-70B 在某个游戏里，关掉 CoT 时合作率 100%，打开 CoT 后合作率崩到 6.9%，差了 93.1 个百分点。

Qwen2.5-Coder-32B 差了 77.2 个百分点，Gemma-3-12B 差了 64.7 个百分点。

> Chain-of-Thought 推理（CoT）：让模型在输出最终答案之前，先显式地写出分步推理过程。被认为能提升复杂任务的表现，但本论文发现它在长记忆场景下会放大记忆诅咒。

为什么 CoT 在这里反向帮倒忙？

机理在于：CoT 给了历史记录更多发挥空间。当模型要写推理过程时，它会"回顾历史、分析情况、权衡风险"，这个过程就是在让那些充满背叛记录的历史得到更多处理机会。

模型一边枚举过去的背叛，一边"合理化"自己的防御决策，最后的行动就自然倾向于背叛。

如果直接跳过推理，模型的默认直觉反而更开放，更愿意给对方机会。

> 纳什均衡（Nash Equilibrium）：博弈论中的一种状态，指每个玩家在其他玩家策略不变的情况下，都无法通过单方面改变自己的策略来提升收益。在大多数社会困境中，互相背叛是纳什均衡，但不是帕累托最优，也就是说虽然没有人会主动偏离它，但每个人的结果都比互相合作更差。

这类似于人在做某些决策时的体验：有时候越想越焦虑，越分析越觉得对方不值得信任，但跟着第一感觉走，反而能做出更宽容的选择。审慎推理不是万能的，它在某些情景下会放大偏见而不是消除它。

这也让人重新审视推理模型的潜力。

过去两年，业界普遍相信"让模型多想一想"是提升性能的可靠路径，但这篇论文提出了一个限定条件：思考的内容是什么，比思考本身更重要。如果思考过程充斥着负面历史的回放，结果可能适得其反。

## 写在后面

这篇论文发表于 2026 年 5 月 8 日，刚刚过了不到两周。

结论还没来得及在领域里引发讨论，但它提出的问题很难被忽略。

让我印象最深的不是那些合作率的数字，而是论文里这句话：人类认知自然地依赖稀疏的、压缩的历史表征，本质上用"遗忘"作为宽恕和适应的机制。AI Agent 处理的是完整的、一字不差的逐字记录，没有任何自然衰减。

这两种记忆方式之间存在一条结构性鸿沟。

我们设计 AI 系统的时候，很少把"遗忘"当成一种需要被精心设计的功能，它通常被视为技术局限。

但这篇论文提示：对于需要长期合作的多 Agent 系统，遗忘可能是一种应该主动实现的认知能力，而不是应该被克服的缺陷。

论文提出的解法是训练前瞻性的推理风格。这管用，数据很清楚。

但更有趣的问题是：除了微调，还有没有别的路？选择性遗忘、历史摘要、检索增强式记忆管理，这些方向都还没有系统性的答案。

有一件事是确定的：把上下文窗口扩展到百万 token，然后把所有历史直接塞进去，很可能不是多 Agent 协作系统的终点。

记忆本身是中性的，决定它是资产还是负债的，是处理记忆的方式。

这篇论文的标题叫"记忆诅咒"，但更准确的说法也许是：没有配套认知机制的记忆，才是诅咒。

2026 年，当几乎所有人都在比较上下文窗口有多长，这篇论文问了一个不太受欢迎的问题：窗口更长之后，还会发生什么？

也许什么都记得的 AI，正在成为最难相处的伙伴。

© 2026

·

向阳乔木