要解决的问题
上下文窗口有限，而长程任务和跨会话的智能体需要记住更多东西：用户的偏好、之前做过的事、积累的经验。记忆系统为智能体提供超出上下文窗口的持久记忆。
核心方法
- 分层记忆：按存续时间和存储位置区分短期记忆（当前上下文）与长期记忆（持久存储）。情节记忆指过去经历的具体事件，是按内容类型的划分，可以属于长期记忆，不是与前两者互斥的第三层。
- 记忆压缩与检索：把信息压缩后写入外部存储，需要时再按相关性检索回来。
- 外部存储挂载：用向量数据库等外部存储承载记忆，由模型决定何时读写。
- 分页式记忆：借鉴操作系统的虚拟内存，把上下文当作「内存」、外部存储当作「磁盘」，由模型自己管理两者之间的换入换出。
代表工作
- MemGPT（2023）：借鉴操作系统的分层内存管理，让模型自己在有限的上下文与外部存储之间调度信息。
开放问题
- 记忆的写入与遗忘策略：什么值得记，什么时候该忘。
- 检索的相关性质量。
- 记忆的一致性，以及用户隐私的保护。
参考资料
相关专题
- 工具使用与智能体设计：记忆是智能体的组成部分。
- 检索增强生成：记忆检索与知识检索的技术基本相同。
- 嵌入与检索模型：记忆检索的底座。
- 智能体的Token效率：把信息移出上下文以控制成本。
- 隐私保护：记忆中的用户数据保护。