第8篇:Agent 记忆管理 —— 让 LLM 不再“每次都是第一次见面“
LLM 本质无状态——参数在训练后固定每次请求独立前后对话无关联。所谓的记忆本质是把历史对话拼接到输入 x 中利用注意力机制假装有记忆。这个假装的关键局限是上下文窗口是有限的。你不可能把半年的对话历史全塞进去。这就需要记忆管理——有选择地记住什么、忘记什么、如何组织和检索。一、分层的记忆架构绝大多数 Agent 系统的记忆都分为三层工作记忆、短期记忆、长期记忆。工作记忆Working Memory当前对话中正在处理的信息。这实际上是 LLM 的上下文窗口本身——包含当前用户输入、已加载的 Skill 定义、短期历史。工作记忆的特点是每次请求重置。短期记忆Short Term Memory仅当前 Session 有效用 Redis 存储快、可自动过期。避免 Token 超限不需要每次带上全部历史只取最近相关的内容。典型实现滑动窗口保留最近 N 轮对话如最近 20 轮超出后丢弃最旧的摘要压缩超过限制时将聊天历史发给 LLM 压缩保留核心意思。压缩后信息密度更高但细节丢失滑动窗口适合大多数场景——简单、高效、信息无损失被丢掉的通常是最不相关的早期对话。摘要压缩适合需要保持整体语境的场景但每次压缩都有信息损失。长期记忆Long Term Memory跨 Session 的记忆包括两部分用户画像User Profile积累用户姓名、性别、年龄、喜好、职业、近期任务等信息用普通数据库存储。这些信息可以直接通过 System Prompt 注入。记忆片段通过向量数据库存储语义总结每次 Session 结束或每 N 条消息做一次语义总结。查询时通过语义检索找到相关片段。长期记忆的设计要点是有损摘要——不需要记住每一句话只需要记住发生了什么、用户在意什么。二、三种 Memory 方案对比方案一传统数据库用 Redis / PostgreSQL 存储对话历史每次请求取出拼接。优点精确、可靠、可查询支持结构化检索“上个月用户问了哪些关于数据库的问题”缺点存储成本高、检索需要额外逻辑需要设计 Schema、索引方案二Markdown 蒸馏每次 Session 结束用 LLM 将对话历史蒸馏为 Markdown 格式的摘要存为 MEMORY.md 等文件。下次加载这些文件作为 Context。优点简洁、高效、人类可读可以直接打开文件看摘要LLM 原生理解 Markdown缺点信息可能丢失蒸馏有损不支持结构化查询方案三记忆晋升Memory Promotion以 OpenClaw 为例的Dreaming系统MEMORY.md长期记忆人工/AI 维护的精华摘要memory/*.md每日日志记录原始交互Dreaming自动将日志晋升到 MEMORY.md——筛选出有长期价值的信息去除日常琐碎记忆晋升的关键在于不是所有对话都值得记住。Dreaming 系统会在后台分析日志识别出用户的核心偏好、重要决策、关键约定只把这些晋升到长期记忆。维度传统数据库Markdown 蒸馏记忆晋升精确度高中有损中成本高低低可读性低高高查询能力强弱弱适合场景生产系统个人工具个人工具三、Memory vs Data 的区别概念说明Memory下一次发送给 LLM 的内容参与推理Data原始聊天记录存储不参与计算仅用于审计/回溯这个区分很重要不是所有历史数据都要变成 Memory。大多数历史只是 Data——用来做分析、审计、训练但不会进入 LLM 的上下文。四、语义搜索的价值向量检索能找到语义相关的历史记忆片段。例如用户上次讨论了React 性能优化这次问那个框架的问题向量检索能找到相关记忆提升上下文质量。语义搜索在记忆管理中的两个典型用途记忆检索从长期记忆库中检索与当前对话相关的历史片段上下文增强在 LLM 推理前将相关记忆注入到输入中如果不做语义搜索就只能靠关键词匹配——用户说上次那个时如果只用关键词搜索几乎不可能命中React 性能优化这条记忆。

相关新闻

Slug开源贡献指南:如何为这个URL短链项目提交代码

Slug开源贡献指南:如何为这个URL短链项目提交代码

Slug开源贡献指南:如何为这个URL短链项目提交代码 【免费下载链接】slug 🌱 An open-source URL shortener built with T3 Stack. 项目地址: https://gitcode.com/gh_mirrors/slug/slug Slug是一个基于T3 Stack构建的开源URL短链服务,…

2026/7/19 14:54:00 阅读更多 →
52.C语言动态内存分配实战:malloc与free的嵌入式开发指南

52.C语言动态内存分配实战:malloc与free的嵌入式开发指南

一、动态内存分配的核心逻辑 动态内存分配是指程序在运行过程中,根据实际需求向系统申请内存空间,使用完毕后再释放回系统的机制。与静态内存分配(如全局变量、数组)相比,动态内存分配的优势在于: 按需分…

2026/7/19 14:54:00 阅读更多 →
一份靠谱的售前 PPT 怎么做?我从踩坑里扒出的实战指南

一份靠谱的售前 PPT 怎么做?我从踩坑里扒出的实战指南

售前 PPT 不是产品说明书,而是帮客户解决问题的路线图。本文从结构、准备、演讲到工具,拆解一套拿来就能用的方法,让你不再被说“又臭又长”。 做售前的,十个有八个被 PPT 折腾过。要么领导觉得不够专业,要么客户听得…

2026/7/19 14:54:00 阅读更多 →

最新新闻

API最佳实践第四篇-4 备用模型和网络排查

API最佳实践第四篇-4 备用模型和网络排查

主模型挂了怎么办?备用模型 网络排查 单模型总有波动的时候——上游维护、高峰拥堵、临时故障。这篇讲怎么配置备用模型实现自动Failover,以及出问题时怎么快速排查网络。核心就一件事:用户不应该感知到模型挂了。 为什么需要备用模型 上游波…

2026/7/19 21:54:39 阅读更多 →
API最佳实践-3 流式输出 + 并发控制

API最佳实践-3 流式输出 + 并发控制

接着前两篇,今天一次讲清流式输出 并发控制, 流式输出不改实际耗时,但用户体感差几倍——第一个字出来就觉得在响应了。 并发控制方面,429不是服务不稳定,是限流保护在工作,客户端加个令牌桶就能解决。 这…

2026/7/19 21:54:39 阅读更多 →
5分钟快速部署指南:PhotoGIMP如何让GIMP变身为Photoshop的终极免费替代方案

5分钟快速部署指南:PhotoGIMP如何让GIMP变身为Photoshop的终极免费替代方案

5分钟快速部署指南:PhotoGIMP如何让GIMP变身为Photoshop的终极免费替代方案 【免费下载链接】PhotoGIMP A Patch for GIMP 3 for Photoshop Users 项目地址: https://gitcode.com/GitHub_Trending/ph/PhotoGIMP 厌倦了Photoshop高昂的订阅费用却又无法适应GI…

2026/7/19 21:54:39 阅读更多 →
Codex与DeepSeek API集成实战:从安装配置到AI编程助手应用

Codex与DeepSeek API集成实战:从安装配置到AI编程助手应用

最近在尝试AI编程助手时,发现很多开发者对Codex和DeepSeek的组合特别感兴趣,但网上的资料要么过于零散,要么配置步骤复杂。本文基于实际项目经验,整理一套完整的Codex安装使用教程,重点演示如何接入DeepSeek API&#…

2026/7/19 21:54:39 阅读更多 →
AltSendme:告别网盘限速,一款让你彻底“忘“了文件的传输神器

AltSendme:告别网盘限速,一款让你彻底“忘“了文件的传输神器

你有没有遇到过这种崩溃时刻? 手机里拍了几段4K视频,想传给电脑剪,结果微信提示"文件过大"; 硬盘里10个G的工程文件,要发给同事,网盘上传半小时,网速卡在100KB不动; 甚…

2026/7/19 21:54:39 阅读更多 →
Android ImageView不显示JPEG图片的排查与优化

Android ImageView不显示JPEG图片的排查与优化

1. Android ImageView不显示JPEG图片的常见原因排查 上周我在开发一个图片浏览功能时,遇到了一个典型问题:明明已经把JPEG图片放到了res/drawable目录下,ImageView却死活不显示。经过一番排查,发现这其实是Android开发中常见的坑。…

2026/7/19 21:53:36 阅读更多 →

日新闻

Go语言静态资源打包方案对比与实践指南

Go语言静态资源打包方案对比与实践指南

1. 项目背景与核心需求在Go语言开发中,我们经常需要处理静态资源文件的打包问题。无论是Web应用的模板文件、前端资源,还是配置文件、证书等,都需要随程序一起分发。传统做法是将这些文件与编译后的二进制文件放在同一目录下,但这…

2026/7/19 0:00:40 阅读更多 →
Go语言实现高性能LDAP认证服务的架构与实践

Go语言实现高性能LDAP认证服务的架构与实践

1. 项目背景与核心价值LDAP(轻量级目录访问协议)作为企业级身份认证的黄金标准,已经服务了超过80%的财富500强公司。我在金融科技领域实施统一认证体系时,发现传统Java方案存在启动慢、内存占用高等痛点。而Go语言凭借其协程并发模…

2026/7/19 0:00:40 阅读更多 →
【AI面试官实战指南】:用ChatGPT模拟10类高频技术岗面试,3天提升应答精准度92%

【AI面试官实战指南】:用ChatGPT模拟10类高频技术岗面试,3天提升应答精准度92%

更多请点击: https://intelliparadigm.com 第一章:AI面试官实战指南的核心价值与适用场景 AI面试官并非替代人类HR的“黑箱工具”,而是以可解释、可审计、可迭代的方式,赋能招聘全链路的关键基础设施。其核心价值在于将主观经验沉…

2026/7/19 0:00:40 阅读更多 →

周新闻

Go语言静态资源打包方案对比与实践指南

Go语言静态资源打包方案对比与实践指南

1. 项目背景与核心需求在Go语言开发中,我们经常需要处理静态资源文件的打包问题。无论是Web应用的模板文件、前端资源,还是配置文件、证书等,都需要随程序一起分发。传统做法是将这些文件与编译后的二进制文件放在同一目录下,但这…

2026/7/19 0:00:40 阅读更多 →
Go语言实现高性能LDAP认证服务的架构与实践

Go语言实现高性能LDAP认证服务的架构与实践

1. 项目背景与核心价值LDAP(轻量级目录访问协议)作为企业级身份认证的黄金标准,已经服务了超过80%的财富500强公司。我在金融科技领域实施统一认证体系时,发现传统Java方案存在启动慢、内存占用高等痛点。而Go语言凭借其协程并发模…

2026/7/19 0:00:40 阅读更多 →
【AI面试官实战指南】:用ChatGPT模拟10类高频技术岗面试,3天提升应答精准度92%

【AI面试官实战指南】:用ChatGPT模拟10类高频技术岗面试,3天提升应答精准度92%

更多请点击: https://intelliparadigm.com 第一章:AI面试官实战指南的核心价值与适用场景 AI面试官并非替代人类HR的“黑箱工具”,而是以可解释、可审计、可迭代的方式,赋能招聘全链路的关键基础设施。其核心价值在于将主观经验沉…

2026/7/19 0:00:40 阅读更多 →

月新闻