企业官网建设流程全解析

文章主要介绍了Agent Memory的概念、必要性及其与LLM Memory的区别。阐述了Agent Memory的工作流程，包括记忆存储、更新和检索。文章还详细介绍了A-MEM、Zep、MemoryBank、MemoChat、MemGPT、MemoryOS、Mem0和MemTree等代表性Agent Memory方案，并对它们的核心机制进行了分析。最后，文章从信息提取、记忆管理、记忆存储和信息检索四个方面对Agent Memory系统的统一框架进行了模块化分解，并对性能评估进行了总结。

背景

为什么需要 Agent Memory

• LLM 原生上下文窗口有限，长对话、多轮交互、跨会话任务易丢失信息；
• Memory 让 Agent 实现知识累积、迭代推理、持续进化，支撑复杂长程任务；
• 区别于 RAG：Memory 聚焦交互态、会话内 / 跨会话动态信息，RAG 聚焦外部知识库

Agent Memory vs LLM Memory

• LLM Memory：模型预训练知识（静态）
• Agent Memory：智能体运行时记忆（动态）

naive long-context prompting和记忆增强prompting概述

Agent Memory工作流程

Agent通常通过以下几步来有效地管理记忆：

• 记忆存储（Memory Storage）：设计策略存储重要的交互信息
• **记忆更新（**Memory Update）：随着交互不断更新，优化响应
• 记忆检索（Memory Retrieval）：根据当下需求检索相关内容

一、代表性Agent Memory方案

代表性Agent Memory方法的分类

A-MEM

传统记忆系统都需要预先定义workflow中指定的Memory访问模式，这限制了它们对各种场景的适应性。相比之下，A-MEM 通过支持动态Memory操作，增强了 LLM Agent的灵活性。

A-MEM 架构

A-MEM 核心过程

1. 笔记构建过程：新增交互记忆时，自动生成结构化多维笔记，结合上下文描述、关键词、标签等属性，完成单条记忆的标准化结构化存储

2. 链接生成过程：基于Zettelkasten 卡片盒思想：先检索与新记忆最相关的历史记忆，再由LLM判断并建立记忆间关联链接；创新支持单条记忆可归属多个关联盒子，打破单一归类限制，构建互通互联的知识网络。

3. 记忆检索过程：利用文本编码模型生成查询Embedding，在记忆库中检索匹配记忆；命中目标记忆后，自动联动跳转同盒子内所有关联链接记忆，实现语义检索+关联网络完善和加深对知识的理解。

Zep (Graphiti)

Zep 记忆模型核心结构

在Zep中，内存通过一个时间感知的动态知识图 (G = (N, E, ) 提供，其中 (N) 表示节点，(E) 表示边，(\varphi) 是一个形式的关联函数。知识图包括三层次的子图：

1. 情节子图（）：包含原始输入数据的节点，并通过边连接到提及的语义实体。
2. 语义实体子图（）：构建于情节子图之上，节点表示从情节中提取的实体。
3. 社区子图（）：表示强连接实体的集群，并提供其摘要。

核心机制：时间感知知识图谱引擎。融合非结构化对话与结构化业务数据，保持历史关系演化轨迹，属于GraphRAG变体。

MemoryBank

MemoryBank框架，SiliconFriend是一款基于LLM的AI助手，并集成了Memoryank的功能。

MemoryBank概述

• 记忆存储：存储过往对话、事件摘要和用户画像
• 记忆更新机制：更新记忆存储。
• 记忆检索：用于召回相关记忆。

核心机制

在每层Transformer中插入可更新的Memory Tokens：

• 固定参数：预训练的模型参数（不变）
• Memory Tokens：可读写的记忆单元（可更新）
• 终身学习：持续学习新知识，对抗遗忘

核心机制：基于艾宾浩斯遗忘曲线的记忆衰减模型。根据时间流逝和重要性动态调整记忆强度，实现自适应遗忘与强化。

MemoChat

MemoChat 流程的整体架构。在维护人类用户和聊天机器人之间的聊天流（左侧部分）的同时，聊天机器人将拥有一个配备备忘录功能的内部思考系统（右侧部分）。

核心机制：迭代式"记忆-检索-回复"循环。通过结构化备忘录维护长程对话一致性，优化开放域多轮交互。

MemGPT

MemGPT（左图）在收到关于上下文空间有限的系统警报后，会将数据写入持久Memory。MemGPT（左图）可以搜索上下文之外的数据，以便将相关信息带入当前上下文窗口。

在 MemGPT 中，固定上下文的 LLM 处理器通过分层内存系统和函数进行增强，使其能够管理自身的Memory

核心思想：

把 LLM 当成“CPU + 少量Memory”，再配一个“外部大内存 + OS 风格调度”。LLM 的prompt tokens (（输入），或称主上下文，由系统指令、工作上下文和一个 FIFO 队列组成。LLM 的completion tokens（输出）由函数执行器解释为function call。

MemGPT 使用函数在主上下文和外部上下文（归档和调用存储数据库）之间移动数据。LLM 可以通过在其输出中生成一个特殊的关键字参数（request heartbeat=true）来请求立即进行后续 LLM 推理，从而将函数调用链接起来；函数链接使得 MemGPT 能够执行多步骤检索以回答用户查询。

主要分为三个步骤：

1. 虚拟上下文（Virtual Context）

• 把 LLM 的 context window 当成“物理内存”，再在外部（向量库/数据库）构造一个“虚拟、无限大”的上下文空间
• 当前对话只放最关键的少量信息；历史内容被有选择地持久化到外部存储

2. 系统式的缺页/换页逻辑

• 把近期对话或中间状态总结成记忆块写入持久 memory

• 当系统检测到“上下文空间不足”（system alert），MemGPT 触发写操作：

• 当模型需要某个不在上下文里的信息时，通过检索工具从外部记忆中拉回相关片段，再注入到当前 prompt

3. LLM 自己管理记忆

• 写入 memory（决定哪些内容值得长期记住）

• 搜索 memory（根据当前任务需要拉回什么）

• 不是外部程序决定存什么、取什么，而是LLM 自己通过工具调用来：

MemoryOS

核心机制：三层存储架构（短期/中期/长期）。短期→中期采用FIFO策略，中期→长期基于热度评分（访问频率+时间衰减）。

三层存储架构

三层存储架构

• 短期记忆（STM）：固定长度FIFO队列，存储近期对话页，聚焦即时上下文。
• 中期记忆（MTM）：按主题将对话页聚合成segment，以语义+关键词相似度为聚合指标，作为近期重要话题缓存。
• 长期个人记忆（LPM）：存储稳定的用户/Agent画像、知识库及偏好，保障跨会话个性化一致性。

迁移策略

• STM→MTM：FIFO驱动，队列满时将最旧页面合并至对应MTM主题段。
• MTM→LPM：基于热度评分（访问次数+对话页数+时间衰减），热度超阈值则转化为LPM条目，低热度则优先驱逐

MemOS

Memory的形式化建模（MemCube 抽象）

• 论文里强调三大类记忆：

• Parametric：模型权重里的知识
• Activation：运行时上下文、隐藏状态等
• Plaintext：外部文本/数据库中的显式记忆

MemOS 引入一个统一的记忆单元抽象（MemCube），用于把这些不同形态的数据变成一个统一可管理的对象，标注来源、重要性、使用历史,支持迁移、合并、追踪溯源

2. 把记忆当“系统资源”来调度

• 表示（representation）

• 组织（organization）

• 调度（scheduling）

• 演化（evolution）

• 类似 OS 对 CPU/内存/IO 的调度，MemOS 对记忆进行：

任务在跑的时候，系统可以动态决定加载哪些记忆、淘汰哪些记忆、如何在不同形式的记忆之间迁移

3. 记忆中心的执行框架

• 下一个 token 怎么生成，不仅看 prompt，还看“当前可访问的记忆视图”和记忆策略

• MemOS 建立一个“memory-centric”的运行框架：

核心机制：将记忆视为可管理系统资源，构建完整的记忆操作系统抽象层，包含复杂的资源调度与生命周期管理。

Mem0

的工作流程

的工作流程

核心机制：动态个性化记忆提取。从持续对话中实时提取、整合、检索用户特定信息，变体引入图结构。

• 动态抽取：精准识别用户身份、偏好、任务等信息，结构化抽取为记忆条目，避免冗余存储。
• 多信号检索：融合语义相似度、实体匹配、会话作用域与时间衰减，高效筛选关键记忆。
• 图结构：构建实体关系有向图，支持多跳推理，快速关联相关记忆片段。

MemTree

MemTree 提出的是一种层级树状记忆结构，核心是用“树 + 语义嵌入 + 动态重构”来管理长期记忆。

• 树状层级表示：节点包含聚合文本、语义嵌入与抽象层级，从顶层主题到底层具体片段，结构清晰。
• 动态结构调整：新信息到来时，依据语义相似度实现节点合并、新建或分支扩展，随对话动态演化。
• 检索优势：高层粗筛、底层细粒度搜索，减少检索空间，适配多轮对话与长文档问答，保持全局记忆结构。

核心机制：动态树状记忆表示。将记忆以树状结构组织，每个节点封装聚合文本、语义嵌入及跨层抽象信息，通过实时语义相似度计算动态调整树的结构（如节点合并、拆分、层级调整），实现记忆的分层抽象与高效检索，适配复杂场景下的多粒度记忆需求

二、统一框架下的模块化分解

将现有的智能体记忆系统分解为统一框架下的 模块化组件，该框架包含四个关键组件：

• 信息提取
• 记忆管理
• 大型记忆存储
• 大型信息检索。

Agent Memory系统的统一框架概述,用户消息 → 信息提取 → 记忆管理 → 记忆存储 → 信息检索 → LLM生成回复

2.1 信息提取（Information Extraction）

三种实现范式：

1. 直接归档：零处理存储原始消息+时间戳（MemoryBank、MemGPT）
2. 摘要式提取：LLM生成简洁摘要或提取关键词/标签（A-MEM、Mem0），依赖prompt工程

基于摘要提取的示例prompt

3. 图式提取：提取SPO三元组构建知识图谱，保留结构化关联（Mem0ᵍ、Zep），同样基于prompt

基于图的提取

2.2 记忆管理（Memory Management）

Memory Management流程的工作机制

该过程模拟人类记忆生命周期，包含五项核心操作：关联相关经验、整合碎片化信息、将短期记忆转化为长期记忆、更新过时内容以及过滤陈旧知识

五大核心操作：

1. 关联相关经验

• 基于语义相似度/时间接近性/上下文相关性建立连接
• A-MEM/MemoryOS：语义关联链接
• Zep/Mem0ᵍ：实体节点连接

2. 整合碎片化记忆

• MemoryBank：日常记录→事件摘要→全局用户画像
• MemoChat：主题分组+主题级摘要

3. 跨层级转换

• MemoryOS：FIFO短期→中期，热度评分中期→长期
• Zep：语义社区形成机制

4. 更新现有记忆

• 规则驱动：MemoryBank的遗忘曲线、MemoryOS的相似度整合
• LLM驱动：MemTree的聚合操作（压缩+泛化）
• Agent驱动：MemGPT的自主工具调用

5. 过滤无效信息

• 基于使用：MemoryOS的访问频率+时间衰减
• 基于内容：Mem0的语义去重（粒度控制困难）

2.3 记忆存储（Memory Storage）

组织方式：

• 扁平式：FIFO队列/JSON文件（MemoryBank）
• 分层式：多粒度存储池（MemoryOS三层架构）

表示方式：

• 向量存储：高维嵌入+相似度检索（FAISS/Qdrant，主流方案）
• 图存储：

• MemTree：层次化树结构，节点封装不同抽象层级
• Zep：时序知识图谱，原始消息节点+SPO三元组+实体社区

2.4 信息检索（Information Retrieval）

四种检索范式：

1. 词汇检索：BM25/Jaccard相似度，适合精确匹配
2. 向量检索：余弦相似度+ANN算法，解决词汇失配（最主流）
3. 结构检索：

• Mem0ᵍ：相似度搜索→子图构建
• Zep：BFS图遍历增强初始结果

4. LLM辅助检索：查询重构+实体识别（MemoChat）

三、性能评估

实验设置

LOCOMO：人类间长程对话

• 10个对话，平均198.6问题/27.2会话/588.2轮次
• 评估：单跳/多跳检索、时间推理、开放域知识

LONGMEMEVAL：用户-AI长程交互

• 500问题，平均50.2会话/11.5万token
• 评估：信息提取、多会话推理、知识更新、时间推理

实验结果

各方法在 LONGMEMEVAL 上的对比

MemTree、MemOS（树状）、MemoryOS（分层）性能最优。树结构在上层保留概念摘要、叶节点保留细节，实现高效信息流动。

保留原始消息的方法优于纯图三元组提取（Mem0 > Mem0ᵍ）。结构化提取易导致语义丢失，这是图式方法的固有缺陷。说明信息完整性是记忆管理的基础。

各方法在 LOCOMO 上的对比

信息完整性是记忆管理的基础:保留原始消息的方法优于纯图三元组提取（Mem0 > Mem0ᵍ）。结构化提取易导致语义丢失，这是图式方法的固有缺陷。说明信息完整性是记忆管理的基础。

关联能力决定多跳推理上限:缺乏关联操作的方法（MemoryBank、MemGPT）在多会话任务中表现极差。Mem0通过相似记忆同步更新实现隐式关联，性能显著提升。

时间推理强依赖模型能力
模型从7B→72B时，时间推理任务性能翻倍（MemoryOS、MemoChat）。现有方法普遍缺乏专门的时空信息处理组件。

LOCOMO 上性能与 token 成本之间的总体权衡

MemTree和MemOS实现高准确率但token开销显著。F1得分与平均token消耗呈正相关。

LOCOMO 上各会话的平均每对话 token 成本

处理粒度影响成本

• MemoryOS：对话片段粒度（中期存储）
• MemoryBank：每日粒度摘要
• 粗粒度处理不一定降低性能，甚至可能因LLM泛化能力而提升效果

索引机制的扩展性瓶颈

• MemTree：树深度增加导致自顶向下插入成本上升
• Zep：图复杂度增长导致去重与一致性维护成本攀升
• 频繁更新场景下需权衡索引精度与维护开销

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线科技企业深耕十二载，见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事，早已在效率与薪资上形成代际优势，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包：

• ✅ 从零到一的 AI 学习路径图
• ✅ 大模型调优实战手册（附医疗/金融等大厂真实案例）
• ✅ 百度/阿里专家闭门录播课
• ✅ 大模型当下最新行业报告
• ✅ 真实大厂面试真题
• ✅ 2026 最新岗位需求图谱

所有资料 ⚡️ ，朋友们如果有需要《AI大模型入门+进阶学习资源包》，下方扫码获取~

① 全套AI大模型应用开发视频教程

（包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点）

② 大模型系统化学习路线

作为学习AI大模型技术的新手，方向至关重要。 正确的学习路线可以为你节省时间，少走弯路；方向不对，努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划，带你从零基础入门到精通！

③ 大模型学习书籍&文档

学习AI大模型离不开书籍文档，我精选了一系列大模型技术的书籍和学习文档（电子版），它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。

④ AI大模型最新行业报告

2025最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

⑤ 大模型项目实战&配套源码

学以致用，在项目实战中检验和巩固你所学到的知识，同时为你找工作就业和职业发展打下坚实的基础。

⑥ 大模型大厂面试真题

面试不仅是技术的较量，更需要充分的准备。在你已经掌握了大模型技术之后，就需要开始准备面试，我精心整理了一份大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。

以上资料如何领取？

为什么大家都在学大模型？

最近科技巨头英特尔宣布裁员2万人，传统岗位不断缩减，但AI相关技术岗疯狂扩招，有3-5年经验，大厂薪资就能给到50K*20薪！

不出1年，“有AI项目经验”将成为投递简历的门槛。

风口之下，与其像“温水煮青蛙”一样坐等被行业淘汰，不如先人一步，掌握AI大模型原理+应用技术+项目实操经验，“顺风”翻盘！

这些资料真的有用吗？

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

以上全套大模型资料如何领取？