☰
小白程序员必看:大模型记忆系统6条路线深度解析(附选型指南)
2026/10/16 17:19:44 网站建设 项目流程

Mem0官方论文揭示尴尬结论:不做记忆表现更优。本文深度解析大模型记忆系统的6种技术路线,包括全上下文、向量流水线、知识图谱、文件、OS分层管理和参数化记忆,对比分析各自的成本、风险与适用场景,并提供选型决策表与失败模式清单,帮助开发者更好地理解和应用大模型记忆系统。

2025 年,Mem0 的官方论文里藏着一个尴尬的结论:在这套测试里,表现最好的「记忆系统」是什么都不记——把全部聊天记录塞进上下文。专门做记忆的系统,输给了不做记忆。那六条记忆技术路线,到底各自在解决什么问题?这篇逐一拆开。

一、引子:一个反直觉的基线

先说两件事,都有出处,第二件尤其反直觉。

2025 年 4 月,Mem0 团队在 arXiv 发布论文(arXiv:2504.19413),把自家记忆系统和几组基线放在一起测。结果表里最扎眼的一行是:把全部对话历史原样塞进上下文的「全上下文基线」(full context),准确率高于 Mem0。Mem0 的真正优势在另外两列——p95 延迟降低 91%,token 成本降低 90%。做记忆的公司,亲口承认自己的系统在「记得准」这件事上输给了「全都不忘」。

第二件。2026 年的 MemTrapBench 评测把问题推得更深:当对话历史里存在过时或相互冲突的信息时,所有被测的记忆系统,成绩都比「不给记忆」更差。系统辛辛苦苦记住的东西,恰恰成了它犯错的原因。坏记忆不是没用的记忆,是负资产。

这两件事拼在一起,就是理解整个领域的起点:上记忆不是加能力,是一笔交易——付出成本(写入的算力、检索的延迟、存储的维护)和风险(记住的错误信念比「不知道」更危险),换回上下文效率与跨会话能力。

既然是交易,就要算账。后文每讲一条技术路线,只问三个问题:比全上下文省了什么?多冒了什么风险?这笔交换在什么条件下值得?

那么,全上下文又准又简单,为什么这个领域还是长出了六条路线?因为「塞不下」和「用不好」这两个边界真实存在:历史越长,成本线性上涨,跨会话场景根本塞不下;就算塞下了,上下文一长,注意力被稀释,模型对中间内容的召回明显下滑。六条路线——全上下文、向量流水线、知识图谱、文件、OS 分层管理、参数化——就是对这两个边界的六种不同回答:有的少记,有的记得更聪明,有的干脆把记忆焊进模型参数里。

这个赛道有多热,星标数一目了然:Mem0 66.8k、claude-mem 约 9.7 万、OpenViking 39.4k、Hindsight 47.1k(均截至 2026 年 10 月)。记忆方向的一线开源项目,体量已经追上了最主流的 Agent 框架。但这些数字背后是完全不同的技术选择,把它们放回同一张地图,就是本文要做的。

读法预告:第二节给一张地图——五个决策轴,所有记忆方案都能在上面找到坐标;第三到第八节逐条走完六条路线,每条都从机制讲起,每个深讲项目都回答同一组问题——它解决了什么,它没解决什么;第九节收拢成一张选型决策表和一份失败模式清单。全程只问三件事:比全上下文省了什么,多冒了什么风险,这笔交换值得吗。

先立好框架,再逐条拆。

二、记忆系统的五个决策

拿到「记忆」这个词,很多工程师的第一反应是 RAG:文档切块、向量化、检索、拼进提示词。这套流程确实和记忆有关,但它只做了记忆的一半,而且是容易的那一半。

RAG(Retrieval-Augmented Generation,检索增强生成)处理的是「读」:库里已经有整理好的知识,问题只是怎么找出来。记忆系统要处理的是完整生命周期——写、存、读、管。一条新信息进来,要不要写?和已有的记忆冲突怎么办?什么时候该让它失效?这些都发生在「写」这一侧。2026 年批评记忆系统的论文,火力几乎全部集中在写半边上:追加容易,修订难,这是全行业的共同伤口。

  1. 1 五个决策轴

把市面上的记忆方案放进同一个坐标系,需要五个决策轴:

决策轴要回答的问题常见做法
写什么何时写入?写入前做抽取、去重、冲突检测吗?原样追加 / LLM 抽取事实 / 写入即比对
存成什么记忆的物理形态是什么向量 / 图谱 / 文件 / 模型参数
怎么取需要时怎么找回来语义相似 / 图遍历 / 文件导航 / 时态过滤
谁来管维护动作由谁执行Agent 主动调工具 / 后台流水线代管
怎么忘过时信息怎么处理覆盖 / 失效标记 / 遗忘曲线 / 从不删

「存成什么」和「怎么取」决定你走哪条路线,这是后文六条路线的划分依据。「写什么」「谁来管」「怎么忘」决定这条路线记忆的成色——做得糙的方案,这三轴往往直接留空:全量写入、没人管、永不删。引子里说的坏记忆问题,就是这三轴留空欠下的债。

为什么「写半边」这么难?难在它的三个动作都不是字符串操作,而是语义判断。冲突检测不是比对关键词:「我不喝咖啡了」和「用户每天喝两杯咖啡」字面上没有重叠,要在语义层面判断它们说的是同一件事的新旧两版,机器得先「理解」两条各是什么。时态判断要区分两件事:事情本身什么时候发生(事件时间),和系统什么时候听说这件事(陈述时间)——3 月发生的换工作,用户 6 月才提,两个时间都对,职责不同。遗忘最麻烦的是失效传播:一条基础事实失效了,建立在它上面的结论要不要跟着失效?「用户住在北京」变了,「用户附近的健身房」推荐还有效吗?这三个动作,每一个都要求系统对记忆内容本身有某种理解——这是写半边的难度根源,也是它成为分水岭的原因。

顺便给一个读产品文档的实用建议:判断一个记忆方案的成色,别只看它宣传「存成什么」和「怎么取」——这两轴是演示效果最好的部分。翻开文档数一数它在「写入时做什么处理」「谁来修订」「过时了怎么办」上着了多少笔墨。着墨越少,坏记忆堆得越快。

五个轴里,最容易被低估的是后两个。谁来管:Agent 主动调用记忆工具,控制权在模型手里,灵活,但模型可能忘调、滥调;后台流水线代管,稳定可靠,但记什么、不记什么,Agent 自己说了不算——这个取舍没有标准答案,每条路线的立场都不一样。怎么忘:覆盖最简单,历史直接丢;失效标记温和,旧事实留痕、新事实生效,代价是库只增不减;从不删最省事,也最危险——MemTrapBench 那个「比没记忆更糟」的结果,一半要记在从不删上。

  1. 2 CoALA 的四分法

学术圈给记忆分类的标准词汇表是 CoALA(Cognitive Architectures for Language Agents,arXiv:2209.00626),2023 年定调。它按内容性质把记忆分成四类:working(当前任务的工作集)、episodic(经历过的对话与事件)、semantic(事实与知识)、procedural(怎么做事的技能)。

拿一个编码助手对号入座:当前这轮对话里用户贴的报错堆栈是 working;「上个月这个项目踩过同一个坑」是 episodic;「用户的测试框架是 pytest」是 semantic;「在这个仓库跑测试要先激活虚拟环境」是 procedural。四类的存储形态可以完全不同,检索方式也没有规定——分类学只回答「记的是什么」。

这个分类统一了论文的语言,但没有统一大家的做法。同样叫 episodic memory,存储形态从向量库到 JSON 文件都有。它有一个深远的后效:四类里前三类讲「记什么」,procedural 讲「会什么」——2025 到 2026 年,程序性记忆从四分法里的一格,长成了独立的赛道,工作流记忆、技能库、经验蒸馏各立山头。分类学回答「记的是什么」,五个决策轴回答「怎么记」。判断一个记忆系统,看后者就够了。

三、第 0 路线:全上下文

六条路线的第一条,看起来像个玩笑:不做记忆。把所有历史对话原样放进上下文窗口(context window),要什么有什么。

它强得离谱,原因有三:零实现成本,不需要任何额外组件;零信息损失,没有任何东西被丢弃或改写;回忆最准,Mem0 的论文实测,全上下文基线(full context)的准确率高于所有专门的记忆系统。记忆系统的第一性问题——该留什么、怎么找回来——在它这里的答案是:全留,不用找。

那为什么还有人做记忆?因为这条路线有两个边界,都硬。

第一,成本随历史线性上涨。今天塞得下,不代表明年塞得下。跨会话、跨项目的长期使用里,历史总量没有上界,上下文窗口再大也追不上无限增长的历史,更不用说按 token 计费的成本曲线。

把这笔账算细一点。LLM 处理长上下文的代价分两层。计费层是显性的:每轮对话都把全部历史重新算一遍 token,历史 10 万 token 的会话,哪怕用户只回了一句「好」,账单也按 10 万出头计。算力层是隐性的:注意力机制对序列长度的计算量按平方增长——序列翻倍,注意力矩阵的计算量翻四倍;工程上的种种优化能把常数压小,但压不掉这个增长的趋势。同时,模型还要为历史里的每个 token 保存一份中间计算结果(KV 缓存),这部分显存占用随长度线性上涨,长上下文的另一道硬件门槛就在这里。三个曲线叠在一起,全上下文的成本不是「贵一点」,是结构性地不可持续。

第二,就算塞得下,也用不好。Chroma 在 2025 年发布的技术报告给这个现象起了名字:Context Rot(上下文腐烂)。上下文变长之后,模型的注意力被稀释,对中间位置信息的召回明显下滑——信息明明就在窗口里,模型就是「看不见」。直觉上不难理解:注意力机制的本质是「带着问题去扫一遍历史,给每个位置打相关度分数」,历史越长、干扰项越多,真正相关的位置越容易被淹没。检索靠的是分辨力,而分辨力是会被稀释的。

这两条边界划出了整个领域的存在意义。后面五条路线,每一条都是在某个维度上补这两个边界:向量、图谱、文件在「少记」上做文章,把无限历史换成有限的、被处理过的记忆;OS 分层在「放得下」上做文章,热数据进窗口,冷数据进存储;参数化走得更远,直接把记忆焊进模型本身。

评价它们,用引子里立好的三问:比全上下文省了什么?多冒了什么风险?这笔交换值得吗?

四、路线一:向量流水线派

  1. 1 从 RAG 到记忆,改造在写半边

先花三百字把 RAG 讲清楚,后面要反复对照它。

RAG 的流水线是:文档切块(chunk),每块算出一个向量(embedding),查询时把问题也变成向量,算它和所有块的相似度,取最相近的几块,经重排(rerank)筛一遍,拼进提示词。整个系统围绕「读」设计:库里的东西是提前整理好的,来了问题就去找。

流水线里有三处设计权衡,值得展开,因为记忆场景把它们全部继承了下来。切块:块太小,语义被拦腰斩断,检索到的片段缺上下文;块太大,一块里混进多个主题,向量成了「平均语义」,跟什么都像又跟什么都不像。向量检索:它是一次「几何近似」——把语义投影成高维空间里的方向,语义相近的文本方向相近;好处是快(先算好存量向量,查询时只算一次问题向量),代价是粗(两个文本方向相近只说明话题相近,不说明能回答问题)。重排:所以粗排之后要精筛,主流做法是交叉编码器——把问题和候选段落拼在一起送进模型逐词交互,打出的相关分准得多,但每对组合都要跑一次模型,只能用在少数候选上。「又快又粗的初筛 + 又准又慢的精排」这套两段式,是整个检索体系的骨架。

把它改造成记忆系统,改造点几乎全在「写」这一侧:存的对象从「文档块」变成「从对话里提取的事实」。用户说「我不喝咖啡了」,系统不能把这句话原样存进库,得先抽出「用户不喝咖啡」这个事实,再发现库里躺着一条「用户每天喝两杯咖啡」,然后决定拿旧的怎么办。写半边的这道工序,就是记忆系统和 RAG 的分界线。

  1. 2 Mem0:给记忆定工程接口

▍Mem0(2025) · 论文 · GitHub

Mem0 是这条路线的事实标准,也是生态最大的记忆方案(截至 2026 年 10 月 66.8k stars)。它把「写」做成了两阶段流水线。

第一阶段是抽取:LLM 读一遍最近的对话,产出候选记忆,通常是带主语的短句。第二阶段是更新:每条候选记忆和库存记忆比对,LLM 给出四种操作之一——ADD(新事实,入库)、UPDATE(旧记忆过时,改写)、DELETE(明确作废,删除)、NOOP(无变化,不动)。「我不喝咖啡了」走的就是 UPDATE:旧的喝咖啡习惯被改写,而不是和新事实并存。

把流程拆开看,这是一次写入要跑两遍 LLM 的方案:抽取一遍,比对再一遍——比对本身也不是纯计算,先按相似度捞出几条存量候选,再让 LLM 判断新事实和每条候选是什么关系。这就是「写半边」的代价落地:语义级的冲突检测没法便宜。好处也实实在在:库存记忆永远是「当前有效的信念集合」,检索时不至于新旧混杂。

「写入即冲突检测」是 Mem0 对这个领域最大的贡献。这四操作的范式后来被普遍继承——不管底层存的是向量还是图谱,写入时先和存量比一遍,成了行业默认动作。

读取侧是标准的向量检索:当前对话算出向量,去库里找最相近的记忆条目。Mem0 还提供可选的图记忆扩展,底层用的正是后文要讲的 Graphiti 引擎——两条路线在这里交汇。

两问时间。它解决了什么:给「记忆」定了工程接口。写入、存储、检索各有明确组件,四操作成了通用语言,接入成本被压到很低,Mem0 因此成了几乎所有新项目的默认起点。它没解决什么:准确率。自家论文实测,全上下文基线比它准——它用准确率换了 90% 的 token 成本和 91% 的 p95 延迟。时态语义也弱:记忆条目是静态短句,「什么时候成立的」「什么时候失效的」没有一席之地,过时信息要等下一次 UPDATE 碰巧扫到才能修订。

  1. 3 2026 年的进化:从流水账到信念

这条路线 2026 年的新方向,是从「追加流水账」走向「会修订的信念」。

代表是 Vectorize.io 的 Hindsight(截至 2026 年 10 月 47.1k stars)。它在事实之外维护一种叫 mental models 的东西:后台持续重写的「问题→答案」知识页。记忆不再只增不改,而是像维基页面一样被持续修订。

它把对外能力收敛成三个原语。retain,写入时由 LLM 抽取事实、时间、实体、关系,规范化入库;recall,语义向量、BM25、图谱、时间过滤四路并行检索,RRF 融合后再重排;reflect,后台深度反思,生成记忆之间的新连接。

recall 的四路设计值得多说一句,因为每一路都在补其他路的短板:语义向量检索对付换了说法的提问(「不碰咖啡了」也能召回「不喝咖啡」),BM25 关键词检索对付专名和编号(向量对罕见人名、产品型号这类「字面即语义」的词反而钝),图谱检索对付多跳关联,时间过滤对付「3 月那时候」这类时态限定。四路各出一个排名列表,RRF(倒数排名融合)把它们合成一个总分——不比分数绝对值,只看每路排名的倒数加权,谁在多数通道里都靠前谁就赢。最后再过一遍交叉编码器重排。单通道检索的失败模式,在多通道融合里互相兜住了。

底座是 PostgreSQL 加 pgvector,支持嵌入式零配置部署——向量流水线走到 2026 年,工程成熟度已经是另一代产品。它的 mental models 则代表了写半边的下一个阶段:记忆不只是「被存进去的条目」,还是「被持续修订的知识页」——像维基一样有版本、有后台维护者,只是这个维护者是 LLM。

成绩也拿得出手:LongMemEval 基线的 SOTA,而且是唯一被第三方——弗吉尼亚理工团队与华盛顿邮报——独立复
离线阶段,LLM 做两件事:NER(命名实体识别)抽出实体,OpenIE 抽出三元组,合成一张知识图。在线阶段,查询先抽出实体作为种子节点,然后在图上跑 Personalized PageRank(PPR,个性化排序扩散)——概率从种子节点向邻居扩散,沿途衰减,最后按得分取回关联段落。

PPR 的机制值得展开,因为「多跳」就是被它吃掉的。想象一个随机游走者站在种子节点上,每一步沿当前的边随机走向一个邻居,同时以一定概率跳回种子重新出发——走的时间足够久,每个节点身上就积累出一个稳定的「被访问概率」:离种子越近、通路上越枢纽的节点概率越高。普通 PageRank 的游走者从全图均匀出发,PPR 的游走者只从这次查询的种子出发——所以叫「个性化」。多跳查询为什么不再碰运气?「A 的同事」的段落和「同事的老板」的段落,在图上正好铺在种子出发的两条通路上,两段都攒下不低的访问概率,一次扩散全部召回——而两次独立的相似度检索,第二次根本不知道该拿「同事」当查询。

HippoRAG 2 补上了 passage 节点:文档段落本身也进图。多跳推理和全篇理解,从此不用二选一。

  1. 4 分支三:双时态让历史可修订

前两个分支解决「怎么找」,Graphiti 引擎解决「怎么不改写历史」。核心设计叫双时态(bi-temporal):每条边——每条事实——挂四个时间戳。事实生效时间 t_valid、失效时间 t_invalid,再加系统侧的两个事务时间。大白话讲:图不仅记住「什么是真的」,还记住「什么时候是真的」,以及「系统是在什么时候知道的」。

为什么要两只钟?因为事实的发生时间和系统的知情时间经常对不上。用户 3 月就换了工作,但直到 6 月聊天里才提了一句——这条事实的正确写法是:t_valid 定在 3 月(它那时就是真的),事务时间定在 6 月(系统那时才知道)。只有一只钟的系统写不出这条边:要么把「3 月生效」错当成「3 月才听说」,要么把「6 月才听说」错当成「6 月才生效」。双时态把「世界的时间线」和「系统的认知时间线」分开记账,历史才经得起追问。

新事实进来,旧事实不被删除,而是打上失效标记。经典演示场景:用户换了工作。「用户任职于 A 公司」这条边打上 t_invalid,留在图里;「用户任职于 B 公司」作为新边生效。这时问「他现在在哪工作」,按时态过滤拿到新边;问「他 2025 年 3 月在哪工作」,拿到旧边。历史可追问,而不是被覆盖。

跨会话识别同一个实体——「他」「那位同事」「张三」指向同一节点——由实体解析(entity resolution)完成。这件事难在它本质上是无界的判断问题:名字相同不一定是同一个人,叫法不同可能是同一个人,判断依据要综合上下文、时间窗和已有图谱,而每一次错误的合并或错误的拆分,都会顺着边污染整片子图的查询结果。这是图记忆独有的麻烦,也是它独有的价值。

Graphiti 本身是开源引擎(截至 2026 年 10 月 31.5k stars),2026 年把定位升级成了「Context Graphs」——从记忆组件升格为 Agent 的上下文基础设施。上一节说 Mem0 的图扩展和图谱派在这里交汇,交汇点就是它。

  1. 5 诚实点评

图谱派的麻烦,一半在技术之外。

第一件是公开的分数之争。2025 年,Zep 和 Mem0 隔空互撕:Zep 发基准结果说自己领先,Mem0 换一套评测协议回敬,也说自己领先。两边都没造假——评测协议不同,分数就不可比。这件事成了这个领域「分数由协议决定」的标本,第九节还会回来。

第二件是成本收益比。2026 年有论文统计了一个无监督建图系统的产出:19.6 万条边里,最终知识库真正用得上的只有 1913 条,有效索引率约 1%(转引自系列下篇)。图的维护成本按全量算,收益按 1% 算,多数场景下这笔账不划算。

这条路线 2026 年的钩子是 Youtu-GraphRAG(arXiv:2508.19855,ICLR 2026,截至 2026 年 10 月 1.3k stars):用 schema 引导建图,把建图、检索、推理垂直统一,官方口径最高省 90.71% token。方向对不对,要看它走出实验室的表现。

六、路线三:文件派

  1. 1 最朴素的赢了

如果去数 2026 年各家记忆项目的星标数,会发现一件不太好解释的事:星标最高的记忆类项目,不用向量,不用图谱,没有后台服务。claude-mem(截至 2026 年 10 月约 9.7 万 stars)做的事,一句话能讲完:把 Claude Code 的对话压缩成 Markdown 文件,下次会话再加载回来。

这不是孤例,是一条悄悄长了三年的谱系。2023 年 AutoGPT 用一个 CONVERSATION.md 文件存对话史,算这类做法的开创;Manus 把任务状态写成文件;Memory Bank 干脆规定了固定的一组文件,各自记什么、放哪里,全靠约定。同为编码场景的 agentmemory(截至 2026 年 10 月 29.2k stars)走的是 hooks 加 MCP 工具的组合:12 个钩子自动捕获会话,54 个工具负责检索与注入。

  1. 2 claude-mem:无架构的架构

claude-mem 的机制值得细看,因为它几乎「什么都没做」。会话结束时,hooks(钩子)自动触发,LLM 把这场对话蒸馏成事实摘要,写进 Markdown 文件。检索不靠向量数据库,靠约定:文件按日期和项目命名,放进约定好的目录结构,下次会话开始时按路径加载,需要细查时 Agent 自己 grep。

hooks 是这套机制唯一踩着「框架能力」的地方,值得解释一句:hooks 是宿主程序在生命周期事件上预留的回调点——会话开始、会话结束、工具调用前后,宿主在这些时刻主动喊一嗓子,外部脚本趁机干活。claude-mem 的全部魔法就是挂在了「会话结束」这一声上:宿主一宣布收工,蒸馏脚本开始跑。记忆写入不需要改造模型,不需要拦截 API,只是「在正确的时刻做了正确的事」。

检索为什么 grep 就够?因为文件名和目录结构本身就是元数据——项目、日期、主题全编在路径里,约定消除了「不知道去哪找」的问题。向量检索解决的是「不知道记忆长什么样也能找到」,而良好的约定让这个问题根本不出现。需要精确回查时,grep 对「字面即语义」的标识符(类名、命令、路径)反而比向量更准——这一条和上一节 Hindsight 四路检索里 BM25 的存在理由,是同一个道理。

没有嵌入模型,没有图数据库,没有写入流水线。所有「记忆技术」被两个东西替代了:LLM 的摘要能力,和文件系统与生俱来的导航能力。

  1. 3 为什么「什么都没做」反而赢了

两个原因,一个比一个根本。

零接入。读写文件是所有 Agent 的原生能力——不装 SDK、不起服务、不改模型调用方式。一条路线的接入成本越低,它被真实用起来的概率越高。

可审计。这是文件派真正的护城河。记忆系统最大的成本不是存储,是错误信念——一段过时或错误的信息被当成事实反复使用,引子里 MemTrapBench 的结论说的就是它。向量库里的坏记忆肉眼看不见,图谱里的坏边要专门工具才查得出,Markdown 文件里的坏记忆,打开就能看见,随手就能删,还能进 git 做版本管理。错误无法藏在黑盒里。

回扣主线:记忆是一笔交易,最大的风险敞口是错误信念。文件派把风险敞口直接晒在阳光下——这不是技术先进,是风险设计正确。

2026 年的进化方向,是把「约定」升级成「系统」。OpenViking(截至 2026 年 10 月 39.4k stars)把文件记忆做成了 viking:// 虚拟文件系统:知识、偏好经验、技能三类内容各占一条挂载路径,Agent 用 ls、read、grep 这些文件操作导航。细节做得相当克制:每个目录放两个约定文件——.abstract.md 是一句话摘要,.overview.md 是概览——与全文一起构成 L0 / L1 / L2 三级渐进加载,先看摘要再决定要不要展开,上下文预算花在刀刃上。

三级加载的上下文经济学值得算一笔:一句话摘要几十个 token,概览几百个,全文可能几千上万。没有分级时,Agent 要么整篇读入(预算爆炸),要么不读(漏掉关键);分级之后,先用几十个 token 的成本判断「这篇和我有没有关系」,有关系才逐级展开——预算的大头永远只花在少数真正相关的记忆上。会话提交(commit)时,对话自动蒸馏成 Markdown 记忆落盘;配套的 VikingBot 还能把整个库编译成 wiki 或知识图谱。官方口径 LoCoMo 用户记忆测试 80–83%,对比基线 24–57%。文件派的终点站,看上去是一个不需要人维护的 wiki。

七、路线四:OS 分层管理派

  1. 1 MemGPT:记忆管理是控制问题

2023 年 10 月,MemGPT 论文给这个领域立了一根柱子。它的贡献不是某个新组件,而是一个类比:LLM 的上下文窗口是内存(main context),数据库是磁盘(external context)——这正是操作系统管理内存与磁盘的老结构。操作系统几十年前就回答过这个问题:内存放不下的放磁盘,靠页表调度,缺页了换进来。

MemGPT 把「换页」交给了 Agent 自己。上下文分两层:窗口内的主上下文(main context),是 Agent 当前可见的工作记忆,内部再分出系统提示、工作上下文和核心记忆几块;窗口外的外部上下文(external context),是向量库存档。两层各司其职:核心记忆放「必须时刻在场」的少量事实——用户身份、关键偏好;外部存档放「用到时再查」的大体量内容。关键机制是函数调用:Agent 通过 core_memory_replace 改写自己的核心记忆,通过 archival_memory_search 去外部存档检索——它在运行中自己编辑自己的窗口。

走一遍换页的过程:用户说「记住,我是素食者」,Agent 判断这条值得长期持有,调用 core_memory_replace 把「饮食偏好:素食」写进主上下文的常驻区。三周后对话聊到周末聚餐,Agent 先调 archival_memory_search 检索外部存档,把相关结果换入窗口再作答。整个过程没有模型微调,纯粹是 Agent 对自己上下文的主动经营。

为什么把调度权交给模型自己?因为「这条要不要记、那条何时取」的判断依据大部分长在对话的语义里——用户这句话是随口一说还是郑重叮嘱,谁在场、聊到哪了,这些信息模型自己最清楚。外部流水线也能做调度,但它只能依赖位置、频率这类外部信号,永远隔着一层。MemGPT 押的就是这个:调度是控制问题,控制需要语义,语义在模型手里。

论文里最重要的论断藏在一句轻描淡写的话里:记忆管理的难点是控制问题,不是存储问题。难的不是「存得下」——数据库什么都存得下——是「何时存、何时取」的调度策略。这个论断把全行业的注意力从存储组件拉回到调度机制上,后面整个分支都在回答它提出的问题。

  1. 2 三个后继,同名不同志

MemGPT 之后,OS 隐喻长出一串后继。三个值得点名,它们名字相近,路线却不同。

MemoryOS(EMNLP 2025 Oral,arXiv:2506.06326,截至 2026 年 10 月 1.6k stars)把分层做细:短、中、长三级存储,短到中按对话链 FIFO 淘汰,中到长按分段分页晋升。机制读起来就是操作系统的页面置换:最近的对话是热页,驻留在「内存」里直接可用;对话链往前滚,旧页按先进先出换入「交换区」;哪段内容被反复用到、或被判定为长期有效,再按分页晋升进「磁盘」里的长期记忆。四模块流水线(Storage / Updating / Retrieval / Generation)把这套置换自动化。官方口径 LoCoMo F1 提升 49.11%、BLEU-1 提升 46.18%(GPT-4o-mini 底座)。

MemOS(arXiv:2507.03724,截至 2026 年 10 月 11.8k stars)野心更大:把记忆当成操作系统的一等资源来调度。它的 MemCube 统一了三种记忆表示——明文(文本条目,人和模型都能直接读)、激活(KV 缓存,模型为对话保存的中间计算状态,复用它等于不用重算)、参数(模型权重里的知识)——三种形态可以在同一个「记忆资源」的抽象下互相转换、跨模型流动。调度还引入「温度」:顾名思义,记忆分冷热,热记忆低延迟供给,冷记忆归档封存。项目节奏也快:2025 年 12 月上线云托管的 MemOS Cloud,2026 年 5 月发布 Local Plugin 2.0。

Letta 是 MemGPT 原班团队的商业化演进,最有意思的动向是掉头:2026 年 3 月转向 MemFS——文件系统式的记忆(截至 2026 年 10 月 25.1k stars),同年 2 月还提出过用 git 管理 Agent 记忆的 Context Repositories。OS 派的开山团队,最后投奔了文件派。这不是自我否定,是回应了上一节说过的同一个事实:可审计性和零接入,权重太高。

点评:这条线的价值不在任何具体实现,在隐喻本身——它把「记忆管理是调度问题」变成了公共议题。三个后继给出三种调度答案:分级晋升(MemoryOS)、统一资源(MemOS)、换成文件模型(Letta)。

八、路线五:参数化派

前四条路线的记忆都存在模型外面,参数化派(parametric memory)把它们搬进模型里面——记忆就是权重本身。

谱系四代,每代一句话,外加机制的展开。

kNN-LM(arXiv:1911.00172,2020)先破题:知识不一定要训练进权重。推理时拿当前上下文去外部数据集检索最近邻,把检索到的「下一个词分布」和模型自己的输出按系数插值——训练语料里没见过的罕见实体,靠检索把概率质量顶上来。它在「参数里存知识」这个默认设定上撕开了第一道口子,也顺手定义了这条线的核心问题:知识和能力能不能分开存。

Memory³(arXiv:2407.01178,2024)往前走一步:知识不必写进权重,也不必塞进上下文原文,可以转成「显记忆」(explicit memory)——一段可复用的中间状态。具体说:把知识文本先让模型「读」一遍,读的过程产生的内部激活状态保存下来,下次使用时作为「热身」(warm-up)状态注入——相当于带着预习笔记进考场,不用重读课本,也不用把课本抄进脑子。

DeepSeek Engram(2026 年 1 月,论文以仓库内 PDF 发布:Conditional Memory via Scalable Lookup;截至 2026 年 10 月 4.7k stars)把上个时代的 N-gram 查表现代化。N-gram 是老统计派的家底:数「前 N-1 个词之后接什么」的频率表,简单、快、准但不通融。Engram 把它做成 O(1) 查表的记忆模块——不做全库检索,哈希直达;模块化的参数独立于主模型,即插即用。定位上它与 MoE(混合专家)构成两条正交的稀疏轴:MoE 的稀疏在「这次让哪些专家算」,Engram 的稀疏在「这次去查哪块记忆」——一个省算力,一个省存取。它的处境本身就是一条信息:据报道,DeepSeek-V4 没有采用它,它仍是研究储备——前沿团队自己按住不表,比外部分析的吹捧诚实得多。

Google 的 Titans(arXiv:2501.00663,NeurIPS 2025)设计了神经长期记忆模块,核心是「惊讶度」驱动
表之外还有三个现实约束,选型时和场景放在一起称:接入成本——现有技术栈离哪条路线最近,文件派几乎为零,图谱派要养建图流水线;运维能力——向量库和文件谁都能管,知识图谱需要懂图的人,出问题时排查路径完全不同;失败代价——个人助手的坏记忆顶多答错一句,企业知识库的坏记忆会顺着多跳扩散到每个下游答案。三个约束没有标准权重,但每一项都该在拍板前过一遍。

  1. 2 三条失败模式

时态污染。过时信息被当真。MemTrapBench 的结论是所有记忆系统的公共伤口,图谱派的双时态设计和 Hindsight 的信念修订,是对它最正面的两种回应。它阴险的地方在于静默:系统不会报错,只是笃定地引用一条已经失效的事实——用户不纠正,它就一直错下去。

分数幻觉。评测协议不同,分数不可比。Zep 与 Mem0 的互撕是标本。以后看到任何「SOTA」,先问协议:考卷是谁出的、和谁比的、换了考卷还领先吗。

注入风险。记忆层是新的攻击面:诱导系统「记住」一条恶意指令,它就获得了持久化的执行力——前作下篇详述过 Rehberger 漏洞链。2026 年的 MemLeak 研究(arXiv:2610.04195)补了另一刀:多租户共享同一个向量库时,不做任何对抗假设也能跨用户泄漏 70–100% 的记忆,论文测下来唯一有效的缓解,是检索之后做硬性属主门控。 MemTensor 等团队的记忆安全生命周期综述(EMNLP 2026)把治理的要点压成一句话:长期记忆的安全性没法在检索和执行时补装,必须存储时就带上出处与版本。记忆的治理正在成为独立的安全议题,值得单独一篇。

  1. 3 结语

回到主线。记忆不是资产,是负债——管理得好,它撬动跨会话的能力;管理不好,它比没有更糟。先用好文件,再谈架构;上任何记忆系统之前,先算清那笔交易。

这是路线篇。每条路线都值得单独深读,系列后续预告放在这里:

  • Hindsight:从流水账到会修订的信念

  • OpenViking:文件系统即记忆

  • 腾讯系全景:TencentDB Agent Memory、MemoryOS、RoMem、Youtu-GraphRAG

  • RL 记忆管理三连:Mem-α 学存什么、MEM1 学压缩、MemAgent(字节 Seed 与清华大学)学覆写

  • Titans 谱系:参数化记忆的四要素

  • 记忆安全治理:生命周期综述与投毒案例

    如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线科技企业深耕十二载,见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事,早已在效率与薪资上形成代际优势,我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包:

  • ✅ 从零到一的 AI 学习路径图
  • ✅ 大模型调优实战手册(附医疗/金融等大厂真实案例)
  • ✅ 百度/阿里专家闭门录播课
  • ✅ 大模型当下最新行业报告
  • ✅ 真实大厂面试真题
  • ✅ 2026 最新岗位需求图谱

所有资料 ⚡️ ,朋友们如果有需要《AI大模型入门+进阶学习资源包》,下方扫码获取~

① 全套AI大模型应用开发视频教程

(包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点)

② 大模型系统化学习路线

作为学习AI大模型技术的新手,方向至关重要。 正确的学习路线可以为你节省时间,少走弯路;方向不对,努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划,带你从零基础入门到精通!

③ 大模型学习书籍&文档

学习AI大模型离不开书籍文档,我精选了一系列大模型技术的书籍和学习文档(电子版),它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础。

④ AI大模型最新行业报告

2025最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。

⑤ 大模型项目实战&配套源码

学以致用,在项目实战中检验和巩固你所学到的知识,同时为你找工作就业和职业发展打下坚实的基础。

⑥ 大模型大厂面试真题

面试不仅是技术的较量,更需要充分的准备。在你已经掌握了大模型技术之后,就需要开始准备面试,我精心整理了一份大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。

以上资料如何领取?

为什么大家都在学大模型?

最近科技巨头英特尔宣布裁员2万人,传统岗位不断缩减,但AI相关技术岗疯狂扩招,有3-5年经验,大厂薪资就能给到50K*20薪!

不出1年,“有AI项目经验”将成为投递简历的门槛。

风口之下,与其像“温水煮青蛙”一样坐等被行业淘汰,不如先人一步,掌握AI大模型原理+应用技术+项目实操经验,“顺风”翻盘!

这些资料真的有用吗?

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。

以上全套大模型资料如何领取?

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询