CarryOn:面向长视界智能体的面向对象上下文运行时
原文网页:https://arxiv.org/html/2610.18784v1
PDF链接:https://arxiv.org/pdf/2610.18784v1
arXiv编号:arXiv:2610.18784v1
摘要
长视界智能体会在持久化任务状态中积累任务进展,但又需要反复处理记录该进展如何产生的交互历史。由此引出研究问题:长视界上下文是否可以围绕可复用任务进展而非产生该进展的历史交互来组织?本文提出CarryOn,一套面向对象上下文运行时,将任务继续执行逻辑建立在可复用任务对象之上。该系统并不把压缩历史、重构进展叙述作为继续执行的主要依据,而是由延续载体(continuation carriers)、互补执行上下文、最近交互实时尾部(live tail)三部分共同构建上下文视图。
核心挑战:当周边历史被归档淘汰之后,如何保证这套可复用基准仍然有效;CarryOn不需要在每一次折叠(fold)操作时完整重建全部表征,而是跨折叠维护载体记录,针对绑定证据与环境校验修改受影响记录,不受影响的记录直接继承,同时联合更新执行上下文。
在OSWorld2.0、BrowseComp‑Plus基准开展实验:任务性能分别提升5.8%、7.0%;同时总token用量分别降低51.9%、22.9%。项目全部资源已开源。
关键词
长视界智能体;上下文管理;面向对象上下文;上下文折叠;状态外部化;智能体记忆
目录
- 引言
- 相关工作
- CarryOn方法框架
- 3.1 整体框架总览
- 3.2 上下文视图三大组件
- 3.3 上下文视图构建与更新流程
- 实验设置
- 实验结果
- 5.1 主实验:任务性能与token开销
- 5.2 消融实验
- 讨论
- 结论
- 附录简要说明
1 引言
长视界智能体将任务进展保存在两处:
- 持久化任务状态:代表已经完成的成果;
- 交互历史:记录该成果是如何一步步得到的。
例如向PPT插入图片、向报告填入测量数据,最终任务状态本身就已经包含这些工作成果,可供后续步骤查看与修改。随着执行不断推进,冗余会持续累积:智能体反复去处理那些结果已经存在于任务状态中的历史生成过程。
现有长上下文处理手段主要分为两类:
- 对历史交互做压缩、摘要、剪枝、检索过滤;
- 将交互翻译为显式进展记录与结构化任务状态。
上述方案可以控制上下文规模,但存在缺陷:当使用重构出来的进展叙述替代可复用任务结果时,智能体继续执行会依赖一份经过筛选、存在漂移风险的转述文本,而不是智能体可以直接查看、修改的真实任务状态。
本文提出面向对象的长视界上下文视角:以可复用任务对象作为继续执行的基础。对象包括工作产物、有来源依据的发现、在明确条件下可以复用的应用状态。智能体通过直接检查、使用这些对象获取信息;上下文只补充继续执行所必需的配套信息。
CarryOn运行时将上下文划分为三个互补组件:
- 延续载体continuation carriers:将可复用内容/对象引用与其复用条件进行绑定;
- 执行上下文execution context:保存活跃目标、适用约束、载体无法捕获的未解决问题;
- 实时尾部live tail:保存自上一次成功折叠之后发生的交互。
面向对象上下文需要解决三大核心挑战:
- 识别可复用进展:区分哪些成果脱离原始交互历史之后仍然可以被解释、使用;CarryOn将依赖关系显式记录在延续载体的复用条件中。
- 随任务演进维护可复用进展:保留记录不等于保证内容有效、引用状态可用;CarryOn绑定支撑来源与环境校验;跨折叠只修订受影响记录,不受影响记录直接继承。
- 历史归档之后哪些信息仍需要显式保留:任务对象无法涵盖指导后续执行的目标、约束、未解决事项;CarryOn联合更新延续载体与执行上下文,最近交互保留在实时尾部。
一次**折叠(fold)**校验完成之后,使用面向对象上下文视图替换被覆盖的交互历史;在保留继续执行所需全部信息的前提下,逐步重构长视界上下文。
图1示例:OSWorld2.0两个任务折叠效果
- PPT幻灯片编辑任务:原始42.4K tokens,折叠之后下降至14.4K tokens,降幅66.0%;工作PPT与导出图片作为载体保存编辑成果,约束与保存校验保留在执行上下文。
- 实验报告任务:原始58.4K tokens,折叠后23.5K tokens,降幅59.7%;文档承载已完成编辑,未解决计算任务保留在执行上下文。
本文主要贡献
- 提出面向对象长视界上下文范式:以可复用任务对象作为继续执行的主要基础,而不是原始交互历史或者历史摘要。
- 实现CarryOn上下文运行时,包含延续载体、执行上下文、实时尾部;设计四阶段折叠更新流水线,跨折叠继承不受影响的记录。
- 在OSWorld2.0、BrowseComp‑Plus长视界基准验证:性能提升同时显著降低token消耗;消融证明载体与执行上下文二者缺一不可;相比单纯重复摘要策略效果更优。
2 相关工作
2.1 上下文压缩与选择
主流手段包含压缩、剪枝、摘要、选择性检索过往交互。提示级压缩、删除冗余过期交互、周期性生成摘要、分支执行只返回子任务结果;外部历史方案将长历史放到prompt之外,只维持有限活跃上下文;部分工作对压缩表征做执行校验降低信息损失。
CarryOn区别:不把摘要、压缩文本作为继续执行的根基,根基是可复用任务对象载体。
2.2 状态外部化与上下文重构
该类工作把任务进展显式表示,降低对原始交互历史依赖。包括内部状态融合记忆与观测、执行状态树、持久变量、任务记录;把状态外部化到持久工作空间,依靠快照、程序选择重建工作上下文。
现有方案继续执行仍然围绕压缩交互历史或者外部状态;CarryOn将可复用任务对象载体作为第一优先级的继续执行单元。
3 CarryOn方法框架
3.1 整体框架总览
CarryOn和智能体交互循环并行运行。
- 追踪器Tracker:识别候选可复用进展,绑定支撑证据;
- 接地器Grounder:做限定范围的环境条件只读校验;
- 编译器Compiler:联合更新延续载体集合与执行上下文;
- 校验提交Commit:校验通过,执行fold折叠;被覆盖的live‑tail交互从活跃上下文移除;交互日志保持只追加不变。
图2:CarryOn完整流水线。每一步交互追加写入交互日志;触发折叠时执行追踪候选 → 证据准备 → 联合编译 → 校验提交;提交完成更新上下文视图。
3.2 上下文视图三大组件
t tt为交互步骤;k kk代表最近一次折叠;b k b_kbk为该折叠覆盖的最后一步交互。
- A k A_kAk:延续载体记录集合;
- E k E_kEk:执行上下文;
- L t = ( h b k + 1 , . . . , h t ) L_t=(h_{b_k+1},...,h_t)Lt=(hbk+1,...,ht):实时尾部,保存折叠之后新增交互。
上下文视图形式化定义:
V t = ( A k , E k , L t ) V_{t}=\left(A_{k}, E_{k}, L_{t}\right)Vt=(Ak,Ek,Lt)
延续载体 Continuation Carriers
每一个载体具备稳定唯一标识,记录可复用内容/位置以及对应的复用条件。修订会在同一个标识下生成后继版本;不受变更影响的载体直接沿用旧记录。分为三类载体,可共存于同一个任务:
- 外部对象 External Objects:独立存在于环境中的工作产物,例如文档、代码文件、表格。载体记录对象引用、成果描述、复用条件。
- 信息产物 Information Products:交互得到的可复用结论、综合信息;没有实体持久文件时直接把结论存储在载体,附带来源与复用条件。
- 情境状态 Situated State:仅存在特定应用、会话、工作流之内的进展;复用需要回到对应环境。载体记录环境锚点、已建立状态、可复用的作用范围。
执行上下文 Execution Context
保存载体对象无法编码、但后续执行必须的信息:当前关注焦点、未解决约束与待完成义务、还没有固化为载体的待办工作。与延续载体形成互补。
实时尾部 Live Tail
保存从上一次折叠之后积累的原始智能体‑环境交互;在被下一次fold纳入之前,完整可供访问。
3.3 上下文视图构建与更新流程
每次折叠fold把实时尾部交互,转换为维护态上下文表征,分为四个阶段:追踪候选 → 证据准备 → 联合编译 → 校验与提交。
追踪候选 Tracking Candidates
Tracker识别有可能在后续被复用的进展,生成候选记录。候选可以跨多次迭代持续开发;当候选达到可支撑继续执行的状态,Tracker发起编译请求。编译请求写明待编译对象、支撑证据需求;外部对象/情境状态附带环境对象与复用条件;信息产物附带源素材。尚未就绪的候选保留,留给后续折叠处理。证据准备 Preparing Evidence
为选中候选收集授权证据;更新已有载体时同时读取载体当前记录。
- 信息产物:校验素材与记录来源一致性;
- 外部对象、情境状态:绑定环境对象,Grounder执行只读环境条件校验。
输出输入包U t U_tUt:包含选中候选、原有载体记录、授权源素材、对象引用、校验结果。
- 联合编译 Joint Compilation
编译器输入:输入包U t U_tUt、旧执行上下文E k E_kEk、实时尾部文本投影Π ( L t ) \Pi(L_t)Π(Lt)。
同时输出载体修改Δ A t \Delta A_tΔAt、修订后执行上下文E ^ k + 1 \hat{E}_{k+1}E^k+1。
( Δ A t , E ^ k + 1 ) = C o m p i l e ( U t , E k , Π ( L t ) ) \left(\Delta A_{t}, \hat{E}_{k+1}\right)=Compile\left(U_{t}, E_{k}, \Pi\left(L_{t}\right)\right)(ΔAt,E^k+1)=Compile(Ut,Ek,Π(Lt))
约束:编译器只对选中候选生成载体编辑;每一处编辑必须有授权证据作为依据。执行上下文基于全部实时尾部修订,保证待办、约束等信息不会丢失。外部对象、情境状态只记录进展与复用条件,实体对象仍然保存在环境中。
- 校验与提交 Validation and Commitment
校验编译结果;校验通过,完成fold折叠:更新A k + 1 , E k + 1 A_{k+1},E_{k+1}Ak+1,Ek+1;被覆盖的交互从活跃上下文移除,原始交互日志保持只追加不变。校验失败则不执行折叠,继续累积实时尾部交互。
核心特性:折叠只修改受影响的载体记录;绝大多数不受本次交互影响的载体直接继承,不需要重复重建。
4 实验设置
数据集与基座模型
- OSWorld2.0:计算机GUI操作长视界智能体基准;
- BrowseComp‑Plus:网页浏览长视界智能体基准;
- LLM基座:Claude Opus 4.7;
- 对比基线:
- Vanilla:原生无CarryOn,完整交互历史全部放进上下文;
- Periodic‑Summ:周期性摘要基线,使用相同预算反复做全局摘要;
- CarryOn‑w/o‑Carrier:移除延续载体,仅保留执行上下文+实时尾部;
- CarryOn‑w/o‑ExecCtx:移除执行上下文,仅保留延续载体+实时尾部;
- CarryOn完整系统。
评测指标
- 任务成功率SR;
- 总token消耗量;
- API总开销;
5 实验结果
5.1 主实验:任务性能与token开销
| 方法 | OSWorld2.0 | BrowseComp‑Plus | ||||
|---|---|---|---|---|---|---|
| 成功率 | 总token | 相对开销 | 成功率 | 总token | 相对开销 | |
| Vanilla原始基线 | 43.9% | ‑ | 1.00 | 49.0% | ‑ | 1.00 |
| Periodic‑Summ周期性摘要 | 45.1% | ‑ | 0.74 | 51.2% | ‑ | 0.829 |
| CarryOn完整系统 | 49.7% | ‑51.9% | 0.641 | 56.0% | ‑22.9% | 0.929 |
关键结果:
- OSWorld2.0:任务成功率+5.8%,总token用量下降51.9%,API开销下降35.9%;
- BrowseComp‑Plus:任务成功率+7.0%,总token用量下降22.9%,API开销下降7.1%;
- 单纯周期性摘要虽然可以降低开销,但性能提升幅度远小于CarryOn。
5.2 消融实验
| 配置 | OSWorld2.0成功率 | BrowseComp‑Plus成功率 |
|---|---|---|
| 完整CarryOn | 49.7% | 56.0% |
| CarryOn‑w/o‑Carrier(无延续载体) | 45.3% | 51.6% |
| CarryOn‑w/o‑ExecCtx(无执行上下文) | 44.8% | 50.8% |
消融结论:延续载体、执行上下文二者均不可或缺,去掉任意一个模块性能出现明显回落。只靠摘要不足以支撑长视界继续执行;围绕可复用进展组织上下文,效果优于通用压缩手段。载体负责固化已经完成的成果,执行上下文保存未完成目标、约束、待解决问题,二者形成互补。
6 讨论
- CarryOn的核心思想:不要把继续执行建立在“发生过什么的复述历史”,而是建立在“现在已经有什么可用成果”。历史交互仅保留在实时尾部;折叠之后不再作为活跃上下文主体。
- 与传统摘要的本质区别:摘要属于对历史的转述,会引入转述漂移;延续载体直接绑定环境真实对象与证据来源,具备可校验条件。
- 折叠不是简单压缩;折叠会维护载体版本,只有受新交互影响的载体才被修改,大量历史成果直接继承,不需要反复重新生成。
- 适用边界:任务存在可固化、可复用的工作产物;完全没有可外部物化产物的纯推理任务收益有限。
局限性
- 依赖环境可读校验能力;环境无法读取检查对象状态时,Grounder环境校验环节能力受限。
- fold折叠触发时机策略本文使用固定启发式;动态自适应触发策略有待进一步研究。
- 本文实验只在Claude Opus 4.7基座开展;跨模型泛化有待更多验证。
7 结论
本文提出CarryOn,面向长视界智能体的面向对象上下文运行时。将上下文拆解为延续载体、执行上下文、实时尾部三部分。通过fold折叠操作,跨迭代维护可复用任务对象记录,只修订受影响条目,不需要每一轮完整重建全部历史表征。
在OSWorld2.0、BrowseComp‑Plus长视界基准上,CarryOn同时实现任务性能提升与token开销下降。消融证实延续载体与执行上下文是两个不可或缺的互补组件。该工作为长视界智能体上下文管理提供新范式:以可复用任务对象作为继续执行的根基,而非原始交互历史或者历史摘要转述。
附录简要说明
- 附录A.2:候选、证据绑定、Grounder环境校验完整细节。
- 附录B:fold折叠触发启发策略、Compiler编译器prompt模板。
- 附录C:完整细分实验数据、不同fold频率的消融。
- 附录D:失败案例分析,载体失效、环境状态变更典型样例。