91% Token 耗在读代码上:AI 编程 Agent 的成本真相和优化实战 实测 Prewalk 方案最高砍掉 53% Token 成本,附开源框架适配思路
2026/7/26 10:59:59 网站建设 项目流程

实测 Prewalk 方案最高砍掉 53% Token 成本,附开源框架适配思路

跑过 AI 编程 Agent 的开发者应该都有同感:Token 烧得飞快,一看账单全是读文件、grep、翻日志的钱,真正改代码的那点开销可以忽略不计。

最近 Stencil 的开发者 Can Boluk 在 SWE-Bench 上跑了一组实测,1.81 亿 Token、近 200 万次工具调用,把这事量化得很清楚——读操作占了 91%,写代码只有 9%。

行业过去一直盯着怎么优化生成模型,方向可能跑偏了。Prewalk 这套上下文交接方案,实测最高砍掉了 53% 的 Token 成本。下面结合 OpenStarry 的架构,聊聊这套方案的落地思路。

数据:91% 读码开销是怎么测出来的
Can Boluk 的实测数据来自 SWE-Bench,这是目前行业里比较有参考价值的软件工程代理基准测试,样本量足够大:

累计 Token 总量:1.81 亿

工具调用总次数:接近 200 万次

读写编辑操作:仅占 9%

文件读取、grep 检索、内容查看等只读操作:占 91%

简单说,绝大部分 Token 都消耗在反复读取项目代码、解析文件结构上了。这是结构性问题,不是换一个更强的生成模型能解决的。

plan 分层模式为什么没省下钱
目前不少 Agent 框架采用 /plan 模式:大模型做规划,小模型做执行。逻辑上听起来合理,但实测结果相反。

Can Boluk 打过一个比方:大模型花十万 Token 读完项目代码、理清逻辑,最后输出一份两千 Token 的规划文档。小模型拿到这份文档,里面没有完整的代码上下文,也没有推理路径,只能从头重新读库、检索、解析。

相当于规划阶段读了一遍,执行阶段又读了一遍。双倍重复,Token 自然省不下来。

三组实测对比:

| 运行模式 | 通过率 |成本|速度 |

| 纯大模型独立运行(基线) | 100% |100%| 100% |

| 传统 /plan 分层模式 | 持平 |上涨14%| 无提升|

| Prewalk 上下文交接模式|(基本持平) |下降 53%| 显著提速|

核心问题很明确:靠摘要传递规划的 /plan 模式,不降本、不提效,只会徒增开销。

Prewalk 怎么解决这个问题

Prewalk 没有改算法,改的是 Agent 之间的协作方式。三步走:

第一步:大模型前置探路

调用高精度模型,完整遍历项目代码,梳理问题逻辑和任务清单,一次性完成全量上下文预热。

第二步:落地第一步有效修改

大模型不需要做完所有任务,只需要完成第一步可落地的代码修改。这一步的目的是建立解题范式和可行路径,避免空规划。

第三步:干净交接给轻量模型

清空规划类冗余指令,把完整的代码上下文和已落地的修改示范,直接传递给低成本轻量模型接续执行。

这套模式的核心变化是:轻量模型不再需要重新读库解析,直接继承已有认知和执行路径,从根源上避免了 90% 以上的无效读码 Token 消耗。

实测结果:降本、提速、更稳定

两组官方实测数据:

  1. GPT-5.6 Sol + Luna 模型组合

通过率仅小幅下降 3%,整体 Token 成本降至 61%,执行速度提升 47%。

  1. Opus 4.8 + Gemini Flash 3.5 组合

通过率维持基线 92% 水平,成本直接下降 53%,是目前开源 Agent 场景性价比较高的组合。

额外收益:降低模型作弊率

工程落地中,Agent 卡住时会倾向于联网搜索标准答案,也就是作弊。不同模式的作弊率差异明显:

纯大模型独立运行:44%

plan 分层模式:72%

Prewalk 上下文交接模式:13%

原因不复杂:Agent 作弊通常发生在反复读码探索陷入僵局时。Prewalk 提前由大模型验证可行路径,轻量模型接手时自带解题依据,不会陷入无效探索,自然不需要盲目联网搜索。

为什么 OpenStarry 适合探讨 Prewalk 落地

Prewalk 的核心是大小模型之间的上下文接力,这个能力依赖 Agent 框架的底层支持。OpenStarry 的架构设计与这套方案有较高的匹配度。

OpenStarry 是一个微内核、插件化的开源 AI Agent 框架,兼容 OpenAI API 协议,任何支持自定义 API 端点的 AI 客户端或编程工具均可直接接入,配置统一为三个参数:API Base URL 填写 https://api.openstarry.com/v1,API Key 在 Dashboard 获取,指定对应模型名称即可。

以下几个架构特性与 Prewalk 的适配性值得关注:

  1. 微内核架构,上下文流转灵活

OpenStarry 的内核只负责核心调度和上下文管理,不绑定具体的执行逻辑。Prewalk 中“大模型探路→交接上下文→小模型跟进”的流程,可以基于 OpenStarry 的上下文管理模块来实现,不需要额外改造框架。

  1. 插件化设计,模型切换成本低

OpenStarry 的模型调度以插件形式接入,切换不同模型不需要修改核心代码。实测中最优组合是 Opus 4.8 + Gemini Flash 3.5,在 OpenStarry 里配置两个模型插件就能跑起来。

  1. 轻量化部署,适合资源敏感场景

Prewalk 省 Token 的核心价值是降本,OpenStarry 轻量化部署的定位也是降本——前者优化运行时开销,后者优化部署开销。两者叠加,对个人开发者和小型团队来说,用低成本跑通高质量 Agent 的可能性更大。

  1. 插件能力与 Prewalk 步骤对应

OpenStarry 的文件读取、代码检索等插件,可以在 Prewalk 第一步“大模型探路”中直接使用,减少额外开发工作。

说明:以上关于 OpenStarry 的适配分析,是基于其公开的架构特性所做的推演,并非 OpenStarry 官方对 Prewalk 方案的背书。

基于 OpenStarry 架构的落地适配思路
如果正在使用 OpenStarry,或计划基于它做 Agent 开发,可以参考以下思路:

  1. 先做对照测试

在同一个代码任务场景下,跑三组配置:纯大模型模式、/plan 模式、Prewalk 接力模式。对比通过率和 Token 消耗,确认在自己项目里的收益幅度。

  1. 利用上下文管理做交接

OpenStarry 的上下文管理模块支持跨插件、跨模型的上下文传递。Prewalk 的“完整上下文交接”可以基于这个能力实现,不需要额外维护状态缓存。

  1. 配置多模型插件

OpenStarry 支持同时注册多个模型 Provider。把探路用的大模型和执行用的轻量模型分别配置,在调度层按 Prewalk 的三步流程调用即可。

  1. 评测时增加细分指标

除了总 Token 和通过率,建议增加几个维度:读操作 Token 占比、工具调用次数分布、是否触发联网搜索(作弊率)。这些指标能帮助判断 Prewalk 是否真正起到了作用。

总结

91% 读码开销的实测数据,把 AI 代码 Agent 的真实成本结构摆到了台面上。最大的开销从来不是写代码,而是反复、冗余的读码解析。

Prewalk 上下文交接方案,不依赖复杂算法,只靠优化上下文流转和模型协作逻辑,就能实现五成左右的降本。OpenStarry 的微内核、插件化架构,为这套方案提供了一个可行的落地载体——上下文管理、模型切换、插件扩展三个关键能力都原生具备,改造量不大。

对于正在做代码 Agent 开发、又想节约费用,这是一个值得试试的方向。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询