这篇我按“先跑起来、再讲取舍”的方式写《一次Agent项目复盘,问题最后出在流程而不是模型》。概念会讲,但重点放在代码怎么组织、哪里容易踩坑。
摘要
最近团队里接入 Codex 和 Claude Code 进行辅助开发,看似代码生成速度翻倍,但 Code Review 的吐槽声却越来越大。问题不在模型不够聪明,而在我们盲目信任了 Agent 的“自主性”。很多开发者在设计 Agent 时,只盯着 Prompt 怎么写能让它多写点代码,却忽略了底层的工具调用权限、记忆上下文管理以及任务规划的容错机制。当 Agent 从个人试用走向团队协作,这种架构上的缺陷会被无限放大。今天复盘一下我们在重构内部 Code Review Agent 时的踩坑记录,看看如何从底层原理上把控 Agent 的行为边界。
目录
- Agent 的本质:不是聊天机器人,是执行器
- 工具调用:权限隔离比准确率更重要
- 规划能力:从线性流程到状态机
- 记忆系统:上下文不是越大越好
- 失败恢复:拥抱不确定性
- 总结
Agent 的本质:不是聊天机器人,是执行器
很多人把 LLM 当作 Agent 的全部,这是最大的误区。LLM 只是大脑,Agent 还需要手脚(工具)和短期/长期记忆。
在我们的实战中,最初的版本是一个简单的 RAG 系统,用来回答“这段代码为什么报错”。效果不错,但业务方很快提出了新需求:“不仅要告诉我报错,还要帮我修复并发起 PR。”
这时候,单纯的问答模型就不够用了。我们需要引入行动(Action)的概念。Agent 的核心在于它能够感知环境、规划步骤、调用外部接口,并根据反馈调整行为。这就好比一个实习生,你不仅让他看文档,还给了他操作服务器的权限、访问数据库的权利,以及记录他工作日志的职责。如果权限没控制好,实习生可能会误删生产库;如果记忆没做好,他可能刚修好 Bug A,转头就把 Bug B 引入了。
因此,设计 Agent 的第一步,不是调优 Prompt,而是定义它的能力边界。
工具调用:权限隔离比准确率更重要
在团队协作中,最可怕的不是 Agent 生成错误的代码,而是它拥有了不该有的权限。
以我们重构的 Code Review Agent 为例,它需要调用git diff、eslint、prettier等工具。如果在本地测试,直接给 Agent 读写权限似乎没问题。但在 CI/CD 流水线或团队协作环境中,必须严格限制。
我们遇到的一个典型反例是:某个 junior 开发者为了追求方便,给 Agent 配置了全量的文件系统读写权限,并在 Prompt 中加入了“自动修复所有 lint 错误”的指令。结果,Agent 在处理一个大型单体应用时,因为上下文窗口溢出,错误地修改了配置文件中的数据库连接字符串,导致整个测试环境瘫痪。
教训: 工具调用必须遵循最小权限原则。
# 错误的做法:赋予 Agent 过高的系统权限 tools = [ BashTool(description="Execute system commands"), FileWriteTool(description="Write to any file"), DatabaseQueryTool(description="Access production DB") ] # 正确的做法:沙箱化与权限剥离 def secure_tool_executor(tool_name, args): # 1. 校验工具白名单 if tool_name not in SAFE_TOOLS: raise PermissionError(f"Tool {tool_name} is not allowed.") # 2. 参数清洗与验证 sanitized_args = sanitize_input(args) # 3. 在受限环境中执行(如 Docker 容器或沙箱) return sandbox_exec(tool_name, sanitized_args) # Agent 只能调用经过封装的安全接口 available_tools = [ SecureLintTool(), # 仅限静态检查 SecureGitDiffTool(), # 仅限只读 Diff # 禁止直接写入文件,改为生成补丁文件供人工确认 PatchGeneratorTool() ]在实际工程中,我强烈建议将 Agent 的输出限制为建议(Suggestions)而非直接执行(Executions),除非是在完全隔离的开发环境中。对于团队协作,所有的修改必须先通过人工审批或自动化测试网关。
规划能力:从线性流程到状态机
简单的 Agent 往往是线性的:用户提问 -> LLM 思考 -> 调用工具 -> 返回结果。但这种结构在面对复杂任务时会迅速崩溃。比如,“分析这个模块的性能瓶颈并提出优化方案”,这需要多个步骤:拉取代码 -> 运行 Profiler -> 解析报告 -> 对比历史数据 -> 生成建议。
如果中间任何一步失败,线性流程就会中断。
我们引入了基于 LangGraph 或类似的状态机思想来重构规划层。不再让 LLM 一次性决定所有步骤,而是将其分解为节点(Nodes)和边(Edges)。
- 节点:具体的动作,如
RetrieveCode、AnalyzeProfile、GeneratePlan。 - 边:条件判断,如
IsProfileEmpty?决定是直接报告还是深入分析。
这种结构化规划的好处是可观测性强。当 Agent 卡住时,我们可以清楚地看到它在哪个节点失败了,而不是面对一个黑盒。此外,规划器需要具备“反思”能力,当工具返回错误时,不应直接报错退出,而应触发Retry或Fallback路径。
记忆系统:上下文不是越大越好
记忆是 Agent 的灵魂,但也是性能瓶颈。很多开发者认为只要把 Chat History 传给 LLM 就行,这在 token 成本低的时候可行,但在生产环境中,这不仅昂贵,而且低效。
我们将记忆分为三层:
1. 短期记忆(Working Memory):当前对话的上下文。这里要做的是压缩,而不是保留。使用摘要模型对长对话进行浓缩,只保留关键决策点和错误信息。
2. 长期记忆(Long-term Memory):向量数据库存储的历史案例、代码规范、用户偏好。关键在于检索策略。不要盲目搜索所有相似内容,而是根据当前任务类型(如 Debugging vs Feature Development)动态调整检索阈值。
3. 程序化记忆(Procedural Memory):这是容易被忽略的一点。即 Agent 在过往任务中学到的“成功模式”。例如,每次处理 SQL 注入风险时,最佳实践是先查询白名单再过滤。我们将这些模式固化为工具调用模板,减少 LLM 的推理负担。
实战建议: 在团队知识库中,优先存储错误案例和解决方案,而不是海量的成功代码。因为 LLM 从失败中学习的能力往往强于从成功中模仿。
失败恢复:拥抱不确定性
AI 编程工具不是 deterministic 的代码,它具有概率性。这意味着 Agent 必然会产生幻觉或无效调用。
在我们的项目中,最关键的改进是增加了Self-Correction Loop(自我修正循环)。
当工具调用返回错误或非预期结果时,Agent 不应该立即向用户报告失败,而是应该:
1. 分析错误原因(是语法错误、权限不足还是逻辑矛盾?)。
2. 尝试修正参数或改变调用方式。
3. 重试,直到达到最大重试次数。
只有当多次尝试仍失败时,才将错误信息及上下文传递给人类开发者。这种机制极大地提升了用户体验,让 Agent 看起来更“智能”且“可靠”。
总结
Agent 的核心原理并非高深莫测,而是对工具、记忆、规划这三个要素的工程化权衡。
1. 工具调用要严守权限底线,团队协作中切忌过度授权。
2. 规划能力要从线性思维转向状态机管理,确保流程的可控和可观测。
3. 记忆系统要分层处理,注重压缩与精准检索,避免上下文噪声干扰。
4. 失败恢复是稳定性的关键,建立自我修正机制比调优 Prompt 更有效。
别再把 Agent 当作简单的聊天机器人来用了。把它当作一个需要严格管理权限、清晰定义职责、并能从错误中学习的初级工程师。只有这样,AI 编程工具才能真正从 Demo 走向生产,成为团队协作的利器,而不是灾难的源头。
资料展示
下面是我整理的AI大模型学习资料和工具包预览,适合收藏后按主题逐步学习。
如果你想看完整资料目录,可以在评论区留言「资料」;也欢迎告诉我你更关注AI大模型里的哪类内容。