金融行业对AI的态度,这两年发生了一个很微妙但很关键的转变。前几年大家还在讨论"要不要上AI",现在讨论的已经是"怎么把AI从聊天框里拽出来,让它真正干活"。英伟达最近那份金融AI现状报告里有个数字特别扎眼——89%的机构声称通过AI实现了增收或降本。这个比例高得有点反直觉,因为如果你真在金融机构里待过,就知道大部分所谓的"AI落地"其实还停留在内部知识库问答、会议纪要生成这种边缘场景。那这89%到底是怎么来的?更值得琢磨的是报告里反复出现的一个词:Agentic AI。它被英伟达定义为金融AI的"新战场",这个判断背后有一套完整的逻辑链条,值得拆开来看。
我自己在过去一年多里,陆陆续续接触过几个金融方向的AI项目,从最开始的RAG知识库到后来的多智能体工作流,踩过的坑和看到的真实落地情况,跟报告里那些光鲜的数字之间有不少落差。这篇文章不打算复述报告原文,而是想从一线从业者的视角,把"89%增收降本"这个结论拆解清楚,再重点聊聊Agentic AI在金融场景里到底意味着什么、技术上怎么落地、以及那些报告不会告诉你的坑。
1. 89%这个数字背后的统计口径与真实含义
1.1 增收降本的定义比想象中宽泛
先泼一盆冷水。报告里说的"增收降本",统计口径远比字面意思宽。我拿到过一份类似的行业调研问卷,里面关于"降本"的选项包括但不限于:减少了人工审核工时、缩短了报告撰写周期、降低了外部数据采购成本、提升了客户响应速度带来的间接收益。注意最后一项——"间接收益",这东西很难量化,但在问卷里只要受访者主观认为有提升,就能勾选。
所以89%这个数字,本质上反映的是"绝大多数机构认为AI带来了正向价值",而不是"绝大多数机构的财务报表上出现了可归因于AI的利润增长"。这两者之间的差距,做过企业级项目的人都懂。一个信贷审批流程里嵌入了AI辅助决策,审批员每天少看20份材料,这算降本;但省下来的时间有没有转化成其他产出,那就是另一回事了。
提示:看这类行业报告时,先翻到附录看统计口径。凡是"感知到""认为""有助于"这类措辞,都要打个折扣理解。
1.2 金融AI落地的三个真实梯队
把接触过的案例归归类,金融AI的落地其实分三个梯队,报告里的89%是把这三个梯队混在一起统计的。
第一梯队是内部效率工具,占比最大,大概能占到七成以上。典型场景是内部制度问答、合规文档检索、研报摘要生成、会议纪要整理。这类应用技术门槛低,用RAG加一个大模型就能跑起来,见效快,但天花板也低——它替代的是"搜索+复制粘贴"这种动作,创造的价值有限。
第二梯队是业务流程嵌入,占比小一些。比如把AI嵌到反洗钱的可疑交易报告生成流程里、嵌到信贷尽职调查的材料初筛里、嵌到保险理赔的单证识别与分类里。这类应用开始触及核心业务,但通常还是"人在回路"的模式,AI出初稿,人来终审。
第三梯队才是Agentic AI驱动的自主决策,目前真正跑通的案例凤毛麟角。这也是英伟达报告重点押注的方向,因为它代表的是从"辅助"到"代理"的质变。
1.3 为什么金融机构愿意为第一梯队买单
这里有个很现实的商业逻辑。金融机构的IT预算审批极其严格,一个新系统上线要过安全、合规、风控好几道关。第一梯队的内部工具,数据不出内网、不触及客户资金、不产生对外承诺,合规风险最低,最容易过审。而且它有个立竿见影的好处:员工用起来爽,口碑传播快,能帮技术团队争取到后续更大项目的预算。
我见过一个很典型的路径:某券商先用RAG做了个内部法规问答机器人,全公司几千人用,日活很高。半年后技术团队拿着这个"成功案例"去申请预算,才拿到了做智能投研助手的资源。所以第一梯队很多时候是"敲门砖",它的战略价值不在于本身创造了多少利润,而在于证明了技术团队的交付能力。
理解了这一层,再看89%就不会觉得虚高了——它统计的是"AI项目产生了可感知的正向价值",而第一梯队项目几乎必然产生这种价值。
2. Agentic AI与传统RAG在金融场景的本质分野
2.1 从"回答问题"到"完成任务"的跨越
传统RAG的本质是"检索增强的问答"。用户问一个问题,系统去向量库里找相关文档片段,拼进提示词,让大模型生成答案。它的交互模式是一问一答,边界非常清晰:用户提问,系统回答,结束。
Agentic AI的本质是"目标驱动的任务执行"。用户给一个目标,比如"帮我完成这家公司的尽职调查初稿",系统需要自己拆解任务:先查工商信息、再查涉诉记录、再查财务数据、再查舆情、最后汇总成报告。中间每一步用什么工具、按什么顺序、遇到异常怎么处理,都是Agent自己决定的。它的交互模式是目标-规划-执行-反思的循环。
这个跨越听起来只是交互方式的变化,但对技术架构的要求是天壤之别。问答系统可以无状态,每次请求独立处理;Agent系统必须有状态,要记住自己执行到哪一步、中间产出了什么、下一步该干什么。
2.2 金融场景为什么特别需要Agentic能力
金融业务有个特点:流程长、环节多、依赖外部数据源。以信贷审批为例,一个完整的流程包括:客户资料收集、身份核验、征信查询、财务分析、风险评估、额度测算、审批意见生成。传统做法是每个环节一个系统,人工在系统之间搬运数据。
RAG能做的只是其中某一个环节的辅助,比如帮审批员快速找到类似的 historical case。但Agentic AI可以端到端地把整个流程串起来:Agent自己调用征信查询接口、自己解析财务报表、自己跑风险模型、自己生成审批意见草稿。这才是金融机构真正想要的——不是让员工问问题更方便,而是让流程本身自动化。
英伟达报告里把Agentic AI称为"新战场",核心原因就在这里。金融业的人力成本大头在流程执行环节,谁能把这个环节自动化,谁就拿到了最大的价值。
2.3 一个具体的对比案例
举个我实际参与过的场景:上市公司公告的信息提取。
传统RAG方案:分析师输入"帮我找XX公司2023年年报里的营收数据",系统检索年报PDF,返回相关段落,分析师自己看、自己抄。整个过程分析师还是要读原文,RAG只是帮他定位到了位置。
Agentic方案:分析师输入"把XX公司近三年年报里的营收、净利润、毛利率提取出来做成对比表"。Agent接到目标后,自己规划:第一步找到三份年报文件,第二步分别解析PDF提取财务章节,第三步从财务章节里定位到三个指标,第四步做单位统一和币种换算,第五步生成对比表。中间如果某份年报的格式不一样,Agent还要自己调整解析策略。
后者的价值密度明显更高。但实现难度也高得多——它要求Agent具备文件解析、指标定位、数据清洗、格式转换等多种能力,还要能处理各种异常情况。
3. 构建金融级Agentic AI的技术栈拆解
3.1 为什么是FastAPI + LangChain + LangGraph + RAG + pgvector这套组合
这套技术栈在开源社区里出现频率很高,不是偶然。它对应的是Agentic AI的五个核心需求:服务化、能力编排、状态管理、知识注入、向量存储。
FastAPI负责把Agent能力暴露成标准API。金融系统基本都是微服务架构,Agent要能被其他系统调用,必须有个稳定的HTTP接口层。FastAPI的异步特性和自动文档生成,在快速迭代阶段特别省事。
LangChain提供的是工具调用和提示词编排的抽象。Agent要调用外部工具(查数据库、调API、读文件),LangChain把这些工具统一成标准接口,Agent只需要描述"我要干什么",不用关心底层怎么调。
LangGraph是这套栈里最关键的一环,它解决的是Agent的状态管理和流程控制。传统LangChain的Chain是无状态的线性流程,而LangGraph把Agent建模成一张状态图,每个节点是一个处理步骤,边是状态转移条件。这让Agent可以循环、可以分支、可以在中途暂停等待人工介入。金融场景里"人在回路"的审批需求,用LangGraph实现起来很自然。
RAG负责给Agent注入领域知识。金融业务的专业性极强,通用大模型不懂内部的信贷政策、不懂特定的合规要求,必须通过检索增强把机构自己的知识喂进去。
pgvector是向量存储的选择。金融数据敏感,很多机构不允许把数据放到外部向量数据库服务上,pgvector作为PostgreSQL的扩展,可以跟业务数据放在同一个受控的数据库实例里,合规上更容易过审。
3.2 LangGraph的状态图设计要点
用LangGraph构建金融Agent,状态设计是核心。我一般会把状态分成三类字段:
- 任务上下文:用户目标、任务ID、创建时间、优先级
- 执行轨迹:已完成的步骤、每步的输入输出、当前所在节点
- 中间产物:检索到的文档、工具调用结果、生成的草稿
状态字段的设计直接决定了Agent能做什么。比如如果状态里没有"人工审核意见"这个字段,那Agent就没法在人工介入后继续执行。金融场景里人工介入是常态,这个字段必须预留。
from typing import TypedDict, Annotated from langgraph.graph import StateGraph, END import operator class FinanceAgentState(TypedDict): task_id: str user_goal: str retrieved_docs: list tool_results: Annotated[list, operator.add] draft_output: str human_review: str current_step: str error_log: list上面这个状态定义里,tool_results用了operator.add作为累加器,意味着每次工具调用结果都会追加到列表里,而不是覆盖。这在多步任务里很重要,Agent需要看到完整的历史。
3.3 工具层的设计:金融Agent能调用什么
Agent的能力边界由它能调用的工具决定。金融场景里,我通常会设计这几类工具:
| 工具类别 | 具体工具 | 用途 |
|---|---|---|
| 数据查询 | 征信查询、工商信息、财务数据库 | 获取结构化数据 |
| 文档处理 | PDF解析、表格提取、OCR | 处理非结构化材料 |
| 计算分析 | 财务比率计算、风险评分模型 | 执行专业计算 |
| 知识检索 | 内部制度库、法规库、案例库 | RAG检索 |
| 输出生成 | 报告模板填充、表格生成 | 产出交付物 |
每个工具都要有清晰的输入输出schema,Agent才能正确调用。这里有个经验:工具的描述文字要写得像给新人看的操作手册,把"什么时候用这个工具""输入什么格式""返回什么"都说清楚。大模型判断该调哪个工具,全靠这段描述。
4. 金融Agentic AI落地中最容易踩的五个坑
4.1 坑一:把Agent当成万能问答机
最常见的误区是,业务方看到Agent能自主执行任务,就恨不得把所有需求都塞给它。结果Agent被赋予了太多工具、太多职责,反而哪个都做不好。
我见过一个项目,Agent被要求同时处理"查征信""算额度""生成合同""回答客户咨询"四类任务。上线后问题频出:查征信的时候误调了合同生成工具,回答咨询的时候又去查了征信。根因是工具太多,Agent的规划能力被稀释了。
正确的做法是按业务场景拆分Agent。一个Agent只负责一类任务,工具集控制在5-8个以内。需要跨场景协作时,用多个Agent通过消息传递来配合,而不是让一个Agent包打天下。
4.2 坑二:忽视金融数据的时效性
RAG的向量库是有更新周期的。如果Agent依赖的知识库一周才更新一次,那它给出的答案可能已经过时了。金融场景里,监管政策、利率、产品规则都可能随时变化,时效性问题特别致命。
解决方案是分层知识管理:把变化频率低的基础知识(如会计准则)放在向量库里,把变化频率高的业务规则(如当前利率、最新政策)放在实时查询的数据库里,Agent执行时优先查实时数据。LangGraph里可以用条件边来实现这个逻辑——先判断任务是否涉及时效性数据,是则走实时查询分支,否则走向量检索分支。
4.3 坑三:人工介入点设计得太粗
金融业务必须有人工审核环节,但"人工介入"设计得好不好,直接决定Agent的实用性。我见过两种极端:
一种是全程无介入,Agent跑完直接出结果。这在金融场景基本不可行,合规过不了。
另一种是每步都介入,Agent每执行一步就停下来等人确认。结果比人工做还慢,完全失去了自动化的意义。
合理的做法是在关键决策点介入。比如信贷审批Agent,在"风险评估结论"这一步必须人工确认,但前面的"资料收集""数据提取"可以全自动。用LangGraph的interrupt机制,可以在指定节点暂停,等人工输入后继续。
4.4 坑四:向量检索的召回质量不过关
RAG的效果上限由检索质量决定。金融文档有个特点:专业术语多、表述严谨、相似段落多。用通用的embedding模型,经常出现"检索到了相关文档但没检索到关键文档"的情况。
我的经验是混合检索:向量检索加关键词检索,两路结果做融合。金融文档里的关键信息往往包含特定的术语或数字,关键词检索能补上向量检索的短板。pgvector本身支持向量检索,配合PostgreSQL的全文检索功能,可以在一套数据库里实现混合检索。
另外,chunk策略要针对金融文档定制。不能简单地按固定长度切分,要按文档的逻辑结构切——财务报表按表格切、合同按条款切、研报按章节切。切分粒度太粗会引入噪声,太细会丢失上下文。
4.5 坑五:没有可观测性,出了问题无从排查
Agent执行是多步的、有状态的,一旦出错,排查难度远高于传统系统。如果没有完善的日志和追踪,你根本不知道Agent在哪一步走偏了。
必须从一开始就建立全链路追踪。每次Agent执行生成一个trace_id,每个节点的输入输出、工具调用参数和结果、状态变化都记录下来。LangGraph配合LangSmith或者自建的追踪系统,可以做到这一点。金融场景还要求审计留痕,这套追踪数据本身就是合规资产。
注意:追踪日志里可能包含敏感数据,存储和访问都要做脱敏和权限控制,别为了排查方便把合规底线丢了。
5. 从报告到落地:金融Agentic AI的推进节奏建议
5.1 先做窄场景的端到端闭环
不要一上来就搞大而全的Agent平台。选一个边界清晰、价值可量化、风险可控的窄场景,把它做成端到端的闭环。什么叫端到端?就是从用户输入目标到产出最终交付物,全程由Agent完成,中间不需要人工搬运数据。
适合起步的场景有:单证识别与信息提取、研报摘要生成、合规检查清单生成。这些场景的共同点是输入输出明确、评判标准清晰、出错代价可控。
5.2 用"影子模式"积累信任
Agent上线初期,建议用影子模式:Agent正常执行,但结果不直接采用,而是和人工结果做对比。运行一段时间后,统计Agent的准确率和人工修正率。当准确率稳定在可接受水平以上,再逐步放开权限。
这个模式的好处是,既积累了真实场景的运行数据,又不会因为Agent出错造成业务损失。而且对比数据本身就是优化Agent的宝贵素材——人工修正的地方,就是Agent需要改进的地方。
5.3 把人工反馈变成训练信号
金融Agent的优化不能只靠调提示词。要把人工审核时的修改、驳回、批注都收集起来,作为反馈信号。这些信号可以用来做几件事:优化检索策略(哪些文档该被检索到却没检索到)、优化工具选择(Agent选错工具的场景)、优化输出格式(人工经常修改的格式问题)。
LangGraph的状态里预留human_review字段,就是为了捕获这些反馈。长期来看,这些反馈数据是机构自己的护城河——通用大模型谁都能用,但基于自己业务反馈优化出来的Agent,是别人抄不走的。
5.4 组织层面的准备比技术更重要
最后说个容易被忽视的点:Agentic AI落地,技术只是一半,组织适配是另一半。传统金融机构的岗位是按流程环节划分的,Agent把多个环节串起来之后,岗位职责需要重新定义。原来负责数据搬运的岗位,可能要转型成Agent的监督者和异常处理者。
这个转型如果处理不好,会遭遇来自内部的阻力。我的建议是,在项目早期就让业务骨干参与进来,让他们成为Agent的"教练"而不是"被替代者"。他们最懂业务细节,能帮Agent发现那些技术团队想不到的边界情况。而且当他们参与到Agent的构建中,对Agent的接受度会高很多。
英伟达报告里那89%的机构,我猜大部分在组织适配上都做了不少工作。技术方案可以复制,但组织能力不行。这可能是Agentic AI在金融行业真正拉开差距的地方。
我个人在实际项目里的体会是,金融Agentic AI最难的从来不是技术选型,而是边界感的把握。Agent该自主到什么程度、人工该介入到什么程度、哪些数据能碰哪些不能碰,这些问题的答案不在技术文档里,在业务和合规的交叉地带。技术团队如果只盯着模型和框架,很容易做出一个技术上很漂亮但业务上不敢用的东西。反过来,如果一开始就把合规、业务、技术三方拉到一张桌子上,把边界先划清楚,后面的技术实现反而顺畅得多。这个顺序,比用什么框架重要得多。