企业官网建设流程全解析

摘要：大家经常把RAG简化成"文档→向量库→检索→生成"四步走，一被面试官追问细节就露怯。这篇我们将拆解分块、检索融合、Reranker、评估四个环节里真正决定回答质量的工程取舍。

当面试官问"讲讲RAG的整体设计"，十个候选人有八个会背出"文档处理→分块→Embedding→检索→生成"这套流程，虽然流程背的滚瓜烂熟，但只要一杯追问一句"chunk_size为什么设512不是1024"“为什么不直接把向量分数和BM25分数加起来”，很多人就开始支支吾吾，答不上来。RAG是大模型工程师面试中的第一高频题，但面试官真正想验证的从来不是"你知不知道这个流程"，而是"每一步为什么这么选，权衡利弊的点是什么"。这篇我们挑四个最容易被问到的环节，讲清楚整个背后的取舍逻辑。

一、分块策略：chunk大小不是越大越好，是两种代价的博弈

很多人对分块的理解停留在"把文档切成小段存进去"，遇到追问"chunk_size怎么定"就只能说"网上都用512"。真正的答案是：chunk太大，当在一块里混进了多个话题，检索时会带出很多无关内容，模型容易被干扰；chunk太小，单块信息不完整，模型缺乏必要背景，反而需要拼凑很多块才能回答完整。

工程上通常给出的经验范围是256-1024 token，选择依据是"回答一个典型问题平均需要多少上下文"——事实性问答（答案就在一两句话里）用256 token够了，需要理解一段完整论述（比如合同条款）就要512-1024 token。overlap（重叠窗口）一般设为chunk_size的10%-20%，作用是防止一个完整语义正好卡在两个块的边界上被切断。

更进阶的做法是层次化分块：“小chunk用于检索，大chunk用于生成”——检索时用256 token的小块做精准匹配，命中后再扩展到它所在的512-1024 token大段送给模型，兼顾了检索精度和生成时的上下文完整性。面试官当然想听到的不仅仅是一个固定的数字，而是你知道这个数字是根据什么权衡出来的。

二、混合检索：两路分数不能直接相加，这是个常见的低级错误

大家普遍都知道"向量检索理解语义、BM25擅长关键词精确匹配，两个要混合用"，但一问"具体怎么融合两路结果的分数"，很多人会说"把两个分数加起来就行"。这个答案在生产环境里是必然要出问题的：向量相似度通常在0-1范围，BM25分数可能在0-20甚至更高的范围，直接相加，BM25会完全主导排序结果，向量检索的语义信号被淹没。

工程上更稳妥的做法是RRF（Reciprocal Rank Fusion，倒数排名融合）：不看两路检索各自的分数，只看排名——文档在每一路结果里排第几名，取"1/(k+排名)"累加，k通常取60。这样规避了两个分数量纲不一致的问题，也不需要额外调参，是实践中最常用的融合方式。如果两路分数都经过归一化，也可以用加权线性融合（α×向量分数+(1-α)×BM25分数），但α需要在验证集上调，比RRF多一层调参成本。

面试官问混合检索，考的不是"知不知道两种检索方式互补"，而是"知不知道两路结果怎么融合才不出错"。

三、Reranker：为什么不直接用更准的模型做全量检索

Reranker（重排序）这道题经常被问出一个陷阱："Cross-Encoder精度比Bi-Encoder高，为什么不直接用它做检索？"如果答不出这个问题背后的计算量差异，说明没有真正理解两阶段检索的设计动机。

Bi-Encoder（向量检索用的Embedding模型）把Query和文档各自独立编码成向量，文档向量可以提前离线算好，检索时只需要算一次Query向量，速度是毫秒级的——但因为Query和文档是独立编码的，模型没法捕捉两者之间细粒度的交互关系，精度有上限。Cross-Encoder把Query和候选文档拼在一起送进模型，能捕捉到这种交互，精度明显更高，但代价是文档向量没法提前算好——如果文档库有100万篇，每次查询都要对100万篇各做一次完整的前向计算，这在工程上完全不可行。

所以生产系统的做法是两阶段：先用Bi-Encoder从百万级文档里快速筛出Top-100候选（毫秒级），再用Cross-Encoder对这100篇做精排（100-300ms），取Top-5送给模型生成。这个组合在实践中通常能把答案相关性提升10-20个百分点，代价是多了100-300ms延迟。回答这道题的关键，是讲清楚"为什么不能只用一个"，而不是分别介绍两个模型是什么。

四、评估RAG系统：Faithfulness和Answer Relevance是两件事，很多人会混着说

RAG系统上线前怎么证明它"好"，是面试官越来越爱问的题，因为这体现候选人有没有真正跑过完整的迭代闭环。这里最容易被问穿的地方，是分不清Faithfulness（忠实性）和Answer Relevance（答案相关性）——这两个指标听起来像一回事，实际评的是完全不同的维度。

Faithfulness问的是"回答有没有超出检索文档去编造内容"，评估方式是把生成的答案拆成一条条"声明"，逐条判断能不能在检索到的文档里找到依据；Answer Relevance问的是"回答有没有切题"，评估方式是让模型根据答案反推"这个答案在回答什么问题"，再看反推出的问题和用户原始问题的语义相似度。

两者可以互相独立地出问题：一个回答完全基于检索文档、没有编造（高Faithfulness），但答非所问（低Answer Relevance）；反过来，一个回答很切题（高Answer Relevance），但里面掺了检索文档之外的内容（低Faithfulness）。业界常用RAGAS这类框架，用强模型自动打这两个分，不需要每次人工标注。答这道题时，把两个指标各自的评估方式和一个能区分开两者的例子讲清楚，比单纯报出指标名字更有说服力。

学AI大模型的正确顺序，千万不要搞错了

🤔2026年AI风口已来！各行各业的AI渗透肉眼可见，超多公司要么转型做AI相关产品，要么高薪挖AI技术人才，机遇直接摆在眼前！

有往AI方向发展，或者本身有后端编程基础的朋友，直接冲AI大模型应用开发转岗超合适！

就算暂时不打算转岗，了解大模型、RAG、Prompt、Agent这些热门概念，能上手做简单项目，也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料，手把手帮你快速入门！👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型（GPT、文心一言等）特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架（LangChain等）实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块，看似清晰好上手，实则每个部分都有扎实的核心内容需要吃透！

我把大模型的学习全流程已经整理📚好了！抓住AI时代风口，轻松解锁职业新可能，希望大家都能把握机遇，实现薪资/职业跃迁～

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】