企业官网建设流程全解析

在 RAG、向量检索、Agent 这类 AI 技术场景中，置信度（Confidence Score）是衡量检索结果与用户问题的匹配程度，或模型决策可靠性的量化指标，取值范围通常是[0,1]或[0,100]（百分比）。

简单说，置信度越高，代表 “检索到的内容和问题越相关” 或 “模型给出的答案越靠谱”；置信度越低，代表匹配度差、结果可能无效。

一、 置信度在 RAG 中的核心应用场景

1. 向量检索阶段的置信度（最常用）

当你用用户问题的向量，在 Milvus/Chroma 等向量库中做相似度检索时，向量数据库会计算问题向量与库中数据向量的距离，并将距离转化为置信度：

• 常用距离指标：余弦相似度（Cosine Similarity）、欧氏距离（L2 Distance）、点积（Dot Product）。
• 转化逻辑：
  • 余弦相似度的取值范围是[-1,1]，越接近1代表向量越相似 → 置信度越高；
  • 欧氏距离的数值越小，代表向量越接近 → 置信度越高（需做归一化转换为[0,1]）。

举个例子：用户问题是Spark 宽依赖和窄依赖的区别，向量库返回 3 个结果：

2. Agent 决策阶段的置信度

在 RAG+Agent 架构中，Agent 会根据检索结果的置信度，判断是否需要补充检索或直接生成答案：

• 高置信度（如 ≥0.7）：直接用检索结果生成答案，无需额外操作；
• 中置信度（如 0.4~0.7）：补充检索（比如调整检索词、扩大检索范围），再整合结果；
• 低置信度（如 ≤0.4）：告知用户 “暂无足够相关信息回答该问题”，避免大模型编造内容（幻觉）。

二、 置信度的实用价值

1. 过滤噪音结果：设置置信度阈值（如0.6），只保留阈值以上的检索结果，避免无关信息干扰大模型生成答案；
2. 优化 Agent 逻辑：让 Agent 具备 “判断能力”，不再盲目使用检索结果；
3. 提升 RAG 可靠性：降低因低相关数据导致的答案错误率，减少幻觉。

三、 实操：在 Milvus 中获取并使用置信度

在 Milvus 检索时，可以直接返回每个结果的相似度（即置信度），示例代码片段：

from pymilvus import Collection # 假设已创建并加载 tech_docs 表 collection = Collection("tech_docs") collection.load() # 1. 把用户问题转为向量（这里用 embeddings 模型生成） query_vector = embeddings.embed_query("Spark 宽依赖和窄依赖的区别") # 2. 检索并获取置信度（相似度） search_params = { "metric_type": "COSINE", # 用余弦相似度计算 "params": {"nprobe": 10} } # output_fields 指定返回 content 和 source，_distance 是 Milvus 自动返回的相似度 results = collection.search( data=[query_vector], anns_field="embedding", param=search_params, limit=2, output_fields=["content", "source"], expr=None ) # 3. 解析结果和置信度 for hit in results[0]: print(f"内容：{hit.entity.get('content')}") print(f"来源：{hit.entity.get('source')}") print(f"置信度（余弦相似度）：{1 - hit.distance}") # 余弦距离转相似度 print("---")

关键注意点

• 置信度的阈值不是固定的，需要根据你的数据类型和业务场景调整（比如技术文档的阈值可以设为 0.6，通用文档设为 0.5）；
• 不同向量数据库的置信度计算方式略有差异，需结合具体数据库的 metric 配置。