大模型技术之-LangChain框架-03-LangSmith的使用
2026/8/9 14:55:40 网站建设 项目流程

1、LangSmith概述

1.1 什么是LangSmith?

LangSmith 是 LangChain 生态系统中专门用于 LLM(大语言模型)应用调试、监控、评估和管理的平台。

  • 🔍 追踪(tracing):记录每次 LLM 调用的详细信息
  • 📊 监控(monitoring):实时查看应用性能
  • 🐛 调试(debug):排查问题和优化性能
  • 📈 评估(evaluate):系统化测试 LLM 应用

主界面:

1.2 具体功能

功能1:核心应用与开发

1、Tracing(追踪)

  • 功能:这是 LangSmith 最核心的功能。它会完整记录你大模型应用的每一次调用链路(Trace)。
  • 作用:当你的 Agent(智能体)或 RAG 系统运行变慢或报错时,点击进入对应的项目(如上图中的langchain1.2_smith),你可以看到每一步具体的 Prompt 是什么、模型返回了什么、消耗了多少 Token,以及每一个链条节点的耗时,非常方便排查 Bug 和优化性能。

2、Monitoring(监控)

  • 功能:提供生产环境的高级数据可视化看板。
  • 作用:帮你从宏观角度监控应用在一段时间内的运行状况。你可以看到 Token 消耗趋势、QPS(每秒请求数)、错误率、平均延迟(Latency)以及成本预估。适合应用上线后观察系统的稳定性和开销。

3、Datasets & Experiments(数据集与实验)

  • 功能:用于管理测试数据集并运行对比实验。
  • 作用:你可以把用户的真实输入、特定的边界情况(Edge Cases)存为数据集。当你修改了 Prompt 或更换了底层大模型时,可以在这里运行自动化对比测试,直观看到新旧版本在同一批测试集上的表现差异。

4、Evaluators(评估器)

  • 功能:配置和自动化评估任务。
  • 作用:大模型的输出往往难以用传统的断言(Assert)来测试。这里允许你配置基于规则(如关键词匹配)或基于模型(LLM-as-a-judge)的评估指标(如:答案相关性、是否包含幻觉等),对追踪到的数据或实验结果进行自动打分。

5、Annotation Queues(标注队列)

  • 功能:人工反馈与数据清洗工具。
  • 作用:在应用开发或初上线阶段,你可以把一部分痕迹(Traces)发送到标注队列中,让团队中的核心成员、业务专家或人工客服进行手动打分、纠正回答或贴标签,这些高质量的人工标注数据后续可直接用于微调模型或充当测试集。
功能2:提示词与调试工具

1、Prompts(提示词管理)

  • 功能:类似“提示词版的 GitHub”。
  • 作用:把 Prompt 从代码中解耦出来,统一在云端管理。你可以在这里对 Prompt 进行版本控制(如 v1、v2),直接在代码中通过 API 动态拉取最新的提示词。它还支持团队协作和 Prompt 的分享。

2、Playground(演练场)

  • 功能:一个网页端的模型交互界面。
  • 作用:无需写任何代码,直接在这里选择不同的模型(如 OpenAI、Anthropic 或是本地模型),快速微调并测试你的 Prompt 效果,还可以一键将调整好的 Prompt 保存到上方的 Prompts 仓库中。

3、Studio(工作室)

  • 功能:通常与 LangGraph 深度集成,提供可视化的图形交互界面。
  • 作用:如果你的应用是基于图结构(Graph-based)的复杂复杂 Agent 架构,Studio 可以让你可视化地看到状态机(State)在各个节点之间的流转,甚至支持在某个节点“暂停”,手动修改数据后再继续向下执行,是调试复杂智能体交互的利器。

4、Context Hub(上下文中心)

  • 功能:管理全局上下文或通用组件配置。
  • 作用:用于存放可在多个项目或 Prompt 中复用的公共上下文模板、全局变量或系统预设提示。
功能3:部署与沙盒

1、Deployments(部署)

  • 功能:一键将你的 LangChain 应用或 LangGraph Agent 部署为线上可用的 API 服务(通常依托于 LangGraph Cloud)。
  • 作用:提供开箱即用的生产端点,帮你处理高并发、队列管理和状态持久化,让你专注于编写业务逻辑。

2、Sandboxes(沙盒)

  • 功能:提供轻量级的在线运行和测试环境。
  • 作用:在不污染生产环境的前提下,供开发人员安全地试运行、测试新部署的 Agent 或执行自动化脚本。

建议:现阶段大家可以重点关注 Tracing(观察你的项目里的调用细节)和 Playground(快速调优提示词)。当你的应用结构开始走向复杂(比如引入了复杂的 RAG 检索或多 Agent 协同)时,再逐步引入 Datasets 进行量化评估,并利用 Studio 进行可视化调试。

2、准备账号

2.1 注册或登录

步骤1:访问官网

访问 LangSmith 官网:https://smith.langchain.com/

步骤2:自由选择注册或登录方式

步骤3:登录成功

2.2 获取API_KEY

步骤1:打开设置

步骤2:创建API_KEY

步骤3:保存KEY

注意:点击copy将 API_KEY 保存到剪贴板并关闭弹窗,API_KEY 只在上述窗口出现一次,关闭弹窗后回到设置页面,此后就无法在官网查看 API_KEY 的内容了,请妥善保存。

步骤4(可选):按需删除

如果需要删除 KEY,点击右侧图标即可。


2.3 新增环境变量

.env配置文件中,添加四个环境变量:

# 是否启用Langsmith监控功能LANGSMITH_TRACING=true# Langsmith监控WebUI地址LANGSMITH_ENDPOINT=https://api.smith.LangChain.com# 创建的API_KEYLANGSMITH_API_KEY=<YOUR_API_KEY># 自定义项目名称,可以在Langsmith WebUI监控页面根据名称查看对应的运行记录LANGSMITH_PROJECT="pr-clear-harmony-32"

3、查看监控指标

添加上述环境变量后,在程序中通过load_dotenv()加载,而后运行 LangChain 代码,LangSmith 会自动记录运行指标,并同步至后台服务,我们可以在 LangSmith 官网查看运行记录。

步骤1:运行任意LangChain程序

举例1:

importosfromdotenvimportload_dotenvfromlangchain_deepseekimportChatDeepSeek# 将env文件中的变量加载为环境变量#override=True:表示.env优先load_dotenv(override=True)DEEPSEEK_API_KEY=os.getenv("DEEPSEEK_API_KEY")DEEPSEEK_BASE_URL=os.getenv("DEEPSEEK_BASE_URL")model=ChatDeepSeek(api_key=DEEPSEEK_API_KEY,api_base=DEEPSEEK_BASE_URL,model_name="deepseek-v4-flash")print(model.invoke("你好"))

举例2:

fromlangchain.chat_modelsimportinit_chat_modelfromdotenvimportload_dotenvimportos load_dotenv(override=True)CLOSEAI_API_KEY=os.getenv("CLOSEAI_API_KEY")CLOSEAI_BASE_URL=os.getenv("CLOSEAI_BASE_URL")model=init_chat_model(model="deepseek-v4-flash",model_provider="openai",api_key=CLOSEAI_API_KEY,base_url=CLOSEAI_BASE_URL)print(model.invoke("你好,用一句话回答"))

举例3:

fromlangchain.chat_modelsimportinit_chat_modelfromdotenvimportload_dotenvimportosfromrichimportprintasrprint# 从.env文件中加载环境变量load_dotenv(override=True)DEEPSEEK_API_KEY=os.getenv("DEEPSEEK_API_KEY")DEEPSEEK_BASE_URL=os.getenv("DEEPSEEK_BASE_URL")# 1. 初始化模型model=init_chat_model(model="deepseek-v4-flash",model_provider="deepseek",api_key=DEEPSEEK_API_KEY,base_url=DEEPSEEK_BASE_URL,temperature=0.2,max_tokens=500,# 指定可调整参数configurable_fields=("model","model_provider","temperature","max_tokens"),)# 2. 准备 config 字典config={"run_name":"joke_generation",# 在LangSmith中这次运行会显示为"joke_generation""tags":["my_tag1","my_tag2"],# 打上标签便于分类查找"metadata":{"user_id":"shkstart",# 记录用户ID"session_id":"sess_123"# 记录会话ID},"configurable":{"model":"deepseek-v4-pro",# 配置模型参数"model_provider":"openai",# 配置模型提供商参数"temperature":0.7,# 配置温度参数"max_tokens":1000# 配置最大令牌数}}# 3. 调用模型并传入configresponse=model.invoke("1 + 2 = ?",config=config)rprint(response)

步骤2:打开监控界面

此时在 LangSmith 官方 WebUI 的 Tracing 界面下,可以看到按照LANGSMITH_PROJECT命名的项目。

步骤3:查看运行指标

点击条目任意位置可以进入详情页面。

此处列出了详细的运行指标,点击某次运行记录,可以查看更详细的信息,自行探索。

步骤4:查看运行报表

此处提供了大量指标的报表。

点击上述标签或下滑页面可以切换指标。

自行探索。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询