FastGPT提示词调优实战:3步修正AI回答翻车
【免费下载链接】FastGPTFastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.项目地址: https://gitcode.com/GitHub_Trending/fa/FastGPT
上周同事把一个用 FastGPT 搭的内部问答应用拿给我看。问"请假单怎么填",AI 先甩出四百字 Markdown,把整篇制度文档复述了一遍,前一百字和答案无关。旁边的翻译应用更糟:"让你的猫头鹰给我写信"被直译成"让你那只猫头鹰写信给我",对方完全看不懂。
模型没换,知识库没动,问题出在提示词上。下面按"能用 → 好用 → 稳定"三步来修。
第一步:能用——先找对改提示词的位置
改之前先搞清楚在哪改。FastGPT 里系统提示词有三个生效位置,由近到远:
- 📍AI 对话节点:工作流编辑器里点开 AI 对话节点的模型配置,在 AI 配置弹窗中写角色、任务要求和输出限制。大部分情况改这里就够了,参数含义见 AI 参数配置说明。
- 📍应用级:应用编辑页的 AI 配置区域,作用于整个应用的默认对话行为。
- 📍模型级:自部署环境下,在模型配置文件 config.json 里设置
defaultSystemChatPrompt,作为该模型对话时默认携带的系统提示词;分类、内容提取也有各自独立的自定义字段,适合统一管一批模型。说明见 模型配置。
优先级上,节点级提示词最贴近具体任务,先改它,别一上来就动配置文件。
第二步:好用——两个最小改动
知识库回答啰嗦的快速修法。默认模板会要求模型按 Markdown 展开输出,回答自然变长。最快的修法是把格式要求去掉,补一句约束:"只回答用户问题,依据文档内容,不展开、不补充文档以外的信息。"配合合理的分块大小,回答长度通常能砍掉一大半。
直译翻车的修法:翻译两次,不是一次。模型不是不会译,是一次译完就交卷了。在工作流里拆成两个 AI 对话节点:第一个节点直译出初稿,第二个节点的提示词只写"检查初稿,指出误译,输出定稿",并要求只输出定稿,前面的思考过程不展示。节点之间用变量把初稿传过去——在提示词编辑器里输入/就能直接选上游变量,不用手敲变量路径,具体可看 AI 对话节点文档。
# 角色:资深翻译 # 任务:校审初稿,修正误译与不通顺处 # 输出:仅第四轮定稿译文改提示词时别追求一次写完。每次只加一条约束,改完跑两句典型问题,确认没把别的改坏再继续。
第三步:稳定——别凭感觉验收
"感觉变好了"不算验收。FastGPT v4.11 起自带 应用评测功能:下载 CSV 模板,填上 q(问题)和 a(标准答案),上传后系统会逐条跑应用并用评测模型打分。把改前、改后的提示词各跑一次,对比每条问答的应用输出和得分,哪条约束起了作用、哪条反而拖累效果,一目了然。
这是提示词调优的闭环:改一处,评测一轮,再改下一处。
收尾建议
从最痛的那个问题改起——啰嗦就删格式要求,直译就加一轮校审,别整篇重写。客服、问答类场景把温度调低保稳定,写作类再调高。跑通一轮评测后,把这份提示词存成模板,下一个应用直接复用。
【免费下载链接】FastGPTFastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.项目地址: https://gitcode.com/GitHub_Trending/fa/FastGPT
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考