Hermes WebUI 模型切换:5 步配好第一个模型,会话历史不丢
【免费下载链接】hermes-webuiHermes WebUI: The best way to use Hermes Agent from the web or from your phone!项目地址: https://gitcode.com/GitHub_Trending/he/hermes-webui
第一次打开 Hermes WebUI,模型下拉框里可能只有一个默认模型,想加个本地 Ollama 又不知道该填什么。说白了,模型管理这件事就三块:配好提供商、选对模型、会话里随时换。下面按你实际会撞上的场景讲。
5 步走通最短配置路径
第一步,跑python3 bootstrap.py,等它把浏览器带进设置向导。第二步,选提供商分组:OpenRouter、Anthropic、OpenAI 属于快速开始组,填 API key 和模型就够;Ollama、LM Studio 走自托管组,要填 Base URL。第三步,本地服务点一下 Test connection,向导会探测<base-url>/models,成功后模型下拉框自动填好。第四步,选一个 workspace,可选设密码。第五步,开一个新会话,能收到回复就成了。
以后再加提供商不用重跑向导:进 Settings → Providers 直接增改,每个提供商会显示模型数量和配置状态。
最短路径解决的是云端提供商。很多人更想接自己的本地模型,那就要盯住 Base URL 这一项。
配置本地模型端点的 Base URL
本地模型服务器指什么?就是跑在你自己机器上、提供 OpenAI 兼容接口的程序,比如 LM Studio 和 Ollama。Base URL 要指向它的 API 根路径,注意结尾的/v1:
http://127.0.0.1:1234/v1 # LM Studio,同主机 http://127.0.0.1:11434/v1 # Ollama,同主机 http://host.docker.internal:1234/v1 # WebUI 在 Docker,LM Studio 在宿主机本地服务大多不需要 API key,留空就行。填完点 Test connection,探测失败会直接拦住你,并给出 DNS 失败、connection refused、超时这类具体原因。端点配通了,下一个高频操作就是中途换模型。
在会话里切换模型不丢历史
模型选择器就在输入框底部,按提供商分组,列出的是已配置 key 的提供商的模型。切模型两种方式:点开下拉框选,或者输入/model 模型名走自动补全。切换只影响后面的回复,之前的对话历史原样保留,不用重开会话。输入框底部的环形指示器也会按新模型重新算 token 用量和成本。
如果你同时开好几个项目,每次回来都要换模型、换 key,就累人了。
用 Profile 隔离多项目模型配置
一个项目一套模型和 key、不想互相污染,就用 Profile。composer 底部的 profile 芯片点开就能切换,切换是无缝的:不重启服务,配置、技能、记忆、定时任务、模型列表全部重新加载。新建 profile 时还能直接填自定义 Base URL 和 API key,写进这个 profile 自己的 config.yaml 里,Ollama、LM Studio 这类本地端点不用手改文件。
这些操作看着简单,坑都出在细节上。
排查模型配置的高频坑
- Docker 里填
localhost连不通 → 容器内的 localhost 指容器自己,不是你的宿主机 ⚠️ → Docker Desktop 改用host.docker.internal,Linux 上给 compose 加 host-gateway 别名 - 测试连接报 connection refused → 端口或
/v1拼错 → 对照上面的 Base URL 表核对 /model补全里没有想要的模型 → 下拉框只收已配置 key 的提供商 → 回 Settings → Providers 先把 key 配上- 换了 profile 模型没变 → 新 profile 读的是自己的 config.yaml 和 .env → 确认 key 和默认模型写进了新 profile
拿不准的报错,去翻 故障排查文档,里面按AIAgent not available这类症状分好了类。
你现在可以做的三件事
打开 Settings → Providers,把缺 key 的提供商补上,逐个 Test connection 验证。本地跑 LM Studio 的话,把 Base URL 改成http://127.0.0.1:1234/v1再探测一次。想固定默认模型,启动时带上环境变量即可,细节参考 配置文档:
HERMES_WEBUI_DEFAULT_MODEL=你的模型名 ./start.sh【免费下载链接】hermes-webuiHermes WebUI: The best way to use Hermes Agent from the web or from your phone!项目地址: https://gitcode.com/GitHub_Trending/he/hermes-webui
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考