Continue 如何通过 apiBase 配置连接远程 Ollama 实例?
【免费下载链接】continueopen-source coding agent项目地址: https://gitcode.com/GitHub_Trending/co/continue
Continue 默认连接本机的 Ollama(http://localhost:11434)。当 Ollama 部署在另一台机器上——例如一台有 GPU 的远程服务器,而你的 IDE 在开发机上——就需要在 Continue 的config.yaml中用apiBase指向远程实例的 IP 和端口。完成本场景后,Continue 的 chat/edit 等模型调用会全部走远程 Ollama。以下内容来自 Continue 项目文档:Ollama provider 配置、Ollama 使用指南 和 FAQ 中的 Ollama 问题。
前提条件
远程机器上已安装并运行 Ollama,且已用
ollama pull拉取了你要使用的精确模型标签,例如:# 在远程 Ollama 服务器上执行 ollama pull qwen2.5-coder:7b ollama list # 确认模型已存在,记下完整名称Continue 配置中的
model必须与ollama list显示的内容完全一致。模型未安装时 Ollama 会返回404 model "..." not found, try pulling it first。客户端机器上已安装 Continue 扩展。
让远程 Ollama 监听所有接口
这一步是连接失败最常见的原因。文档指出:Ollama 需要显式配置才能从其他机器访问。
设置环境变量OLLAMA_HOST=0.0.0.0:11434后再启动ollama serve。如果 Ollama 以 systemd 服务运行(Linux),编辑/etc/systemd/system/ollama.service,在[Service]段下添加:
Environment="OLLAMA_HOST=0.0.0.0:11434" Environment="OLLAMA_ORIGINS=*"然后重启服务:sudo systemctl restart ollama。该命令需要 root 权限,执行期间 Ollama 服务会短暂中断。
如果远程实例同时需要防火墙放行,请确认服务器侧 11434 端口未被关闭。
在 Continue 中配置 apiBase
修改 Continue 的 YAML 配置文件(如~/.continue/configs/config.yaml),为模型项添加apiBase,指向远程机器的 IP:
name: My Config version: 0.0.1 schema: v1 models: - name: llama3 provider: ollama model: llama3:latest apiBase: http://192.168.1.136:11434 # 替换为远程 Ollama 服务器的实际 IP文档说明:对于局域网内的本地网络地址,apiBase使用http://而不是https://(在 FAQ 的远程 Ollama 排查项中明确要求检查这一点)。
如果模型能力(工具调用、图像输入)没有被自动识别,可以在同一模型项中显式声明,参考 Ollama provider 文档:
models: - name: <CUSTOM_MODEL_NAME> provider: ollama model: <CUSTOM_MODEL_ID> apiBase: http://192.168.1.136:11434 capabilities: - tool_use # 模型支持 function calling 时启用 - image_input # 视觉模型启用其中<CUSTOM_MODEL_NAME>和<CUSTOM_MODEL_ID>需替换为你自己指定的显示名称与ollama list中的实际模型名。
特殊部署形态的 apiBase 取值(可选分支)
如果你的 Continue 不在裸机上,FAQ 给出了对应的apiBase写法:
- Continue 运行在 Docker 容器内,Ollama 在宿主机(Windows/Mac):
apiBase: http://host.docker.internal:11434,并在docker run时附加--add-host=host.docker.internal:host-gateway。 - 容器内连接 Linux 宿主机的 Ollama:
apiBase: http://172.17.0.1:11434(Docker 网桥 IP,文档标注通常为该值)。 - Continue 在 WSL 中,Ollama 在 Windows 宿主机:Windows 11 22H2+ 可在
%UserProfile%\.wslconfig中设置networkingMode=mirrored后执行wsl --shutdown;旧版本需要管理员权限的 PowerShell 防火墙规则加netsh端口代理,操作会修改系统防火墙与端口转发配置,按文档逐条执行。
这些是同一任务的替代取值,按你的实际拓扑选其一,不要与上面的 LAN 写法混用。
验证连接
在能访问远程机器的机器上,用浏览器或
curl访问http://<服务器IP>:11434,文档中的成功现象是返回Ollama is running。确认远程模型列表可达且包含目标模型:
OLLAMA_HOST=192.168.1.136:11434 ollama listIP 替换为实际服务器地址。若列表中没有目标模型,在该远程实例上
ollama pull对应的精确标签。回到 Continue 的模型选择器,确认配置中的模型出现并可正常发起对话;发起一次 chat 请求能收到响应即说明远程链路打通。
常见问题排查
EHOSTUNREACH / ECONNREFUSED:按 FAQ 的顺序检查——
OLLAMA_HOST=0.0.0.0:11434是否生效(Ollama 默认只监听本机)、sudo systemctl restart ollama是否执行过、服务器防火墙 11434 端口是否放行、apiBase中的 IP 是否为服务器实际可达地址。远程实例上的 parse 错误:通常是目标模型未安装在远程,或 URL 误用了
https://。用上面的OLLAMA_HOST=<IP>:11434 ollama list核对模型,并确认apiBase使用http://。"Model requires more system memory":Continue 设置的默认上下文长度可能高于其他 Ollama 工具,远程实例内存不足时会报此错。在模型项中降低
contextLength解决,例如:models: - name: Deepseek R1 provider: ollama model: deepseek-r1:latest apiBase: http://192.168.1.136:11434 defaultCompletionOptions: contextLength: 2048也可以换用更小的模型变体。
404 model not found:
apiBase指向的远程实例上没有该标签的模型,回到前提条件用ollama pull <name>:<tag>补齐。
相关文档
- Ollama provider 配置与 capabilities 说明
- Ollama 完整使用指南(安装、模型选择、性能)
- FAQ:Ollama 连接与远程实例问题
【免费下载链接】continueopen-source coding agent项目地址: https://gitcode.com/GitHub_Trending/co/continue
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考