Docker 部署指南
如果你希望在服务器或 NAS 上部署 OmniNote,方便局域网内多人协同使用,推荐使用 Docker 方式。
模型推理服务在宿主机直接运行(不走 Docker),以获得最佳性能和 GPU 兼容性。
一、适用场景
| 部署方式 | 适用场景 |
|---|---|
| 快速开始 | 个人电脑,即装即用 |
| Docker 部署(本文档) | 服务器、NAS、局域网多人协同 |
二、准备工作
- 服务器已安装 Docker 和 Docker Compose
- 从百度网盘下载部署文件
百度网盘
链接: https://pan.baidu.com/s/1n8vLUY53MfqJDfWDJLK89A?pwd=w7ms
| 文件 | 说明 |
|---|---|
omni-note-data | 数据文件(配置、模型、工具、启动脚本) |
omni-note-app_latest.tar.gz | Docker 镜像 |
三、部署步骤
3.1 加载 Docker 镜像
dockerload-iomni-note-app_latest.tar.gz3.2 准备数据目录
统一的数据准备步骤见 数据准备
Docker 部署额外注意:将网盘中的
docker-compose.yml放在omni-note/根目录下
3.3 下载推理引擎
若本机运行模型服务,按 数据准备 · 下载推理引擎 下载并放置推理引擎;若使用外部 API 可跳过本节。
3.4 启动 OmniNote 容器
cd~/omni-notedockercompose up-d3.5 启动模型服务
./modelManager启动后浏览器打开http://127.0.0.1:8025,在界面中操作即可。
详细操作说明见 管理界面使用说明。
3.6 访问
浏览器打开http://<服务器IP>:7000
四、最终目录结构
部署完成后的最终目录结构见 数据准备 · 目录结构。
五、使用外部 API(可选)
如果不想在宿主机运行模型服务,可以配置云端 API。编辑instance/config.py:
MODEL_CONFIGS={'LLM':{'model':"你的模型名称",'model_server':"https://api-inference.modelscope.cn/v1",'api_key':"你的API_KEY"},}| 服务商 | API 地址 |
|---|---|
| ModelScope | https://api-inference.modelscope.cn/v1 |
| DashScope(阿里) | https://dashscope.aliyuncs.com/compatible-mode/v1 |
| 火山引擎 | https://ark.cn-beijing.volces.com/api/v3 |
| OpenAI | https://api.openai.com/v1 |
六、日常运维
# 查看运行状态dockerps|grepomni-note# 查看日志dockerlogs-fomni-note# 重启dockercompose restart# 停止dockercompose down七、数据备份
所有数据在instance/目录下,备份此目录即可:
tar-czfomni-note-backup-$(date+%Y%m%d).tar.gz instance/也可以在 OmniNote 网页上使用数据备份与恢复功能。
八、升级版本
拿到新版本镜像后:
# 1. 停止容器dockercompose down# 2. 加载新镜像dockerload-iomni-note-app_latest.tar.gz# 3. 重新启动dockercompose up-d
instance/目录不要覆盖,里面是你的数据。
九、常见问题
容器启动后无法访问?
dockerps|grepomni-note# 检查是否在运行dockerlogs omni-note# 查看启动日志知识库检索无结果?
- 确认嵌入/重排序模型服务在宿主机已启动
- 检查
instance/config.py中的服务地址 - 在知识库管理页面点击重建索引
上传文件报错?
- 检查
instance/目录写入权限 - 单文件不超过 50MB