☰
self-hosted-ai-starter-kit 部署教程:10 分钟跑通本地 AI 工作流环境
2026/9/25 15:20:27 网站建设 项目流程

self-hosted-ai-starter-kit 部署教程:10 分钟跑通本地 AI 工作流环境

【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit

self-hosted-ai-starter-kit 部署并不复杂:这是一个由 n8n 出品的 Docker Compose 模板,一条命令即可拉起 n8n、Ollama、Qdrant 和 PostgreSQL,数据全部留在你的机器上。按本文步骤操作,你最终会在浏览器里和跑在本地模型对话,得到一个能直接改、能扩展的自托管 AI 环境。

它适合谁、什么时候需要它

  • 处理敏感文档的人:公司 PDF、财务资料不想传给云端 API,想用本地模型做摘要和分析,又不想从零搭环境。
  • 低代码自动化使用者:想在 n8n 的 400 多种集成里接入本地大模型,做 AI Agent、文档问答这类自动化,而不是手写代码。
  • 本地部署爱好者:想完整体验"Ollama 跑模型 + Qdrant 存向量 + n8n 编排工作流"这条链路,做概念验证(POC)。

需要说明:项目定位是帮你快速上手,组件组合对原型验证够用,并非为生产环境做深度优化。正式上生产前请自行评估加固。

部署前 3 分钟检查清单

  • Docker 与 Docker Compose 已安装(Compose 需支持--profile参数)。
  • 内存建议至少 8GB,16GB 以上体验更好(模型越大越吃内存)。
  • 磁盘预留 20GB 以上:要拉取多个镜像,首次还会自动下载 Llama 3.2 模型。
  • 首次启动需要稳定网络,镜像和模型都要从外网下载。
  • 端口空闲:5678(n8n)、11434(Ollama)、6333(Qdrant)。
  • 仓库里已提供 .env.example,稍后要复制成.env并改掉默认口令。

最短路径:跑通第一个可用版本

克隆仓库并生成环境配置文件,共三条命令:

git clone https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit cd self-hosted-ai-starter-kit cp .env.example .env

打开生成的.env,把POSTGRES_PASSWORD、N8N_ENCRYPTION_KEY、N8N_USER_MANAGEMENT_JWT_SECRET改成自己的值,模板里是占位默认值。

启动整套服务。--profile cpu表示用 CPU 跑 Ollama,无 GPU 用户选它即可:

docker compose --profile cpu up

首次启动会依次拉取 n8n、PostgreSQL、Qdrant、Ollama 等镜像,随后自动下载 llama3.2 模型,这一步耗时最长,耐心等即可。

跑通后如何确认它真的可用

  1. 浏览器打开 http://localhost:5678/ ,按提示完成 n8n 一次性初始化(注册管理员账号)。
  2. 打开预置的示例工作流:http://localhost:5678/workflow/srOnR8PAY3u4RSwb
  3. 点画布下方的Chat按钮,向模型发一句话。收到本地模型的回复,说明链路全部打通。
  4. 若 Chat 没有响应,多半是模型还在下载,执行下面命令观察进度:
docker compose logs ollama-pull-llama-cpu

下载完成后再次点击 Chat 即可,无需重启容器。

关键配置与目录入口

想改什么,去哪里找:

  • docker-compose.yml:全部服务、端口、profile(cpu / gpu-nvidia / gpu-amd)都在这里定义。
  • .env.example:数据库口令、n8n 密钥、OLLAMA_HOST等环境变量模板,复制成.env后按需修改。
  • n8n/demo-data/workflows/ 与 n8n/demo-data/credentials/:示例工作流和凭证,首次启动时 n8n 会自动导入,这就是你打开 Chat 就能用的原因。
  • README.md:官方完整说明,包括 GPU 配置和 Mac 用户方案。

另外,项目会在 n8n 容器里挂载一个共享目录(容器内路径/data/shared),让工作流能读取你磁盘上的文件,做文档类工作流时会用到。

按硬件/场景做轻量调优

  • 有 NVIDIA 显卡:把启动命令里的 profile 换成--profile gpu-nvidia,推理速度明显提升;Linux 上的 AMD 显卡用户用--profile gpu-amd。
  • 只有 CPU、内存偏低:保持默认 llama3.2 即可起步;追求速度时,在 n8n 的 Ollama 节点里换成更小的模型。
  • Mac(M 系列芯片):Docker 无法直接调用 GPU,推荐在 Mac 上单独装 Ollama,然后用普通docker compose up启动其余服务,并在.env中把OLLAMA_HOST设为host.docker.internal:11434,细节见 README。
  • 网络慢:不用反复重启,首次拉镜像和下模型本来就慢,看日志确认进度没卡死即可。

卡住时按顺序排查

  1. 看日志:docker compose logs <服务名>,优先看n8n和ollama两个服务。
  2. 查端口:确认 5678、11434、6333 没被本机其他程序占用。
  3. 查资源:内存不足时容器可能反复重启,给 Docker 分配足够内存。
  4. 查拉取:首次启动卡在拉镜像或下模型属正常现象,区分"慢"和"断"。
  5. 核对 .env:确认已从.env.example复制出.env且口令、密钥已修改,compose 会强制要求该文件存在。

下一步:扩展、更新或接入工作流

  • 换模型:在 n8n 里打开工作流,把 Ollama 节点的模型改成你喜欢的任意本地模型;向量检索用 Qdrant 节点,整条链路保持本地。
  • 导入自己的工作流:在 n8n 界面里导入 JSON 即可;示例数据只会在首次启动、库里还没有工作流时自动导入,之后以界面操作为准。
  • 更新到新版本:拉新代码后重建容器:
docker compose --profile cpu pull docker compose create && docker compose --profile cpu up
  • 继续学习:README 末尾列了 n8n 官方的 AI Agent 教程和概念文章,遇到具体问题可以先翻一遍。

打开浏览器访问 localhost:5678,把你的第一条 AI 工作流跑起来。

【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询