☰
self-hosted-ai-starter-kit 部署教程:2 条命令搭好本地 AI 工作流环境
2026/9/30 8:00:10 网站建设 项目流程

self-hosted-ai-starter-kit 部署教程:2 条命令搭好本地 AI 工作流环境

【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit

你是不是也遇到过这种场景:想用 AI 处理公司文档,却得把数据传到别人的云端 API,心里不踏实。self-hosted-ai-starter-kit 就是为解决这个问题存在的——一个由 n8n 团队整理的开源 Docker 模板,在你自己的电脑上几分钟内拉起一套完整的本地 AI 环境。

它是什么 · 一句话看懂

一句话:它是一套"开机即用"的自托管 AI 全家桶,你只负责敲命令,剩下的它都装好了。

  • 一条命令启动 4 个容器:n8n(低代码工作流平台,400+ 集成)、Ollama(跑本地大模型的引擎)、Qdrant(向量数据库)、PostgreSQL(存数据)
  • 数据全程留在本机,不经过任何云端,隐私安全自己说了算
  • 预置了 Demo 工作流和配套凭证,装完就能对话,不用自己配
  • 定位是"起步模板":适合原型验证和学习,官方明确说它还没针对生产环境做深度优化

先跑起来 · 几分钟上手 🚀

前置条件一句话:装好 Docker 和 Docker Compose,内存 8GB 起步(推荐 16GB),留 20GB 磁盘空间拉镜像。

下面这一步会克隆项目并生成配置文件,记得把.env里的默认密码和密码密钥改掉:

git clone https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit cd self-hosted-ai-starter-kit cp .env.example .env

然后执行这条命令,CPU 模式一键拉起全部服务(有 NVIDIA / AMD 显卡的换成--profile gpu-nvidia或--profile gpu-amd):

docker compose --profile cpu up

第一次跑要拉取 n8n、Ollama、PostgreSQL、Qdrant 四个镜像,按网络快慢大概 3~10 分钟。启动后按这个顺序走:

  1. 浏览器打开http://localhost:5678/,按提示完成 n8n 的初始化注册(只做一次)
  2. 打开预置的 Demo 工作流:http://localhost:5678/workflow/srOnR8PAY3u4RSwb
  3. 点画布底部的Chat按钮,直接和本地 Llama 3.2 对话

第一次点 Chat 可能要等 Ollama 把 Llama 3.2(3B,约 2GB)下载完,别着急,看 Docker 控制台日志里的下载进度就行。

跑通之后怎么玩 · 进阶玩法

换个更大的本地模型。Ollama 支持几十种开源模型,在 Ollama 容器里执行ollama pull qwen2.5:7b之类的命令拉新模型,然后回到 Demo 工作流,把 "Ollama Chat Model" 节点里的 model 改一下即可。CPU 跑推理的话,建议选 7B 及以下参数量,8GB 内存的机器用 3B 最稳。

给 AI 接上你的私有文档(RAG)。这正是 Qdrant 存在的意义:把工作流里的 Qdrant 向量存储节点接进链路,把 PDF、Markdown 灌进向量库,AI 就能"引用你公司文档回答"。注意本地文件要从./shared目录读写——它被挂载进 n8n 容器,在节点里对应的路径是/data/shared。

发挥 n8n 的集成能力。本地模型只是大脑,400+ 集成才是手脚:接一个 Slack 触发器,AI 就能在群里自动值班;接邮件节点,就是私人邮件摘要机器人。AI Agent、Text Classifier、Information Extractor 这些高级节点开箱即用,只要语言模型节点用 Ollama、向量库用 Qdrant,整条链路就都留在本地。

更新镜像拿新版本。官方升级流程是拉新镜像后重建容器:

git pull docker compose --profile cpu pull docker compose create && docker compose --profile cpu up

调资源。编辑 docker-compose.yml 给 Ollama 服务加deploy.resources限制,防止它吃满内存;模型越大越建议给 Docker 本身预留更多内存。

原理拆解 · 架构怎么看

看懂 docker-compose.yml,这个项目的架构其实一眼就透:

组件作用端口数据存哪
n8n工作流平台 + 编排入口5678n8n_storage卷
Ollama本地大模型推理引擎11434ollama_storage卷
Qdrant向量数据库,支撑 RAG6333qdrant_storage卷
PostgreSQL 16存 n8n 的工作流与执行数据仅内部网络postgres_storage卷

几个值得注意的设计:

  • n8n-import一次性容器:启动时检测库里有没有工作流,没有就自动把 n8n/demo-data/workflows/ 里的 Demo 和 n8n/demo-data/credentials/ 里的 Ollama、Qdrant 两条凭证导入——这就是你"装完就能聊"的原因
  • profiles 机制:同一个 Ollama 服务定义出三份变体——cpu、gpu-nvidia(申请 1 块 NVIDIA 卡)、gpu-amd(rocm 镜像 +/dev/kfd设备),启动参数决定用哪份
  • .env驱动密钥:PostgreSQL 账号密码、N8N_ENCRYPTION_KEY、JWT 密钥全部来自 .env.example 模板,OLLAMA_HOST默认指向容器内的ollama:11434
  • ./shared共享目录:宿主机与 n8n 容器之间的文件通道,默认建在项目同级目录

高频卡点 · 遇到问题

服务起不来、端口报错?先查日志定位是哪个容器:docker compose logs ollama(服务名换成 n8n / qdrant / postgres)。最高频的是 5678、11434、6333 端口被占用,改 docker-compose.yml 里的映射端口即可。

第一次 Chat 卡住不动?99% 是在等 Llama 3.2 下载,看 Ollama 容器的日志确认进度;磁盘空间不足 20GB 时也会卡在这一步。

Mac 用户想用本地 GPU?Apple Silicon 的 GPU 无法直接暴露给 Docker,官方给的路子是:Mac 上原生装 Ollama,在.env里设OLLAMA_HOST=host.docker.internal:11434,再把 n8n 凭证页里 "Local Ollama service" 的 base URL 改成http://host.docker.internal:11434/。

工作流读不到本地文件?节点里别写宿主机路径,一律用/data/shared/xxx,那是./shared在容器内的影子。

想推倒重来?数据都存在命名卷里,删除卷再up一次就是全新环境(Demo 工作流也会重新导入)。

装好了就别停在 Demo 上——打开那个 Llama 工作流,把模型节点换成你自己ollama pull的新模型,再丢一份 PDF 进./shared,你的第一个私有 AI 助手今天就能上岗。

【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询