self-hosted-ai-starter-kit 部署教程:2 条命令搭好本地 AI 工作流环境
【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit
你是不是也遇到过这种场景:想用 AI 处理公司文档,却得把数据传到别人的云端 API,心里不踏实。self-hosted-ai-starter-kit 就是为解决这个问题存在的——一个由 n8n 团队整理的开源 Docker 模板,在你自己的电脑上几分钟内拉起一套完整的本地 AI 环境。
它是什么 · 一句话看懂
一句话:它是一套"开机即用"的自托管 AI 全家桶,你只负责敲命令,剩下的它都装好了。
- 一条命令启动 4 个容器:n8n(低代码工作流平台,400+ 集成)、Ollama(跑本地大模型的引擎)、Qdrant(向量数据库)、PostgreSQL(存数据)
- 数据全程留在本机,不经过任何云端,隐私安全自己说了算
- 预置了 Demo 工作流和配套凭证,装完就能对话,不用自己配
- 定位是"起步模板":适合原型验证和学习,官方明确说它还没针对生产环境做深度优化
先跑起来 · 几分钟上手 🚀
前置条件一句话:装好 Docker 和 Docker Compose,内存 8GB 起步(推荐 16GB),留 20GB 磁盘空间拉镜像。
下面这一步会克隆项目并生成配置文件,记得把.env里的默认密码和密码密钥改掉:
git clone https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit cd self-hosted-ai-starter-kit cp .env.example .env然后执行这条命令,CPU 模式一键拉起全部服务(有 NVIDIA / AMD 显卡的换成--profile gpu-nvidia或--profile gpu-amd):
docker compose --profile cpu up第一次跑要拉取 n8n、Ollama、PostgreSQL、Qdrant 四个镜像,按网络快慢大概 3~10 分钟。启动后按这个顺序走:
- 浏览器打开
http://localhost:5678/,按提示完成 n8n 的初始化注册(只做一次) - 打开预置的 Demo 工作流:
http://localhost:5678/workflow/srOnR8PAY3u4RSwb - 点画布底部的Chat按钮,直接和本地 Llama 3.2 对话
第一次点 Chat 可能要等 Ollama 把 Llama 3.2(3B,约 2GB)下载完,别着急,看 Docker 控制台日志里的下载进度就行。
跑通之后怎么玩 · 进阶玩法
换个更大的本地模型。Ollama 支持几十种开源模型,在 Ollama 容器里执行ollama pull qwen2.5:7b之类的命令拉新模型,然后回到 Demo 工作流,把 "Ollama Chat Model" 节点里的 model 改一下即可。CPU 跑推理的话,建议选 7B 及以下参数量,8GB 内存的机器用 3B 最稳。
给 AI 接上你的私有文档(RAG)。这正是 Qdrant 存在的意义:把工作流里的 Qdrant 向量存储节点接进链路,把 PDF、Markdown 灌进向量库,AI 就能"引用你公司文档回答"。注意本地文件要从./shared目录读写——它被挂载进 n8n 容器,在节点里对应的路径是/data/shared。
发挥 n8n 的集成能力。本地模型只是大脑,400+ 集成才是手脚:接一个 Slack 触发器,AI 就能在群里自动值班;接邮件节点,就是私人邮件摘要机器人。AI Agent、Text Classifier、Information Extractor 这些高级节点开箱即用,只要语言模型节点用 Ollama、向量库用 Qdrant,整条链路就都留在本地。
更新镜像拿新版本。官方升级流程是拉新镜像后重建容器:
git pull docker compose --profile cpu pull docker compose create && docker compose --profile cpu up调资源。编辑 docker-compose.yml 给 Ollama 服务加deploy.resources限制,防止它吃满内存;模型越大越建议给 Docker 本身预留更多内存。
原理拆解 · 架构怎么看
看懂 docker-compose.yml,这个项目的架构其实一眼就透:
| 组件 | 作用 | 端口 | 数据存哪 |
|---|---|---|---|
| n8n | 工作流平台 + 编排入口 | 5678 | n8n_storage卷 |
| Ollama | 本地大模型推理引擎 | 11434 | ollama_storage卷 |
| Qdrant | 向量数据库,支撑 RAG | 6333 | qdrant_storage卷 |
| PostgreSQL 16 | 存 n8n 的工作流与执行数据 | 仅内部网络 | postgres_storage卷 |
几个值得注意的设计:
n8n-import一次性容器:启动时检测库里有没有工作流,没有就自动把 n8n/demo-data/workflows/ 里的 Demo 和 n8n/demo-data/credentials/ 里的 Ollama、Qdrant 两条凭证导入——这就是你"装完就能聊"的原因- profiles 机制:同一个 Ollama 服务定义出三份变体——
cpu、gpu-nvidia(申请 1 块 NVIDIA 卡)、gpu-amd(rocm 镜像 +/dev/kfd设备),启动参数决定用哪份 .env驱动密钥:PostgreSQL 账号密码、N8N_ENCRYPTION_KEY、JWT 密钥全部来自 .env.example 模板,OLLAMA_HOST默认指向容器内的ollama:11434./shared共享目录:宿主机与 n8n 容器之间的文件通道,默认建在项目同级目录
高频卡点 · 遇到问题
服务起不来、端口报错?先查日志定位是哪个容器:docker compose logs ollama(服务名换成 n8n / qdrant / postgres)。最高频的是 5678、11434、6333 端口被占用,改 docker-compose.yml 里的映射端口即可。
第一次 Chat 卡住不动?99% 是在等 Llama 3.2 下载,看 Ollama 容器的日志确认进度;磁盘空间不足 20GB 时也会卡在这一步。
Mac 用户想用本地 GPU?Apple Silicon 的 GPU 无法直接暴露给 Docker,官方给的路子是:Mac 上原生装 Ollama,在.env里设OLLAMA_HOST=host.docker.internal:11434,再把 n8n 凭证页里 "Local Ollama service" 的 base URL 改成http://host.docker.internal:11434/。
工作流读不到本地文件?节点里别写宿主机路径,一律用/data/shared/xxx,那是./shared在容器内的影子。
想推倒重来?数据都存在命名卷里,删除卷再up一次就是全新环境(Demo 工作流也会重新导入)。
装好了就别停在 Demo 上——打开那个 Llama 工作流,把模型节点换成你自己ollama pull的新模型,再丢一份 PDF 进./shared,你的第一个私有 AI 助手今天就能上岗。
【免费下载链接】self-hosted-ai-starter-kitThe Self-hosted AI Starter Kit is an open-source template that quickly sets up a local AI environment. Curated by n8n, it provides essential tools for creating secure, self-hosted AI workflows.项目地址: https://gitcode.com/GitHub_Trending/se/self-hosted-ai-starter-kit
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考