企业官网建设流程全解析

简介：这份文档面向有一定技术基础的企业用户与个人开发者，聚焦 Deepseek 与本地知识库的私有化部署方法及典型应用场景，帮助对数据隐私敏感的人群搭建离线可用的知识管理系统。资源包内含 1 个 docx 文件，约 1.47MB，以图文形式梳理了完整流程。内容覆盖基于 Cherry Studio 与 AnythingLLM 两条搭建路线，涉及嵌入模型配置、本地 Ollama 服务对接、知识文档与目录添加、向量化验证、搜索测试及大模型问答处理等环节，并对比了两款工具在易用性与定制化上的差异，指出 Cherry Studio 更适合非技术人员，AnythingLLM 更契合具备程序思维的技术人员。应用场景延伸至企业内部培训资料存储、科研文献检索、个性化内容推荐及小红书内容运营指导等。目前已有 2887 人学习，适合希望掌握本地知识库搭建、兼顾隐私保护与检索效率的读者参考。

1. 本地知识库部署：从一次向量化失败说起

有个做后端的朋友，兴冲冲装完 Cherry Studio，把几十份技术文档拖进知识库，结果搜索时要么答非所问，要么直接报错。折腾一晚上才发现，嵌入模型压根没配，文档根本没被向量化——界面上那个灰色的对号他以为是装饰。这不是个例。Deepseek 加本地知识库这套组合，最近在开发者圈子里热度很高，但真正卡住人的往往不是大模型本身，而是嵌入模型、Ollama 服务地址、知识库绑定这几个环节。这篇笔记按我实际部署的顺序，把 Cherry Studio 和 AnythingLLM 两条路线都走一遍，重点讲清楚每个配置项为什么这么填、填错了会怎样。适合想在自己机器上跑一套离线知识库、又不想在配置上反复翻车的人。

2. 环境准备：Ollama 与嵌入模型的版本选择

2.1 先确认 Ollama 能正常拉取模型

整套方案的地基是 Ollama。不管后面用 Cherry Studio 还是 AnythingLLM，本地模型服务都靠它。安装本身不复杂，Windows 和 macOS 都有安装包，Linux 用一条脚本。装完先别急着开图形界面，在终端里确认服务活着：

# 检查 Ollama 服务状态，默认监听 11434 端口 ollama list # 拉取 deepseek 模型，具体 tag 根据自己显存选 ollama pull deepseek-r1:7b # 拉取嵌入模型，用于把文档转成向量 ollama pull nomic-embed-text

ollama list返回空列表不代表服务没起来，只说明还没拉过模型。deepseek-r1:7b是常见起点，显存 8G 以上可以往上走，低于 8G 建议先用小参数版本验证流程。嵌入模型nomic-embed-text是 Cherry Studio 和 AnythingLLM 都能识别的通用选择，体积小、中文支持够用。这里有个容易忽略的点：嵌入模型和对话模型是两回事，只拉 deepseek 不拉嵌入模型，知识库功能直接残废。

2.2 嵌入模型到底在做什么

很多人卡在“嵌入模型”这个词上，其实它的任务很单一：把一段文本变成一串数字向量，让知识库能按语义而不是关键词去匹配。你搜“怎么配置模型服务”，文档里写的是“设置模型提供商”，关键词对不上，但向量距离近，照样能命中。这就是为什么嵌入模型不能省——没有它，知识库退化成文件管理器。

选嵌入模型时注意两点：一是维度别太低，太低语义区分度不够；二是语言要匹配，纯英文模型处理中文文档效果会打折。nomic-embed-text在这两点上比较均衡，也是社区里被验证过能跟 Ollama 顺畅配合的。如果后面换 AnythingLLM 自带的嵌入模型，原理一样，只是不用额外拉取。

2.3 磁盘规划：别把模型和知识库放 C 盘

这一步是血泪经验。Ollama 默认把模型存在用户目录，Windows 下就是 C 盘。一个 7B 模型加嵌入模型，轻松吃掉十几个 G，再加上知识库文档的向量索引，C 盘空间告急是迟早的事。安装 Cherry Studio 和 AnythingLLM 时，安装向导里都有路径选择，手动改到其他盘。Ollama 本身可以通过环境变量OLLAMA_MODELS把模型目录挪走：

# Linux/macOS 下设置模型存储路径，Windows 在系统环境变量里加 export OLLAMA_MODELS=/data/ollama/models

改完重启 Ollama 服务，之前拉过的模型需要重新拉一次。这一步在部署初期做，比后期迁移省事得多。AnythingLLM 的向量数据库默认也在 C 盘，如果安装时没改目录，后面可以在设置里找到存储路径手动挪，但不如一开始就规划好。

3. Cherry Studio 路线：从安装到知识库绑定

3.1 安装与模型服务接入

Cherry Studio 的安装包按系统选就行，Windows 是 exe，macOS 是 dmg。安装时留意自定义路径，别一路下一步。装完打开，左下角齿轮进设置，找到“模型服务”里的 Ollama。这里的关键操作是点“管理”，让 Cherry Studio 自动扫描本地 Ollama 已安装的模型。扫描到之后，模型后面会出现加号，点加号加入可用列表，减号表示已选中。

如果扫描不到，先确认 Ollama 服务在跑，再检查地址是不是http://localhost:11434。有些环境里 Ollama 绑定的是127.0.0.1，Cherry Studio 填localhost可能解析到 IPv6 导致连不上，改成127.0.0.1通常能解决。这一步配好，对话模型和嵌入模型都要分别加入，别只加一个。

3.2 知识库创建与嵌入模型指定

设置完模型服务，回到主界面选“知识库”，点添加。弹窗里要填三样：知识库名称、嵌入模型、其他可选参数。嵌入模型下拉里选之前拉好的nomic-embed-text。这里如果下拉是空的，说明模型服务那步没把嵌入模型加进来，回去补。

创建完知识库，往里加文档。Cherry Studio 支持单文件也支持整个目录，目录方式特别省事，适合把一整个项目的文档文件夹拖进去。添加后每个文档旁边会出现状态标记，绿色对号表示向量化完成。如果一直转圈或者显示失败，大概率是嵌入模型没配或者 Ollama 服务断了。文档多的时候向量化要等一会儿，别急着反复添加，否则会出现重复索引。

3.3 搜索验证：看语义匹配而不是关键词

文档向量化完成后，点“搜索知识库”，输入一个跟文档内容相关但用词不同的查询。比如文档里写的是“模型服务配置”，你搜“怎么接入本地大模型”，看返回结果能不能命中。能命中说明嵌入模型工作正常，语义关联建立起来了。如果返回空或者全是无关内容，回去检查嵌入模型是否选对、文档状态是否绿色。

这一步的验证逻辑很重要：它证明的是向量检索链路通了，而不是大模型回答得好不好。很多人跳过这步直接去聊天，结果大模型答非所问，回头排查分不清是检索问题还是生成问题。先把搜索验证做掉，后面出问题能快速定位。

3.4 绑定大模型并提问

搜索验证通过后，点左上角聊天图标，选助手，默认助手就行。在对话设置里选本地 deepseek 模型，然后关键一步：设置知识库。不设置知识库，大模型不会参考你的文档，回答跟普通对话没区别。设置好之后输入问题，deepseek 会把检索到的文档片段和问题一起处理，回答末尾通常会标注参考了哪些资料。

如果回答里没有引用来源，检查知识库是否真的绑定到了当前对话。Cherry Studio 里每个助手可以绑定不同的知识库，切换助手时容易漏掉。另外，本地模型处理长文档时上下文窗口有限，文档片段太长会被截断，回答质量下降。常见做法是把知识库文档拆成小段，或者控制单次检索返回的片段数量。

4. AnythingLLM 路线：配置差异与 API 能力

4.1 安装与 LLM 首选项配置

AnythingLLM Desktop 的安装流程跟 Cherry Studio 类似，同样注意安装路径别放 C 盘。装完点左下角设置，进“LLM 首选项”。模型提供商选 Ollama，然后选已安装的 deepseek 模型。地址栏确认是http://127.0.0.1:11434，保存。

这里跟 Cherry Studio 的区别在于，AnythingLLM 把 LLM 配置和嵌入模型配置分得更开。LLM 首选项只管对话模型，嵌入模型在另一个地方配。如果只配了 LLM 没配嵌入，知识库上传文档时会报错或者静默失败。向量数据库用自带的就行，不用动，但要知道它的存储位置，默认在 C 盘，后续有需要可以整体挪走。

4.2 嵌入模型与工作区设置

嵌入模型配置里，可以用 AnythingLLM 自带的，也可以指向 Ollama 里拉好的nomic-embed-text。用自带的省事，但首次使用可能要下载模型文件；指向 Ollama 则跟 Cherry Studio 共用一套嵌入模型，省磁盘。配完点左下角返回。

工作区是 AnythingLLM 的组织单位，新建工作区后，上传知识库文档。拖拽上传时注意：拖一次就行，它在聊天框能看到上传记录。有反馈说拖拽后没看到成功提示，又拖了几次，结果聊天框里出现多份重复文档。这是界面反馈延迟导致的误操作，等几秒再判断。文档在工作区之间是共用的，这点跟 Cherry Studio 的知识库隔离逻辑不同，多人使用时要注意。

4.3 API 功能与远程文档接入

AnythingLLM 提供 API 访问能力，配好之后可以作为公共知识库给其他应用调用。这对开发者来说是个加分项，Cherry Studio 在这块偏弱。远程文档方面，AnythingLLM 支持接入 Confluence、GitHub 等来源，适合团队把已有文档系统接进来。配置入口在工作区设置里，按提示填地址和凭证即可。

不过从实际体验看，AnythingLLM 更像一个包了壳的 Web 应用，配置项多、概念层级深，非技术用户容易迷路。Cherry Studio 的交互更直给，适合不想折腾的人。如果后续要跟 Dify 这类编排工具结合，AnythingLLM 的 API 和远程文档能力会更有发挥空间。

5. 避坑与排查：五个真实翻车记录

5.1 嵌入模型没配，文档状态一直不绿

现象：文档拖进知识库后，状态标记一直转圈或者显示灰色，搜索返回空。 原因：嵌入模型没在模型服务里加入，或者知识库创建时没选嵌入模型。 解决：回设置里确认嵌入模型已加入可用列表，重建知识库并重新指定嵌入模型，文档需要重新向量化。

5.2 Ollama 地址填 localhost 连不上

现象：Cherry Studio 或 AnythingLLM 扫描不到本地模型，提示连接失败。 原因：部分系统里localhost解析到 IPv6 的::1，而 Ollama 只监听了 IPv4。 解决：把地址改成127.0.0.1:11434，保存后重新扫描。

5.3 文档重复上传导致检索结果冗余

现象：搜索时返回多条几乎相同的内容，回答里引用来源重复。 原因：拖拽上传时界面反馈延迟，误以为没成功，反复拖拽同一文件。 解决：上传后等几秒再操作，已重复的文档在知识库管理里手动删除，重新向量化。

5.4 知识库没绑定到对话，大模型不引用文档

现象：提问后 deepseek 回答跟文档无关，像普通聊天。 原因：助手或对话没有设置知识库，或者切换助手后绑定丢失。 解决：每次新建对话或切换助手时，检查知识库绑定状态，确保选中了目标知识库。

5.5 隐私数据联网风险

现象：知识库包含内部文档，但模型服务配置了在线 API。 原因：为了“满血版”效果，在模型服务里填了在线 deepseek 的 key。 解决：有隐私数据时只用本地 Ollama 模型，不配置任何在线服务。这一点在原文里被反复强调，联网意味着文档片段可能被发送到外部接口，离线部署的意义就没了。

6. 装完怎么验证：三条命令加一个习惯

部署完成后，别急着庆祝。按下面三步走一遍，确认整条链路真的通了。

第一步，确认 Ollama 模型列表完整：

# 应该同时看到对话模型和嵌入模型 ollama list

输出里要有deepseek-r1:7b和nomic-embed-text两行。缺任何一个，后面都会出问题。

第二步，在 Cherry Studio 或 AnythingLLM 里做一次语义搜索验证。用一个跟文档用词不同但意思相近的查询，看能否命中。这一步验证的是嵌入模型和向量检索，跟大模型无关。

第三步，发起一次带知识库的对话，检查回答末尾是否标注了参考来源。没有来源标注，说明知识库没绑定成功。

从那以后我每次部署完知识库，都强制走一遍这三步，不跳过任何一项。看起来麻烦，但比事后排查省时间得多。希望帮到你。

本文还有配套的精品资源，点击获取