☰
AnythingLLM 私有知识库:3 步把本地文档变成可问答的 AI 助手
2026/10/25 9:50:51 网站建设 项目流程

AnythingLLM 私有知识库:3 步把本地文档变成可问答的 AI 助手

【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm

团队里总有人把答案翻来翻去问文档,而你的服务器又不敢把数据丢给云端 API。AnythingLLM 干的就是这件事:把 PDF、网页、视频喂给它,建一个私有知识库,之后所有问答都基于你自己的文档,数据不出机器。它本身免费、开源,默认还自带本地向量库和嵌入模型,连 API Key 都可以先不开。

先说它怎么工作:你上传的文档会被切块、向量化,存进内置的 LanceDB;提问时先按语义召回相关片段,再交给 LLM 组织成答案。你只需要回答三个问题——模型从哪来、文档从哪来、访问地址是什么。

Docker 一条命令,10 分钟跑起来

最省事的路线不是装依赖,而是直接跑容器。官方推荐用预构建镜像,而不是从源码编译,因为后者要装 Node、Yarn 还要编译前端,新手容易卡在环境上。

拉取镜像,这一步只下载不启动:

docker pull mintplexlabs/anythingllm

然后挂载本地目录、后台启动并映射 3001 端口,数据全落在你的~/anythingllm里,之后重建容器也不会丢:

mkdir -p ~/anythingllm && touch ~/anythingllm/.env docker run -d --rm -p 3001:3001 \ -v ~/anythingllm:/app/server/storage \ -e STORAGE_DIR=/app/server/storage \ mintplexlabs/anythingllm

判断它活着很简单。浏览器打开http://localhost:3001,看到登录或引导页面就算成功;终端里也可以探一下健康接口:

curl http://localhost:3001/api/health

返回 200 就齐活了。硬件上按 2GB 内存、10GB 磁盘起步规划即可,对应逻辑和更完整的配置说明在 docker/HOW_TO_USE_DOCKER.md。

把 PDF 变成可问答的知识库

先把收益说清:上传一次,之后提问不用每次贴上下文,回答直接基于你库里的原文,换一份文档就多一份它"懂"的范围。

操作分两步。

第一步,选 LLM。首启引导页会让你挑一个模型来源:

  • 走云端:选 OpenAI、Anthropic 等,填 API Key,选个型号即可,最省心。
  • 走本地:选 Ollama,填它的服务地址和模型名,完全免费且不出网。

第二步,上传文档。在工作区里把 PDF、Word、TXT、网页链接拖进去,系统自动切块、嵌入、入库。支持哪些格式对应逻辑在 collector/utils/extensions/ 目录。之后在聊天框提问,答案就是基于这份私有知识库生成的。

配 LLM 时 D

【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询