AnythingLLM 私有知识库:3 步把本地文档变成可问答的 AI 助手
【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm
团队里总有人把答案翻来翻去问文档,而你的服务器又不敢把数据丢给云端 API。AnythingLLM 干的就是这件事:把 PDF、网页、视频喂给它,建一个私有知识库,之后所有问答都基于你自己的文档,数据不出机器。它本身免费、开源,默认还自带本地向量库和嵌入模型,连 API Key 都可以先不开。
先说它怎么工作:你上传的文档会被切块、向量化,存进内置的 LanceDB;提问时先按语义召回相关片段,再交给 LLM 组织成答案。你只需要回答三个问题——模型从哪来、文档从哪来、访问地址是什么。
Docker 一条命令,10 分钟跑起来
最省事的路线不是装依赖,而是直接跑容器。官方推荐用预构建镜像,而不是从源码编译,因为后者要装 Node、Yarn 还要编译前端,新手容易卡在环境上。
拉取镜像,这一步只下载不启动:
docker pull mintplexlabs/anythingllm然后挂载本地目录、后台启动并映射 3001 端口,数据全落在你的~/anythingllm里,之后重建容器也不会丢:
mkdir -p ~/anythingllm && touch ~/anythingllm/.env docker run -d --rm -p 3001:3001 \ -v ~/anythingllm:/app/server/storage \ -e STORAGE_DIR=/app/server/storage \ mintplexlabs/anythingllm判断它活着很简单。浏览器打开http://localhost:3001,看到登录或引导页面就算成功;终端里也可以探一下健康接口:
curl http://localhost:3001/api/health返回 200 就齐活了。硬件上按 2GB 内存、10GB 磁盘起步规划即可,对应逻辑和更完整的配置说明在 docker/HOW_TO_USE_DOCKER.md。
把 PDF 变成可问答的知识库
先把收益说清:上传一次,之后提问不用每次贴上下文,回答直接基于你库里的原文,换一份文档就多一份它"懂"的范围。
操作分两步。
第一步,选 LLM。首启引导页会让你挑一个模型来源:
- 走云端:选 OpenAI、Anthropic 等,填 API Key,选个型号即可,最省心。
- 走本地:选 Ollama,填它的服务地址和模型名,完全免费且不出网。
第二步,上传文档。在工作区里把 PDF、Word、TXT、网页链接拖进去,系统自动切块、嵌入、入库。支持哪些格式对应逻辑在 collector/utils/extensions/ 目录。之后在聊天框提问,答案就是基于这份私有知识库生成的。
配 LLM 时 D
【免费下载链接】anything-llmStop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience项目地址: https://gitcode.com/GitHub_Trending/an/anything-llm
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考