企业官网建设流程全解析

从0到1跑通text-generation-webui：新手文本生成本地部署完整指南

【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgen

text-generation-webui 是一个基于Gradio的大语言模型 Web 界面，你不用写一行代码，就能在本机加载模型、聊天、写长文。它解决的正是"本地跑大模型门槛太高"这个问题，适合想体验文本生成功能、又没有编程基础的新手。

🚀 项目速览：30秒看懂它能干什么

• 界面走 Gradio 网页，浏览器打开即用，100% 本地运行、数据不出机器
• 模型格式通吃：transformers、GPTQ/AWQ、GGUF、EXL2，一个后端切多种格式
• 内置聊天、笔记本、默认三种生成模式，外加语音合成、图像生成等扩展位
• 支持LoRA轻量训练，模型可以自己"养"

📦 最短路径跑起来：5步看到第一段生成结果

1. 拿到代码：运行git clone https://gitcode.com/GitHub_Trending/te/text-generation-webui，进入项目目录。
2. 一键安装并启动：按你的系统执行对应脚本——Linux 跑./start_linux.sh，Windows 跑start_windows.bat，macOS 跑./start_macos.sh。脚本会自动装好 Conda 环境和全部依赖，中途提示时选择你的 GPU 厂商即可。
3. 进入界面：安装完成后，脚本会打印地址，浏览器打开http://127.0.0.1:7860就是主界面。以后每次启动直接再跑一遍同一个start_脚本就行。
4. 放一个模型：把模型文件丢进user_data/models目录，界面会自动检测到它；多文件模型（如 transformers 格式）放进一个子文件夹再整体放入。
5. 加载并生成：在Model选项卡点 Load，切到Chat选项卡发一句话——恭喜，第一个生成结果出来了。

如果你习惯容器化部署，项目在 docker/ 目录下备好了nvidia、amd、intel、cpu四套 Dockerfile 和 docker-compose 配置，把对应目录的文件链到根目录、编辑.env后执行docker compose up --build即可。

💬 上手后的三个场景

日常对话：这是默认打开的 Chat 选项卡。挑一个角色、直接发消息，回复逐字流式输出，支持编辑历史消息和分叉对话，体验和线上一致，只是模型跑在你自己机器上。

长文写作与编辑：切到Notebook选项卡，它不是回合制聊天，而是一块纯文本工作台，适合写长文档、整理草稿，文本会自动保存，关掉重开不丢内容。逻辑实现在 modules/ui_notebook.py。

自定义角色：打开 user_data/characters/ 里现成的Example.yaml，改三处：name（角色名）、greeting（开场白）、context（人设描述），保存后角色就会出现在 Chat 的角色选择框里，对话风格立刻换成你写的人设。

🎛️ 把效果调顺：先选对规模，再拧两个旋钮

先按硬件定模型规模，再调参数：

两个最关键的参数在Parameters选项卡，逻辑见 modules/ui_parameters.py：

• temperature（范围 0.01–5）：创意写作给0.7–1.0，要事实准确给0.1–0.3
• top_p（范围 0–1）：常用默认值0.95（参考 user_data/presets/Top-P.yaml），数值越低输出越保守

改完不用重启，点 Generate 立即生效。调参满意后存成 preset，下次一键加载。

🧩 解锁更多玩法

• 语音合成：extensions/silero_tts/ 把回复读出来，extensions/coqui_tts/ 提供更多音色选择
• 图像生成：extensions/sd_api_pictures/ 接入 Stable Diffusion 接口，对话时能配插图
• 文档检索：extensions/superboogav2/ 给模型挂上本地文档库，让它基于你的资料回答

装扩展就是把自己做的或下载的扩展文件夹放进user_data/extensions，再用启动参数--extensions 扩展名加载。

🚑 踩坑急救：四步定位 90% 的问题

1. Python 版本对不上：确认是 Python 3.9+，最稳的做法是用一键脚本自带的 Conda 环境，别混用系统 Python。
2. 依赖装不全：重跑安装脚本，或按硬件选对 requirements 文件（如 CPU 用户选requirements/full/requirements_cpu_only.txt），再执行pip install -r 对应文件 --upgrade补装。
3. 看日志定位：终端报错往回翻几行，找到第一个 Traceback；Docker 用户执行docker compose logs看容器日志。
4. 校验模型文件：到Model选项卡看模型是否被列出；多文件模型确认config.json和各分片文件齐全、大小正常，损坏或下了一半的文件是加载失败的头号原因。

硬件选型也顺带说一句：有 NVIDIA 显卡直接走 CUDA 全速跑；纯 CPU 机器建议选GGUF 格式走 llama.cpp 后端，配合 4-bit/8-bit 量化，内存占用能压到最低。

text-generation-webui 把"本地跑大模型"从命令行工程变成了浏览器操作：装好、丢模型、发一句话，三段式闭环。剩下的，就是挑个模型开始聊了。

【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgen