企业官网建设流程全解析

ChatTTS Windows 实战：从部署到优化的全流程指南

1. 背景与痛点：Windows 上跑 ChatTTS 到底卡在哪？

ChatTTS 官方仓库默认给出的是 Linux 脚本，很多依赖（espeak-ng、sox、ffmpeg）在 Windows 上要么装不上，要么装完找不到路径。再加上 Python 3.10+ 的虚拟环境与 CUDA 驱动版本耦合，稍不留神就掉进“DLL load failed”或“OSError: [WinError 126]”的大坑。实测常见症状如下：

• pip 安装后 import chatts 直接报缺 libtorch_cuda.dll
• 跑长文本合成时显存只升不降，直到 OOM
• 多并发请求下，GPU 利用率 0 %，CPU 单核 100 %，延迟 10 s+

一句话：Windows 不是不能跑，而是缺一份“能跑且跑得爽”的说明书。

2. 技术选型：三条路线谁更适合你？

结论：

• 个人笔记本 → 方案 1，后续可迁移到方案 2
• 需要横向扩容 → 直接方案 2，Kubernetes 统一编排

下文以“方案 1”为主线，踩坑点同样适用于 WSL2。

3. 核心实现：30 分钟搭一套可复现环境

3.1 环境准备

1. 安装 Python 3.10.11（官方 MSI，勾选“Add to PATH”）
2. 安装 CUDA 11.8 与对应 cuDNN，确认nvcc -V能输出版本
3. 安装 VS Build Tools 2022 工作负载“C++ 桌面开发”，否则 transformers 编译 Cython 会失败

3.2 创建纯净虚拟环境

# PowerShell python -m venv venv-chattts .\venv-chattts\Scripts\activate python -m pip install -U pip setuptools wheel

3.3 依赖清单（requirements.txt）

torch==2.0.1+cu118 torchaudio==2.0.2+cu118 -e git+https://github.com/2noise/ChatTTS.git#egg=chatts fastapi==0.110.0 uvicorn[standard]==0.27.1 psutil==5.9.8

注意：

• 用--index-url https://download.pytorch.org/whl/cu118加速
• 必须pip install espeak-ng-runtime后再把 dll 目录加入 PATH，否则 phonemize 阶段直接崩溃

3.4 最小可运行脚本

# chatts_svc.py import os, torch, ChatTTS, psutil, gc from fastapi import FastAPI, HTTPException from pydantic import BaseModel app = FastAPI() model = None class TTSRequest(BaseModel): text: str voice: str = "default" speed: float = 1.0 def load_model(): global model if model is None: model = ChatTTS.ChatTTS() model.load(compile=False, device="cuda") # Windows 下先关 compile，避免 Triton 报错 return model @app.on_event("startup") def startup(): load_model() @app.post("/tts") def tts(req: TTSRequest): if not req.text.strip(): raise HTTPException(status_code=400, detail="empty text") try: wavs = model.infer(req.text, voice=req.voice, speed=req.speed) # wavs 是 List[np.ndarray]，这里只返回第一段 return {"audio": wavs[0].tolist()} except RuntimeError as e: # 捕获 CUDA OOM，主动回收 if "out of memory" in str(e): gc.collect() torch.cuda.empty_cache() raise HTTPException(status_code=500, detail=str(e)) finally: # 监控显存 mem = torch.cuda.memory_allocated() / 1024** 3 print(f"GPU Memory: {mem:.2f} MB") if __name__ == "__main__": import uvicorn uvicorn.run(app, host="0.0.0.0", port=8000)

启动：

$env:CUDA_VISIBLE_DEVICES="0" python chatts_svc.py

浏览器访问http://localhost:8000/docs即可看到 Swagger，粘贴文本点“Try it out”就能听到声音。

4. 性能优化：让显存和并发都说“稳”

4.1 内存泄漏三板斧

1. 每次 infer 结束手动del wavs+gc.collect()
2. 把compile=False先关掉，Windows 对 Triton 支持不完整，开启后缓存永不释放
3. 使用torch.cuda.empty_cache()不能滥用，每 10 次请求调用一次即可，过于频繁反而降低吞吐

4.2 半精度与 batch 化

model.half() # FP16，显存直接减半 model.eval() # 拼接 4 段文本再 infer，比循环调用快 2.3 倍 texts = [req.text[i:i+150] for i in range(0, len(req.text), 150)] wavs = model.infer(texts, batch_size=4)

实测 RTX 3060 12 G：

• 单句 200 字 → 1.8 s，显存 2.7 G
• batch=4 → 总 800 字 → 3.2 s，显存 4.1 G，单字延迟下降 40 %

4.3 并发路由

Windows 的asyncio默认 Proactor 事件循环，高并发下出现“RuntimeError: Event is not bound to any loop”。解决：

# 在入口加 import asyncio, sys if sys.version_info >= (3, 8) and sys.platform == "win32": asyncio.set_event_loop_policy(asyncio.WindowsSelectorEventLoopPolicy())

再用uvicorn workers=4多进程，可把 QPS 从 1.2 提到 4.5。

4.4 监控小面板

# 追加 /metrics 端点，返回 Prometheus 格式 from prometheus_client import generate_latest, CONTENT_TYPE_LATEST @app.get("/metrics") def metrics(): return Response(generate_latest(), media_type=CONTENT_TYPE_LATEST)

配合 Grafana + Windows Exporter，显存、GPU-util、句柄数一目了然。

5. 生产环境指南：上线前必须踩的坑

1. 静态编译的 espeak-ng 库要随包分发，把libespeak-ng.dll放到项目根，运行前os.add_dll_directory(os.getcwd())，避免客户机缺库
2. 注册表 LongPath 记得开，否则 260 字符路径截断会让模型加载失败
   New-ItemProperty -Path "HKLM:\SYSTEM\CurrentControlSet\Control\FileSystem" -Name "LongPathsEnabled" -Value 1 -PropertyType DWORD -Force
3. 用 NSSM 把 uvicorn 注册为 Windows Service，崩溃自动拉起；日志重定向到chatts-out.log，方便排查
4. 打开“硬件加速 GPU 调度”，在 Win11 22H2 上能把延迟再降 5 %
5. 升级驱动前先在测试机验证，NVIDIA 531 版驱动曾出现cudaLaunchKernel非法访问，回滚才恢复

6. 小结与下一步

照着上面 5 步，基本能在 Windows 上把 ChatTTS 跑到“开发不报错、生产不炸机”的状态。再往后玩，可以：

• 把模型导出至 ONNX，配合 DirectML 让 A 卡也跑起来
• 用 TensorRT 加速，官方已给出 Python-binding，Windows 同样适用
• 前端加 WebSocket，流式返回音频，实现“边合成边播放”

如果你按这份笔记成功跑通，或者又遇到新的奇葩报错，欢迎留言交流。一起把 Windows 上的 ChatTTS 打磨成真正可落地的生产力工具！