GPT-SoVITS 语音克隆指南:5 秒参考音频合成第一段声音
【免费下载链接】GPT-SoVITS1 min voice data can also be used to train a good TTS model! (few shot voice cloning)项目地址: https://gitcode.com/GitHub_Trending/gp/GPT-SoVITS
GPT-SoVITS 用 5 秒人声就能零样本语音克隆——不训练,直接推理出结果;1 分钟素材微调后音色更稳。速度上官方在 4090 上测得 RTF 约 0.014,1400 字、约 4 分钟的音频推理耗时 3.36 秒。
先跑通:装环境、启动、合成第一段声音
clone 仓库,建一个 Python 3.10 的 conda 环境,一条安装脚本装完依赖和底模:
git clone https://gitcode.com/GitHub_Trending/gp/GPT-SoVITS cd GPT-SoVITS conda create -n GPTSoVits python=3.10 conda activate GPTSoVits bash install.sh --device CU128 --source HF # 无独显换 CPU;国内网络可换 HF-Mirror 或 ModelScope--device按驱动选 CUDA 版本,macOS 用 MPS,Windows 整合包用户直接双击 go-webui.bat 跳过这一节。脚本会把底模和 G2PW 中文拼音模型放进对应目录,不用手动搬。然后在项目根目录执行python webui.py,浏览器打开 9874 端口,进推理页签:填参考音频对应的文本、上传音频、输入要说的文字,点合成,几秒后听到第一段用参考音色的语音。硬件没有写死的显卡型号门槛,但 config.py 里显存低于 4GB 或架构太老的卡会自动回退 CPU,能上独显尽量上。官方实测速度:
| 测试设备 | RTF(越低越快) |
|---|---|
| RTX 4090 | 0.014 |
| RTX 4060 Ti | 0.028 |
| M4 芯片 CPU | 0.526 |
素材分三档:5 秒起步,1 分钟定型,10 分钟出成品
三档是递进关系,每一档没榨干再补下一档:
5 秒档(零样本)。能换到:从会议录音里截 3~5 秒人声,在推理页填好这段的文本、上传音频,几秒后拿到同音色的新语音,全程不训练。边界:音色贴合度和稳定性完全受这 5 秒限制,文本一长偶发漂移、"像又不像"。下一步:同一人再找 1 分钟干净录音,进微调。
1 分钟档(少样本微调)。能换到:跑一轮完整微调——0-数据集获取页用内置 UVR5 把人声抠出来、切片、ASR 自动识别并逐条校对,1-文本处理页一键生成 hubert、说话人向量、语义特征,再依次训练 GPT(s1)和 SoVITS(s2),回推理页换新模型合成,漂移明显减少。边界:这 1 分钟素材如果带噪或忽远忽近,模型会连毛病一起学。下一步:素材扩量,同时开始精修数据。
10 分钟档。能换到:数据量上来后多轮训练,输出接近"专属音色",适合长期做多集内容的场景。边界:这个量级质量比数量重要,一条噪声、一条错标都会把整体拉下来。下一步:别再堆数据,回去精修数据集。
🩺 效果不对先自查
读错字、变调原因:训练文本和音频对不上,或语言标签标错。 处理:把 ASR 标注和音频逐条对照,改错后重训 s1,比调任何参数都有效。
合成带噪、有底噪原因:喂进去的参考音频本身不干净。 处理:先用内置 UVR5 分离出人声再合成,或换安静环境重录,别直接喂原音。
训练中途显存爆掉原因:没开半精度,或切片过长一次塞太多帧。 处理:把is_half设为true走 fp16;还不够就把数据集获取里的切片时长调短。
推理慢得离谱原因:设备没走到 GPU,回退到了 CPU(对照上面速度表就有体感)。 处理:确认安装时--device选对、nvidia-smi能看到卡,重装环境比调参数实在。
🚀 再进一步
多语言:底模已支持中/英/日/韩/粤,训练集全用中文也行,推理页把目标文本切成其他语言,拿回的仍是这个音色,不用另录目标语言的底稿。
批量:api.py 与 api_v2.py 提供 HTTP 接口,默认端口 9880,脚本循环调用即可批量合成一整套文案。
手写训练列表:不想点界面时,列表格式为每行一条、竖线分隔音频路径|说话人|语言|文本:
./a.wav|我|zh|会议开始,先同步进度想抠原理,从这几个目录看起:
- GPT_SoVITS/AR/ — GPT 侧自回归生成音素序列
- GPT_SoVITS/module/ — SoVITS 声学模型结构与 VQ 量化
- GPT_SoVITS/TTS_infer_pack/ — 推理主流程与多语言文本预处理
- GPT_SoVITS/prepare_datasets/ — ASR、特征提取、语义特征三步预处理
- docs/cn/README.md — 中文文档,参数速查
先从自己人声里截 5 秒跑一遍零样本,听完再决定要不要补 1 分钟微调,这是成本最低的路径。
【免费下载链接】GPT-SoVITS1 min voice data can also be used to train a good TTS model! (few shot voice cloning)项目地址: https://gitcode.com/GitHub_Trending/gp/GPT-SoVITS
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考