写在前面
如果你关注过开源语音合成(TTS)领域,大概对 Kokoro 这个名字不陌生。作为一个轻量级、多语言的 TTS 模型,Kokoro 凭借 82M 参数量和 Apache-2.0 开源协议,在社区里收获了不少关注。不过,Kokoro 的原生实现主要是 Python 生态,依赖 PyTorch 和大量的 Python 运行时——这在生产环境中往往会带来部署体积大、启动慢、并发能力受限等问题。
那么问题来了:能不能把 Kokoro 搬到 Rust 里,跑出更高的效率?
答案就是今天要聊的主角——kokoroi-rs。
kokoroi-rs 是 Kokoro TTS 的 Rust 实现,基于 ONNX Runtime 进行推理,提供 CLI 工具和 HTTP API 服务两种使用方式。
简单来说,它把 Kokoro 的 Python 实现用 Rust 重写了一遍,并且通过 ONNX 格式的模型文件来驱动推理。这样做的好处非常直接:更小的部署体积、更快的启动速度、更高的并发吞吐——对于想把 TTS 能力集成到后端服务里的开发者来说,这些优势几乎都是刚需。
为什么是 Rust + ONNX?
在深入介绍功能之前,先聊聊技术选型背后的逻辑。
Kokoro 原生是 Python + PyTorch 的实现,而 kokoroi-rs 选择了 Rust + ONNX Runtime 的组合。这个选择带来了几个核心优势:
零运行时依赖:Rust 编译成静态二进制,不需要装 Python 环境、不需要装 PyTorch、不需要担心版本冲突。尤其是 Linux 下采用 musl 全静态编译,拷过去就能跑。
高性能推理:ONNX Runtime 本身针对 CPU/GPU 推理做了大量优化,配合 Rust 的多线程流水线架构,实时率可以达到 5-10 倍。
内存安全:Rust 的所有权模型保证了在多线程场景下不会出现数据竞争,这对于需要并行处理多个 TTS 请求的服务端来说尤为重要。
核心功能一览
kokoroi-rs 目前提供了两种主要的使用方式:CLI 命令行工具和 HTTP API 服务。
CLI 工具:简单直接的语音合成
如果你只是想快速把一段文字转成语音,CLI 工具是最直接的方式:
基本用法
./koko --text “你好,欢迎使用 Kokoro 语音合成系统。” -o output.wav
从文件读取文本
./koko -i input.txt -o output.wav
指定发音人风格
./koko --text “今天天气真好” --style zf_xiaobei -o output.wav
调整语速和线程数
./koko --text “大家好” --speed 1.2 --threads 4 -o output.wav
直接播放音频(需要 aplay 或 ffplay)
./koko --text “播放测试” --play
对于批量处理、脚本集成等场景,CLI 工具已经足够好用。
HTTP API 服务:为生产环境而生
对于需要把 TTS 能力集成到 Web 应用、小程序、智能助手等场景的开发者来说,HTTP API 服务才是重头戏。
启动服务只需要一行命令:
./kokoros-server
默认监听 0.0.0.0:3000,打开浏览器就能看到 Web 演示界面。
服务提供了几个核心 API 端点:
方法 路径 说明
GET / Web 演示页面
GET /health 健康检查
GET /voices 获取所有可用发音人
POST /tts 文本转语音(返回 WAV Base64)
POST /tts/stream 流式文本转语音(SSE)
其中 SSE 流式接口是一个很有意思的设计——音频可以边生成边推送给客户端,特别适合 Web 端低延迟交互场景,比如 AI 对话助手的实时语音回复。
系统架构
下面是 kokoroi-rs 的整体架构图:
输出层
推理层
输入层
核心处理层
路由分发
TTS 引擎核心
G2P 字素转音素
智能文本分片
CLI 命令行
HTTP API 服务
SSE 流式接口
ONNX Runtime
Kokoro ONNX 模型
发音人数据
WAV 音频
流式音频
整个架构分为四层:
输入层:支持 CLI、HTTP REST API 和 SSE 流式三种接入方式,覆盖从脚本调用到 Web 集成的各种场景。
核心处理层:包含路由分发、TTS 引擎、G2P(字素转音素)引擎和智能文本分片模块。其中智能分片策略基于音素限制,能在生成速度和自然度之间取得平衡。
推理层:基于 ONNX Runtime 加载 Kokoro 模型和发音人数据进行推理。多线程流水线架构支持并行生成。
输出层:支持标准 WAV 格式输出和 SSE 流式输出。
发音人支持:50+ 种选择
kokoroi-rs 继承了 Kokoro 的多语言、多风格发音人体系,总共支持 50+ 种发音人:
前缀 语言 示例
zf_, zm_ 中文 zf_xiaobei, zm_yunyang
af_, am_ 英文 af_bella, am_adam
jf_, jm_ 日文 jf_alpha, jm_kumo
bf_, bm_ 英式英文 bf_alice, bm_daniel
ef_, em_ 西班牙文 ef_dora, em_alex
ff_ 法文 ff_siwis
hf_, hm_ 印地文 hf_alpha, hm_omega
中文发音人包括 zf_xiaobei、zm_yunyang 等,覆盖了不同的音色风格。对于需要多语言混读的场景(比如中英混输),kokoroi-rs 内置的 G2P 引擎也能较好地处理。
部署友好:多平台静态编译
对于后端开发者来说,部署的便利性往往决定了是否愿意采用某个工具。kokoroi-rs 在这方面做得相当到位:
Linux 平台:采用 musl 全静态编译,生成的可执行文件不依赖任何外部动态库。无论是 x86_64 还是 ARM64 架构,拷过去就能直接运行。
Windows 平台:采用 MSVC 编译,onnxruntime.dll 已打包在压缩包内,解压即用。
这意味着什么?意味着你不需要在服务器上装 Python、不需要配 PyTorch 环境、不需要担心 CUDA 版本兼容性——一个二进制文件 + 一个模型文件,就搞定了整套 TTS 服务。
性能表现
根据项目文档,kokoroi-rs 的多线程流水线架构支持并行生成,实时率可达 5-10 倍。简单来说,生成 1 秒钟的音频,实际耗时只有 0.1-0.2 秒。
这个性能水平意味着:
对于 Web 应用,用户几乎感觉不到等待延迟
对于批量处理任务,可以大幅缩短总耗时
对于流式场景,音频可以边生成边播放,体验更流畅
快速上手
- 下载二进制文件
从项目的 Releases 页面下载对应平台的编译产物:
平台 文件
x86_64 Linux kokoro-x86_64-unknown-linux-musl.tar.gz
ARM64 Linux kokoro-aarch64-unknown-linux-musl.tar.gz
x86_64 Windows kokoro-x86_64-pc-windows-msvc.zip
2. 下载模型文件
需要准备三个文件:
models/kokoro-v1.0.onnx(约 80MB)
data/voices-v1.0.bin(约 150MB)
config.toml(项目根目录已提供)
模型可以从 Kokoro 官方项目下载,或者运行项目自带的 ./scripts/download_models.sh 脚本自动获取。
- 开始使用
CLI 模式:
./koko --text “你好世界” -o output.wav
实战示例:使用 curl 调用 HTTP API 生成语音并保存为文件。先确保 kokoros-server 已在后台运行,然后执行以下脚本:
#!/bin/bash
调用 /tts 接口生成语音并保存为 WAV 文件
curl -X POST http://localhost:3000/tts
-H “Content-Type: application/json”
-d ‘{“text”: “你好,欢迎使用 kokoroi-rs 语音合成引擎。”, “voice”: “zf_xiaobei”}’
-o response.json
从返回的 JSON 中提取 Base64 音频数据并解码为 WAV 文件
python3 -c "
import json, base64
data = json.load(open(‘response.json’))
wav_bytes = base64.b64decode(data[‘audio’])
with open(‘output.wav’, ‘wb’) as f:
f.write(wav_bytes)
print(‘语音已保存为 output.wav’)
"
服务模式:
./kokoros-server
访问 http://localhost:3000 即可体验 Web 界面
实战示例:使用 Python requests 库调用 /tts 和 /tts/stream 接口,展示同步和流式两种调用方式。
import requests
import base64
import json
服务地址
BASE_URL = “http://localhost:3000”
1. 同步调用 /tts 接口
def tts_sync(text: str, voice: str = “zf_xiaobei”, output_file: str = “sync_output.wav”):
“”“调用 /tts 接口生成语音并保存为 WAV 文件”“”
resp = requests.post(
f"{BASE_URL}/tts",
json={“text”: text, “voice”: voice}
)
resp.raise_for_status()
data = resp.json()
wav_bytes = base64.b64decode(data[“audio”])
with open(output_file, “wb”) as f:
f.write(wav_bytes)
print(f"同步合成完成,语音已保存至 {output_file}")
2. 流式调用 /tts/stream 接口
def tts_stream(text: str, voice: str = “zf_xiaobei”, output_file: str = “stream_output.wav”):
“”“通过 SSE 流式接口逐块接收音频数据并合并保存”“”
resp = requests.post(
f"{BASE_URL}/tts/stream",
json={“text”: text, “voice”: voice},
stream=True
)
resp.raise_for_status()
audio_chunks = []
for line in resp.iter_lines():
if line:
decoded = line.decode(“utf-8”)
if decoded.startswith("data: "):
chunk = decoded[6:] # 去掉 "data: " 前缀
if chunk == “[DONE]”: