一个 1.8GB 的本地 AI 模型现在可以在 Ryzen CPU 上克隆声音并叙述整本有声书。
无需 GPU。👀
这是 TTS 语音模型,Tontaube V1.1。
基于 Qwen3 构建,以下是规格……
🧠 2.9B 文本转语音模型
💾 1.8GB 4-bit GPTQ 权重
🎙️ 从 5–60 秒音频进行声音克隆
📚 长篇有声书生成
🎛️ 控制语速、音高、停顿、语调和发音
性能数据
🔴 Ryzen 9 5900X → ~1× 实时
🟢 RTX 3090 → 6–7× 实时
🟢 RTX 5090 → ~13× 实时(单次请求)
🔥 RTX 5090 → 21–23× 实时(批量)
4-bit 模型加载需 ~4GB VRAM,长文本峰值使用 ~6.5GB。
⚙️ 专属推理服务器 + AVX2 CPU 内核
💻 Linux / Windows 通过 WSL2
🔓 开放权重,自定义社区许可
我们努力尝试将更大的 LLM 运行在我们的硬件上,但看看那些开始适配普通桌面 CPU 的 AI 能力吧。
🎯 你可以将整本书变成用你自己声音的有声书。本地运行。
HuggingFace link to Tontaube V1.1
http://t.cn/AXYFgK3h
发布于 北京
