斌叔OKmath
26-11-16 08:19 微博认证:橙旭园CEO 教育博主

一个 1.8GB 的本地 AI 模型现在可以在 Ryzen CPU 上克隆声音并叙述整本有声书。

无需 GPU。👀

这是 TTS 语音模型,Tontaube V1.1。

基于 Qwen3 构建,以下是规格……
🧠 2.9B 文本转语音模型
💾 1.8GB 4-bit GPTQ 权重
🎙️ 从 5–60 秒音频进行声音克隆
📚 长篇有声书生成
🎛️ 控制语速、音高、停顿、语调和发音

性能数据
🔴 Ryzen 9 5900X → ~1× 实时
🟢 RTX 3090 → 6–7× 实时
🟢 RTX 5090 → ~13× 实时(单次请求)
🔥 RTX 5090 → 21–23× 实时(批量)

4-bit 模型加载需 ~4GB VRAM,长文本峰值使用 ~6.5GB。

⚙️ 专属推理服务器 + AVX2 CPU 内核
💻 Linux / Windows 通过 WSL2
🔓 开放权重,自定义社区许可

我们努力尝试将更大的 LLM 运行在我们的硬件上,但看看那些开始适配普通桌面 CPU 的 AI 能力吧。

🎯 你可以将整本书变成用你自己声音的有声书。本地运行。

HuggingFace link to Tontaube V1.1

http://t.cn/AXYFgK3h

发布于 北京