Easy
26-06-18 14:50 微博认证:AI博主

#Easy同学正在独立开发# 蚂蚁百灵发布了 Ming-omni-tts-16.8B-A3B ,感觉是一个很适合 local 的模型。

于是在 Mac Mini M4 32G 上测试了下社区转的 MLX 版本。 bf16 太大了,还自己量化为了 8bit。测试了各种功能,速度和质量还是比较满意的。效果看视频。 http://t.cn/AXan6Fxc ​

发布于 重庆