贾凡-失落的大蒜
26-10-15 21:42 微博认证:科技博主

今天在本地跑通了 Qwen-Image-2.1-Turbo,

硬件是 RTX 4060 Ti 16GB 显存+32GB 内存,用 stable-diffusion.cpp 的 Windows CUDA 版运行 GGUF。

一开始只下载了 5.4GB 的 AD-Q5_K,后来才弄清楚:还要配上 Qwen3-VL-8B 文本编码器和专用的 2.1 VAE,三个组件齐了才能出图。

Turbo 的参数也有讲究:8 步、CFG 1、Euler,以及对应的 sigma 采样序列。开启权重卸载、Flash Attention 和 VAE 分块后,成功生成了一张 1024×1024 的橘猫图,日志记录生成耗时约 44.6 秒。采样期间看到显存占用约 7.5GiB,不过没有完整监测全程峰值。

不过用惯了GPT Image肯定受不了这种需要自己还得大量写提示词的文生图模式[泪奔]

接下来准备试试 7.59GB 的 Q8_0,看看更高精度对细节有多大改善。目前跑通的是 Q5,Q8 效果和速度等实测后再分享。

16GB 显卡,本地生图又多了一个选择。

模型下载地址:huggingface.co/AtomicChat/Qwen-Image-2.1-Turbo-GGUF

#QwenImage##本地部署##AI绘画##4060Ti#

发布于 辽宁