好家伙,视频生成提速100倍,生成的时间<视频持续时间,还是用wan 2.1蒸馏的。
{TurboDiffusion: Video Generation Acceleration Framework + 视频生成百倍加速框架}
🧐{清华大学与生数科技联合推出的视频生成加速框架,通过组合低比特注意力机制(SageAttention)、稀疏线性注意力(SLA)和时间步蒸馏(rCM)技术,在单张RTX 5090显卡上将视频生成速度提升100-200倍(从几分钟缩短至几秒),实现近乎实时的端到端视频生成。}
➡️链接:http://t.cn/AXUp5FdI
✨重点
●🚀 百倍级端到端加速:在单张RTX 5090 GPU上,TurboDiffusion能将视频生成时间从原本的184秒大幅压缩至1.9秒,实现100-200倍的端到端速度提升。
●🧠 三大核心技术栈:该框架并非单一优化,而是集成了SageAttention(低比特量化注意力)、SLA(稀疏线性注意力)和rCM(一致性模型蒸馏)三种技术,分别解决计算精度、注意力复杂度和采样步数问题。
●⚡ SageAttention低比特量化:利用8-bit量化的SageAttention2++算法,通过异常值平滑和细粒度量化,在Tensor Core上高效运行,显著降低显存占用并提升计算吞吐量。
●📉 SLA稀疏线性注意力:通过将原本的全注意力(Full Attention)替换为可训练的稀疏线性注意力(Sparse-Linear Attention),在保持模型表现的同时大幅降低计算复杂度,该模块通常需要数百步的微调。
●⏳ rCM时间步蒸馏:采用Retentive Consistency Model(rCM)进行时间步蒸馏,将扩散模型的采样步数从原本的数十上百步压缩至极少数(如4-8步),这是速度提升的关键来源之一。
●📹 支持Wan视频模型:目前主要针对Wan(1.3B和14B参数量)的文生视频模型进行优化,展示了在保持视频连贯性和细节(如物体运动、光影反射)的同时实现极速生成。
●🛠️ 并行微调策略:训练时采用并行策略,一支路负责SLA的结构适应微调,另一支路负责rCM的蒸馏,最终将两者的参数融合,既保证了结构效率又减少了推理步数。
●💻 硬件与部署门槛:虽然演示使用了RTX 5090,但框架旨在降低高性能视频生成的门槛,支持通过pip install turbodiffusion快速安装,并提供了详细的源码编译方式。
#AI白日梦想家[超话]# #ai创造营# #ai生活指南#
