生数科技联合清华发布 TurboDiffusion提速200倍，推动视频生成迈入「实时生成」时代

随着生成式 AI 在内容创作领域的快速发展，视频生成正站在一个关键转折点上：不再只是"能不能生成"，而是进入到在保持高质量的前提下，能否更快、更低成本、更大规模应用的新阶段。

为了提高 Diffusion 模型，尤其是视频生成模型的推理速度，清华 TSAIL 实验室联合生数科技发布 Diffusion 加速框架 TurboDiffusion，其中包含了多项加速技术，可以 100-200 倍几乎无损地加速视频生成。

TurboDiffusion 主要包含四种技术来加速扩散模型：

• 首先，TurboDiffusion 使用 SageAttention 进行低比特量化注意力加速，具体采用的是 SageAttention2++ 版本。
• 其次，TurboDiffusion 使用 Sparse-Linear Attention（SLA）实现稀疏注意力加速。由于稀疏计算与低比特 Tensor Core 加速是正交的，SLA 可以构建在 SageAttention 之上，在推理过程中进一步获得数倍的额外加速。
• 第三，TurboDiffusion 引入 rCM 进行步数蒸馏加速，该方法目前属于该方向的先进方案之一。
• 最后，TurboDiffusion 对 Linear 层采用 W8A8 量化进行加速，使用 INT8 数据类型，并在 128×128 的块粒度上进行分块量化。

这 4 项核心技术均由清华大学 TSAIL 团队联合生数科技自主研发，对 AI 多模态大模型的技术突破与产业落地具有里程碑式的价值与深远影响力。其中，SageAttention 更是全球首个实现注意力计算量化加速的技术方案，已被工业界大规模部署应用。

SageAttention 已成功集成至 NVIDIA 推理引擎 TensorRT，同时完成在华为昇腾、摩尔线程 S6000 等主流 GPU 平台的部署与落地。此外，腾讯混元、字节豆包、阿里 Tora、生数 Vidu、智谱清影、百度飞桨、昆仑万维、Google Veo3、商汤、VLLM 等国内外头部科技企业及团队，均已在核心产品中应用该技术，凭借其卓越性能创造了可观的经济效益。

对于开源文生视频或图生视频模型，使用 TurboDiffusion 分别可以在单张 RTX 5090 上获得 100 倍以及最高 200 倍的端到端生成加速，详情可以见 TurboDiffusion。

在 Vidu 模型上使用 TurboDiffusion 中包含的技术也可以在不损失视频生成质量的前提下获得极高的推理加速效果。例如，在生成 1080P 分辨率、8 秒时长的高质量视频时，相比没有任何推理加速优化的视频生成，TurboDiffusion 可以将端到端的生成延迟从 900s 提速到 8s。

视频对比 1

视频对比 2

业内普遍认为，AI 视频的下一个时代，将是在保持甚至提升生成质量的同时，实现更快的生成速度、更低的计算成本和更好的用户体验，从而让企业用得起、用得上，让创作者用得顺、用得快。

TurboDiffusion 的发布，正是朝着这一方向迈出的关键一步。未来，生数科技将持续推动生成式 AI 在效率、成本与体验上的整体进化，致力于降低技术使用门槛，推动 AI 视频在更广泛场景中的落地应用，加速行业发展与技术普及。