Vídeo local mais rápido com SageAttention & TeaCache

Gerar vídeo localmente em uma GPU de consumo ainda leva minutos por clipe. Cinco técnicas — SageAttention, TeaCache, Triton, quantização e modelos destilados com menos passos — atacam gargalos diferentes. Este guia resume o que cada método faz, as acelerações medidas, as compensações de qualidade e as etapas exatas de instalação que funcionam em Windows e Linux.

TL;DR

• SageAttention troca o kernel de atenção por versões quantizadas INT8/FP8: aceleração de 2–5× no kernel em Ampere/Ada/Hopper; os benchmarks oficiais relatam 2,1× sobre FA2 e 2,7× sobre xformers. Com SageAttention3, a RTX5090 atinge 1.038 TOPS — 5× mais rápido que o FlashAttention mais rápido. A biblioteca oferece quatro versões; V2.2.0 inclui V2++. Instale com pip install sageattention==2.2.0 --no-build-isolation (requer CUDA ≥12.0, Triton ≥3.0).
• LTXVideo 0.9.6 destilado roda em 8 passos sem CFG/STG; o repositório relata 15× mais rápido que o não destilado (GPU não especificado), com geração em tempo real em H100. Tempos em GPU de consumo não estão documentados.
• Pesos de modelo FP8/INT8 reduzem VRAM e podem acelerar matmuls em Ada/Hopper/Blackwell; o SageAttention já usa FP8 para a projeção de valor.
• Triton compila o kernel V1 do SageAttention; SageAttention 2.2.0+ usa kernels CUDA mais rápidos.

Fonte: repositório SageAttention, artigo ICLR 2025 (arXiv:2410.02367), artigo NeurIPS 2025 Spotlight (arXiv:2505.11594).

Qual limiar devo usar para o TeaCache?

O TeaCache pula passos de desruído cujos embeddings de timestep se assemelham a um passo já calculado. O parâmetro teacache_thresh controla a sensibilidade:

Modelo / Tarefa | Linha de base | Limiar 0,05 | Limiar 0,13–0,26 | Limiar 0,30 --------------|----------|----------------|---------------------|-------- Wan2.1 T2V 1.3B | ~175 s | ~117 s | ~88 s | — Wan2.1 I2V 480P | ~385 s | ~241 s (0,13) | ~156 s (0,26) | — Wan2.1 I2V 720P | ~903 s | ~476 s (0,20) | ~363 s (0,30) | —

Liares mais baixos preservam a qualidade, mas dão menos aceleração. A flag use_ref_steps adiciona um segundo ganho de velocidade com fidelidade levemente melhor (exceto em T2V 1.3B). Todos os números vêm do README oficial TeaCache-for-Wan2.1 em A800 (TeaCache README).

O SageAttention funciona com Wan2.1?

Sim. O README do SageAttention demonstra CogVideoX e os autores observam que funciona em modelos de linguagem, imagem e vídeo. Para DiTs de vídeo, os mantenedores recomendam substituir a atenção somente dentro do bloco DiT, não sobrescrevendo globalmente F.scaled_dot_product_attention. Um workflow do ComfyUI combinando SageAttention e TeaCache para Wan2.1 I2V 720P circula no Civitai, mas a aceleração combinada (54 % mais rápido, 542 s → 248 s em RTX 4090, 33 quadros, 20 passos) vem de um único benchmark da comunidade — não existem números oficiais combinados. Para a arquitetura Wan 2.2 MoE mais nova, veja Wan 2.2: workflow de LoRA High Noise vs Low Noise.

Fonte: notas de uso do repositório SageAttention; artigo Civitai #12250 (benchmark da comunidade).

Como instalo Triton e SageAttention no Windows?

SageAttention 2.2.0 não requer mais Triton em runtime, mas V1 e o processo de build exigem. A comunidade do Civitai distribui um instalador de dois batch files para ComfyUI Portable (Python 3.12) que baixa o toolkit CUDA 12.8 e compila o Triton. Os requisitos oficiais são mais permissivos:

Arquitetura da GPU | CUDA mínimo ----------|-------------- Ampere (RTX 30-series) | 12.0 Ada (RTX 40-series) FP8 | 12.4 Hopper (H100) FP8 | 12.3 Blackwell (RTX 50-series) / V2++ | 12.8

Comando de instalação (Linux ou Windows com toolkit presente):

pip install sageattention==2.2.0 --no-build-isolation

Se o ComfyUI mostrar erro ao passar --use-sage-attention, o build falhou — re-execute os batch files ou verifique a saída do compilador. Para problemas de configuração do ambiente do ComfyUI, veja Erros de importação do ComfyUI: corrija o ambiente Python e incompatibilidades de CUDA.

Fonte: guia de instalação do repositório SageAttention; artigo Civitai #12851 (instalador Windows da comunidade).

Qual é a compensação de qualidade dos modelos de vídeo destilados com menos passos?

LTXVideo 0.9.6 destilado (2 B parâmetros) elimina CFG e STG por completo, roda em 8 passos (config: guidance_scale: 1, stg_scale: 0, num_inference_steps: 8, stochastic_sampling: true), e é descrito como 15× mais rápido que o modelo não destilado (GPU não especificado nas notas de release). As notas de release do LTXVideo afirmam que o modelo destilado é "Ainda em tempo real em H100"; a variante 13 B v0.9.7 gera HD em ~10 s em H100 com preview de baixa resolução em 3 s. Nenhum número de FVD/FID ou comparação em GPU de consumo é publicado. O repositório oficial observa que amostragem estocástica pode melhorar a qualidade visual no modelo destilado.

Fonte: repositório LTXVideo, notas de release e config ltxv-2b-0.9.6-distilled.yaml.

Quantização FP8 vs INT8: qual devo usar?

Formato | Onde se aplica | Suporte de hardware | Uso típico em vídeo --------|----------------|------------------|---------------------- FP8 (E4M3/E5M2) | Pesos do modelo, PV no SageAttention | Ada, Hopper, Blackwell | Checkpoints FP8 do LTXVideo; SageAttention V2 INT8 | QK^T no SageAttention V2/V2++ | Ampere, Ada, Hopper | Somente kernels do SageAttention

O SageAttention V2 quantiza QK^T para INT8 com suavização por thread e PV para FP8 com acumulação em dois níveis. O LTXVideo distribui safetensors FP8 para os modelos base e destilado (ltxv-13b-0.9.7-dev-fp8, ltxv-13b-0.9.7-distilled-fp8). Modelos quantizados usam menos VRAM; o ganho de velocidade depende de se o gargalo é o kernel de atenção ou as camadas lineares.

Fonte: tabela de kernels do repositório SageAttention; repositório LTXVideo, notas de release.

Erros comuns e correções

Sintoma | Causa provável | Correção ---------|--------------|----- pip install sageattention falha no Windows | CUDA toolkit ou wheel do Triton ausente | Instale CUDA ≥ 12.0 (≥ 12.8 para RTX 50-series), depois re-execute pip install sageattention==2.2.0 --no-build-isolation --use-sage-attention quebra o ComfyUI | SageAttention não compilou ou versão errada | Execute o instalador de dois batch files do Civitai #12851 ou recompile a partir da fonte TeaCache perde detalhe em limiares altos | teacache_thresh configurado alto demais | Reduza o limiar (ex.: 0,30 → 0,20 para I2V 720P) SageAttention V1 mais lento que FlashAttention-2 | Backend Triton mais lento que kernels CUDA | Atualize para SageAttention 2.2.0+

FAQ

Quão mais rápido é o SageAttention em comparação com o FlashAttention? O throughput do kernel é 2,1–2,7× maior que FlashAttention-2/xformers; de ponta a ponta no CogVideoX-1.5-5B em H20: 12 min 7 s vs 12 min 14 s (FA3-FP8) e 25 min 34 s (FA2). Em RTX 5090, o SageAttention 3 atinge 5× de aceleração no kernel.

Qual limiar devo usar para o TeaCache? Comece em 0,20–0,26 para I2V 480P/720P; reduza se a qualidade sofrer. Use use_ref_steps para velocidade extra com fidelidade igual ou melhor (exceto T2V 1.3B).

O SageAttention funciona com Wan2.1? Sim. Substitua a atenção somente no bloco DiT, não globalmente. Um workflow da comunidade no ComfyUI o combina com TeaCache para Wan2.1 I2V 720P.

Como instalo Triton e SageAttention no Windows? Use o instalador de dois batch files para ComfyUI Portable (Python 3.12, CUDA 12.8) ou pip install sageattention==2.2.0 --no-build-isolation após instalar CUDA ≥ 12.0 e Triton ≥ 3.0.

Qual é a compensação de qualidade dos modelos de vídeo destilados com menos passos? O LTXVideo destilado elimina CFG/STG, roda em 8 passos, 15× mais rápido que o não destilado (GPU não especificado nas notas de release); em H100 a geração é em tempo real. Não existem comparações públicas de FVD/FID ou de qualidade em GPU de consumo; amostragem estocástica pode recuperar parte dos detalhes.

O LTXVideo 0.9.6 destilado é melhor que o modelo base? Mais rápido e leve, mas a qualidade em GPUs de consumo não está documentada. O modelo base ainda suporta resoluções mais altas e guidance para fidelidade máxima.

Posso combinar SageAttention e TeaCache? Um workflow da comunidade faz isso para Wan2.1 I2V 720P, relatando 54 % de aceleração total (542 s → 248 s em RTX 4090). Os benchmarks oficiais testam cada técnica separadamente.

O SageAttention funciona em GPUs AMD? Sem suporte público ou benchmarks; todos os kernels visam NVIDIA Ampere/Ada/Hopper/Blackwell.