Vuelta más rápida al video local con SageAttention y TeaCache

Generar video localmente en una GPU de consumo aún lleva minutos por clip. Cinco técnicas — SageAttention, TeaCache, Triton, cuantización y modelos paso a paso (distilled) — atacan un cuello de botella distinto. Esta guía resume qué hace cada método, los speedups medidos, las pérdidas de calidad y los pasos exactos de instalación que funcionan en Windows y Linux.

TL;DR

• SageAttention cambia el kernel de atención por versiones cuantificadas en INT8/FP8: 2–5× de speedup en el kernel en Ampere/Ada/Hopper; los benchmarks oficiales reportan 2.1x sobre FA2 y 2.7x sobre xformers. Con SageAttention3, una RTX5090 alcanza 1.038 TOPS — un speedup de 5× sobre el FlashAttention más rápido. La librería ofrece cuatro versiones; V2.2.0 incluye V2++. Instala con pip install sageattention==2.2.0 --no-build-isolation (necesita CUDA ≥12.0, Triton ≥3.0).
• LTXVideo 0.9.6 distilled corre en 8 pasos sin CFG/STG; el repo reporta 15× más rápido que el no distilled (GPU no especificado), con generación en tiempo real en H100. Los tiempos en GPU de consumo no están documentados.
• Los pesos de modelo FP8/INT8 recortan la VRAM y pueden acelerar las matmuls en Ada/Hopper/Blackwell; SageAttention ya usa FP8 para la proyección de valores.
• Triton compila el kernel V1 de SageAttention; SageAttention 2.2.0+ usa kernels CUDA más rápidos en su lugar.

¿Cuánto más rápida es SageAttention frente a FlashAttention?

El paper de SageAttention reporta 2.1× más throughput que FlashAttention-2 y 2.7× sobre xformers en los kernels de atención. End-to-end en CogVideoX-1.5-5B (GPU H20): FlashAttention-2 tarda 25 min 34 s, FlashAttention-3-FP8 tarda 12 min 14 s, y SageAttention termina en 12 min 7 s. En una RTX 5090, SageAttention 3 llega a 1.038 TOPS — un speedup de 5× en el kernel sobre la build de FlashAttention más rápida. La librería ofrece cuatro versiones; V2.2.0 incluye V2++ y es el punto de partida recomendado. Para las implicaciones de VRAM de la atención cuantizada en GPU de consumo, ver Requisitos de VRAM para modelos de imagen y video.

Fuente: repo de SageAttention (https://github.com/thu-ml/SageAttention), paper ICLR 2025 (arXiv:2410.02367), paper NeurIPS 2025 Spotlight (arXiv:2505.11594).

¿Qué umbral debo usar para TeaCache?

TeaCache salta pasos de denoising cuyas incrustaciones de timestep se parecen a un paso ya calculado. El parámetro teacache_thresh controla la sensibilidad: Modelo / Tarea | Baseline | Umbral 0.05 | Umbral 0.13–0.26 | Umbral 0.30 | Fuente

|--------------|----------|----------------|---------------------|----------------|--------

Wan2.1 T2V 1.3B | ~175 s | ~117 s | ~88 s | — | README de TeaCache Wan2.1 I2V 480P | ~385 s | ~241 s (0.13) | ~156 s (0.26) | — | README de TeaCache Wan2.1 I2V 720P | ~903 s | ~476 s (0.20) | ~363 s (0.30) | — | README de TeaCache Los umbrales más bajos preservan la calidad pero dan menos speedup. El flag use_ref_steps añade un segundo impulso de velocidad con una fidelidad algo mejor (excepto en T2V 1.3B). Todas las cifras son del README oficial de TeaCache-for-Wan2.1 en A800.

Fuente: https://github.com/ali-vilab/TeaCache/blob/main/TeaCache4Wan2.1/README.md

¿Funciona SageAttention con Wan2.1?

Sí. El README de SageAttention demuestra CogVideoX y los autores señalan que funciona en modelos de lenguaje, imagen y video. Para los DiT de video, los mantenedores recomiendan sustituir la atención solo dentro del bloque DiT, no sobrescribir globalmente F.scaled_dot_product_attention. Un flujo de trabajo de ComfyUI que combina SageAttention y TeaCache para Wan2.1 I2V 720P circula en Civitai, pero el speedup combinado (54 % más rápido, 542 s → 248 s en RTX 4090, 33 frames, 20 pasos) viene de un único benchmark comunitario — no existen cifras combinadas oficiales. Para la arquitectura Wan 2.2 MoE más reciente, ver Wan 2.2 High Noise vs Low Noise LoRA Workflow.

Fuente: notas de uso del repo de SageAttention; artículo de Civitai #12250 (benchmark comunitario).

¿Cómo instalo Triton y SageAttention en Windows?

SageAttention 2.2.0 ya no requiere Triton en tiempo de ejecución, pero V1 y el proceso de compilación sí. La comunidad de Civitai distribuye un instalador de dos archivos batch para ComfyUI Portable (Python 3.12) que descarga el toolkit de CUDA 12.8 y compila Triton. Los requisitos oficiales son más permisivos: GPU arch | CUDA mínimo

|----------|--------------

Ampere (RTX 30-series) | 12.0 Ada (RTX 40-series) FP8 | 12.4 Hopper (H100) FP8 | 12.3 Blackwell (RTX 50-series) / V2++ | 12.8 Comando de instalación (Linux o Windows con el toolkit presente):

pip install sageattention==2.2.0 --no-build-isolation

Si ComfyUI muestra un error al pasar --use-sage-attention, la compilación falló — vuelve a ejecutar los archivos batch o revisa la salida del compilador. Para problemas de configuración del entorno de ComfyUI, ver ComfyUI Import Errors: Fix Python Env & CUDA Mismatches.

Fuente: guía de instalación del repo de SageAttention; artículo de Civitai #12851 (instalador comunitario para Windows).

¿Qué coste de calidad tienen los modelos de video paso a paso (distilled)?

LTXVideo 0.9.6 distilled (2 B de parámetros) descarta CFG y STG por completo, corre en 8 pasos (config: guidance_scale: 1, stg_scale: 0, num_inference_steps: 8, stochastic_sampling: true), y se describe como 15× más rápido que el modelo no distilled (GPU no especificado en las release notes). Las release notes de LTXVideo afirman que el modelo distilled es "Still real time on H100"; la variante de 13 B v0.9.7 genera HD en ~10 s en H100 con un preview de baja resolución de 3 s. No hay cifras de FVD/FID ni comparaciones en GPU de consumo publicadas. El repo oficial señala que el muestreo estocástico puede mejorar la calidad visual en el modelo distilled.

Fuente: release notes del repo LTXVideo (https://github.com/Lightricks/LTX-Video) y config ltxv-2b-0.9.6-distilled.yaml.

FP8 vs INT8: ¿cuál debo usar?

Formato | Dónde aplica | Soporte hardware | Uso típico en video

|--------|------------------|------------------|----------------------

FP8 (E4M3/E5M2) | Pesos del modelo, PV en SageAttention | Ada, Hopper, Blackwell | Checkpoints FP8 de LTXVideo; SageAttention V2 INT8 | QK^T en SageAttention V2/V2++ | Ampere, Ada, Hopper | Solo kernels de SageAttention SageAttention V2 cuantifica QK^T a INT8 con suavizado por hilo y PV a FP8 con acumulación de dos niveles. LTXVideo incluye safetensors FP8 tanto para el modelo base como para el distilled (ltxv-13b-0.9.7-dev-fp8, ltxv-13b-0.9.7-distilled-fp8). Los modelos cuantificados usan menos VRAM; las ganancias de velocidad dependen de si el kernel de atención o las capas lineales son el cuello de botella.

Fuente: tabla de kernels del repo de SageAttention; release notes del repo LTXVideo.

Errores comunes y soluciones

Síntoma | Causa probable | Solución

|---------|--------------|-----

pip install sageattention falla en Windows | Falta el toolkit de CUDA o el wheel de Triton | Instala CUDA ≥ 12.0 (≥ 12.8 para RTX 50-series), luego vuelve a ejecutar pip install sageattention==2.2.0 --no-build-isolation --use-sage-attention bloquea ComfyUI | SageAttention no compilado o versión incorrecta | Ejecuta el instalador batch de dos pasos de Civitai #12851 o recompila desde la fuente TeaCache pierde detalle con umbrales altos | teacache_thresh demasiado alto | Baja el umbral (p. ej., 0.30 → 0.20 para I2V 720P) SageAttention V1 más lento que FlashAttention-2 | El backend de Triton es más lento que los kernels CUDA | Actualiza a SageAttention 2.2.0+

FAQ

¿Cuánto más rápido es SageAttention frente a FlashAttention? El throughput del kernel es 2.1–2.7× superior a FlashAttention-2/xformers; end-to-end CogVideoX-1.5-5B en H20: 12 min 7 s frente a 12 min 14 s (FA3-FP8) y 25 min 34 s (FA2). En RTX 5090, SageAttention 3 alcanza 5× de speedup en el kernel.

¿Qué umbral debo usar para TeaCache? Empieza en 0.20–0.26 para I2V 480P/720P; baja si sufre la calidad. Usa use_ref_steps para más velocidad con igual o mejor fidelidad (excepto T2V 1.3B).

¿Funciona SageAttention con Wan2.1? Sí. Sustituye la atención solo en el bloque DiT, no globalmente. Un flujo de trabajo comunitario de ComfyUI lo combina con TeaCache para Wan2.1 I2V 720P.

¿Cómo instalo Triton y SageAttention en Windows? Usa el instalador de dos lotes para ComfyUI Portable (Python 3.12, CUDA 12.8) o pip install sageattention==2.2.0 --no-build-isolation tras instalar CUDA ≥ 12.0 y Triton ≥ 3.0.

¿Qué coste de calidad tienen los modelos de video paso a paso (distilled)? LTXVideo distilled descarta CFG/STG, corre en 8 pasos, 15× más rápido que el no distilled (GPU no especificado en las release notes); en H100 la generación es en tiempo real. No existen comparaciones públicas de FVD/FID ni en GPU de consumo; el muestreo estocástico puede recuperar algo de detalle.

¿Es LTXVideo 0.9.6 distilled mejor que el modelo base? Más rápido y ligero, pero la calidad en GPU de consumo no está documentada. El modelo base aún soporta resoluciones más altas y guía para la máxima fidelidad.

¿Puedo combinar SageAttention y TeaCache? Un flujo de trabajo comunitario lo hace para Wan2.1 I2V 720P, reportando 54 % de speedup total (542 s → 248 s en RTX 4090). Los benchmarks oficiales solo prueban cada técnica por separado.

¿Funciona SageAttention en GPU AMD? No hay soporte ni benchmarks públicos; todos los kernels apuntan a NVIDIA Ampere/Ada/Hopper/Blackwell.