WAN Video en 8-12 GB: guía de cuantización GGUF
Domina la cuantización GGUF, el intercambio de bloques y SageAttention para WAN 2.2 en GPUs de 8-12 GB. Flujo completo para tarjetas serie 50.
On this page
Ejecutar WAN Video en 8-12 GB: cuantización GGUF, intercambio de bloques y SageAttention para GPUs serie 50
Los scripts de inferencia oficiales de WAN 2.2 exigen al menos 80 GB de VRAM en precisión completa. Tres técnicas de la comunidad lo reducen a un número de un solo dígito de gigabytes: cuantización de pesos GGUF, intercambio de bloques MoE y aceleración por kernel SageAttention2++. Esta guía explica qué hace cada técnica, cómo instalarla y qué valores de parámetros usar.
TL;DR
- Los modelos WAN 2.2 cuantizados en GGUF (HighNoise + LowNoise) se ejecutan con el nodo personalizado ComfyUI-GGUF; usa Q5_K_M o superior para el codificador de texto umt5-xxl
- El LoRA LightX2V destila el modelo A14B a 4 pasos de eliminación de ruido (20× más rápido, sin truco de CFG) — descargar
- SageAttention 2.2.0 con Triton ≥ 3.0.0 ofrece atención INT8 QK² + FP8 PV; requiere CUDA ≥ 12.8 en tarjetas serie 50
- Límite del intercambio de bloques MoE: 0.900 para I2V, 0.875 para T2V (fuente)
Requisitos de instalación
| Componente | Versión mínima | Fuente |
|---|---|---|
| Python | ≥ 3.9 | README de SageAttention |
| PyTorch | ≥ 2.3.0 | README de SageAttention |
| Triton | ≥ 3.0.0 | README de SageAttention |
| SageAttention | 2.2.0 (--no-build-isolation) | README de SageAttention |
| CUDA toolkit | ≥ 12.8 (Blackwell / SageAttention2++) | README de SageAttention |
| diffusers | ≥ 0.32.2 | Guía de ChronoKnight |
| transformers | ≥ 4.49.0 | Guía de ChronoKnight |
Descargas de modelos — colócalos en el directorio de modelos de ComfyUI como se indica:
| Modelo | Directorio | URL |
|---|---|---|
| Experto de ruido alto | models/diffusion_models/ | QuantStack/Wan2.2-I2V-A14B-GGUF/HighNoise |
| Experto de ruido bajo | models/diffusion_models/ | QuantStack/Wan2.2-I2V-A14B-GGUF/LowNoise |
| VAE | models/vae/ | QuantStack/Wan2.2-I2V-A14B-GGUF/VAE |
| Codificador de texto | models/text_encoders/ | city96/umt5-xxl-encoder-gguf |
| LoRA Lightning | (directorio de LoRA) | Wan2.2-I2V-A14B-4steps-lora-rank64-Seko-V1 |
Cuantización GGUF para poca VRAM
GGUF sustituye los pesos del modelo en precisión completa por representaciones cuantizadas compactas. Si todavía estás decidiendo qué puede soportar tu tarjeta, empieza por los requisitos de VRAM por modelo. El nodo personalizado ComfyUI-GGUF los carga en tiempo de inferencia con un nodo "Unet Loader (GGUF)" en lugar del cargador de modelos de difusión estándar.
Para el codificador de texto umt5-xxl, el cuantizador recomienda Q5_K_M o superior para una calidad aceptable. Los cuantos más pequeños aún pueden funcionar en escenarios con pocos recursos, pero el codificador es más sensible a la pérdida de precisión que el tronco DiT. (fuente)
La arquitectura DiT de WAN — como Flux y SD3.5 antes que ella — tolera la cuantización mejor que los modelos UNet convolucionales. Por eso GGUF funciona con WAN donde degradaría a la mayoría de los modelos de imagen de forma más notoria.
Los dos conjuntos de modelos GGUF (HighNoise y LowNoise) son conversiones directas de los pesos completos de Wan-AI/Wan2.2-I2V-A14B. Los términos de licencia originales siguen vigentes. (fuente)
LoRA LightX2V: destilación a 4 pasos
El flujo A14B predeterminado de WAN 2.2 usa 40 pasos de eliminación de ruido (confirmado por la configuración oficial: sample_steps = 40). LightX2V lo destila a 4 pasos sin CFG, con una aceleración de 20× y manteniendo la calidad de salida cercana al modelo base. (fuente)
El adaptador LoRA es de rango 64, compatible tanto con los flujos nativos de ComfyUI como con WanVideoWrapper de Kijai. El equipo de LightX2V señala una limitación conocida: los videos con movimiento extremadamente grande pueden contener artefactos, y la dirección de los vehículos puede invertirse ocasionalmente. (fuente)
Variantes de LoRA compatibles
| Variante | Tipo | Notas |
|---|---|---|
| Wan2.2-I2V-A14B-NFE4-V1 | I2V | 4 pasos, rango 64 |
| Wan2.2-T2V-A14B-NFE4-V1.1 | T2V | La calidad de V1.1 es ligeramente mejor que la de V1 |
| TI2V-5B | — | Todavía en la lista de pendientes (aún no publicado) |
(fuente)
SageAttention2++ en GPUs serie 50
SageAttention sustituye el scaled_dot_product_attention estándar por kernels cuantizados. La versión 2.2.0 incluye SageAttention2++, que usa cuantización INT8 para QK^T y FP8 para PV, con acumulación de dos niveles para preservar la precisión en las operaciones de multiplicación-acumulación matricial FP8. (fuente)
Los autores afirman una aceleración de 2–5× sobre FlashAttention sin perder métricas de extremo a extremo en modelos de lenguaje, imagen y video. (fuente)
Para WAN en concreto, el repositorio incluye un archivo de integración — example/modify_model/modify_wan.py — con una clase SageWanAttnProcessor y un ayudante set_sage_attn_wan() que parchea cada bloque de atención del transformador. Maneja tanto la autoatención (con RoPE) como la ruta de atención cruzada I2V para el contexto del codificador de imagen.
Las tarjetas serie 50 requieren CUDA ≥ 12.8 y Triton ≥ 3.0.0. La guía de ComfyUI de ChronoKnight (fuente) recorre la instalación completa: Python 3.13.2 limpio, CUDA 12.8 toolkit, Visual Studio Build Tools 2022 con carga de trabajo de escritorio C++, y luego instalar triton-windows y sageattention con pip dentro del Python embebido de ComfyUI. El autor marcó la guía como desactualizada desde la última actualización de ComfyUI, así que busca instrucciones más recientes.
Instalación rápida de SageAttention (Linux / ComfyUI estándar)
pip install sageattention==2.2.0 --no-build-isolation
En ComfyUI portable para Windows, usa el Python embebido y añade --use-sage-attention a tu .bat de inicio.
Intercambio de bloques MoE
WAN 2.2 A14B usa una arquitectura Mixture-of-Experts con dos conjuntos de transformadores — tratada en profundidad en nuestra guía sobre los expertos de ruido alto y bajo: un experto de ruido alto para la eliminación de ruido inicial y un experto de ruido bajo para las etapas posteriores. (fuente)
El WanMOE KSampler automatiza el cambio entre expertos en el paso temporal de difusión donde la relación señal-ruido cruza 1:1. El parámetro clave es boundary:
- I2V: 0.900 (configuración de origen)
- T2V: 0.875 (fuente)
La relación entre el paso temporal límite y el paso de eliminación de ruido es no lineal — depende del número total de pasos, el muestreador, el programa de ruido y el desplazamiento de sigma. (fuente)
ComfyUI-WanVideoWrapper de Kijai adopta un enfoque distinto: intercambia bloques individuales del transformador entre la GPU y la RAM del sistema durante la inferencia, lo que permite que el modelo quepa en la VRAM muy por debajo de su huella nativa. Los pesos LoRA sin fusionar ahora se tratan como búferes de bloque e intercambian junto con los bloques. (fuente)
Configuración I2V A14B de un vistazo
boundary: 0.900
sample_steps: 40
vae_stride: [4, 8, 8]
patch_size: [1, 2, 2]
dim: 5120
ffn_dim: 13824
num_heads: 40
num_layers: 40
sample_shift: 5.0
sample_guide_scale: [3.5, 3.5]
(fuente)
Lo que reportan las fuentes sobre VRAM y velocidad
El informe marcó explícitamente los presupuestos de VRAM y los tiempos de generación como brechas — ninguna fuente primaria da números verificados en tarjetas distintas. Lo que sí reportan los artículos de la comunidad:
| Métrica | Valor | Tarjeta | Fuente |
|---|---|---|---|
| Tiempo de generación I2V (video de 5 s) | ~15 minutos | RTX 3060 12 GB, 1440×960 @ 60 fps, 6 pasos | arkinson |
| Tiempo de generación T2V (video de 5 s) | ~10–12 minutos | RTX 3060 12 GB, 1440×960 @ 60 fps, 6 pasos | arkinson |
| Requisito de VRAM del modelo base | ≥ 80 GB | Cualquier tarjeta, precisión completa, sin cuantización | Wan-Video/Wan2.2 |
La salida 1440×960 @ 60 fps proviene de un escalado 2× y una multiplicación de 4× en la tasa de fotogramas aplicados después de la generación base — no de inferencia nativa en alta resolución. (fuente)
Tanto el flujo de arkinson como la guía de ChronoKnight para la serie 50 han sido marcados como desactualizados por sus autores. (fuentes, 13010)
Para el conjunto más amplio de técnicas de velocidad más allá del trabajo con poca VRAM, consulta acelerar la generación local de video.
Errores comunes
| Síntoma | Causa | Solución |
|---|---|---|
| Falla la instalación de SageAttention | Versión de CUDA incorrecta o falta de herramientas de compilación C++ | CUDA ≥ 12.8, Visual Studio Build Tools 2022 con carga de trabajo C++ (fuente) |
| Triton no compila en la serie 50 | Uso del Triton estándar en lugar de triton-windows | Instala el paquete triton-windows, no el triton estándar (fuente) |
| Pico de OOM en la primera ejecución de torch.compile | Caché de Triton antiguo o pytorch/triton obsoletos | Borra los directorios temporales ~/.triton y torchinductor_* (fuente) |
| El LoRA aumenta la VRAM de forma inesperada | Los pesos LoRA ahora son búferes de bloque en WanVideoWrapper | Intercambia más bloques para compensar (p. ej., +2 bloques por cada LoRA de 1 GB) (fuente) |
Preguntas frecuentes
¿Qué nivel de cuantización GGUF debo usar para el codificador de texto?
Q5_K_M o superior. El repositorio de city96 señala que este cuant no usa imatrix, por lo que los cuantos más pequeños se degradan más rápido. En configuraciones con pocos recursos, los niveles más pequeños "aún pueden dar resultados decentes", pero Q5_K_M es la recomendación mínima declarada. (fuente)
¿Necesito SageAttention o puedo omitirlo?
SageAttention es opcional pero significativo. Aporta una aceleración de 2–5× en el kernel de atención. Un flujo de la comunidad (la guía de arkinson para RTX 3060) se ejecuta explícitamente sin Triton ni SageAttention, apoyándose solo en el intercambio de bloques y el LoRA LightX2V. (fuente) La guía de ChronoKnight, en cambio, los considera ambos esenciales para las tarjetas serie 50. (fuente)
¿Cuál es la diferencia entre el WanMOE KSampler y el intercambio de bloques de Kijai?
El WanMOE KSampler cambia entre los modelos expertos de ruido alto y bajo en el paso temporal de difusión correcto. WanVideoWrapper de Kijai intercambia bloques individuales del transformador hacia y desde la RAM del sistema para reducir el uso de VRAM. Resuelven problemas distintos y se pueden combinar. (fuentes, kijai/ComfyUI-WanVideoWrapper)
¿Qué muestreadores compatibles funcionan con estos flujos?
Los flujos de la comunidad suelen usar los muestreadores euler y uni_pc. (fuente)
¿Funciona el LoRA LightX2V con modelos cuantizados en GGUF?
El flujo de TwoMoreLurker incluye una variante Lightning junto a la variante GGUF estándar, lo que implica compatibilidad. Ambas se cargan con el mismo cargador GGUF Unet. (fuente)