Wan2.2-T2V-A14B-Diffusers

Архитектура:

• Использует Mixture-of-Experts (MoE) с двумя специализированными экспертами (высокий и низкий уровень шума) для оптимизации процесса диффузии. Общая емкость модели 27B параметров (эквивалентно 14B активных параметров на шаг).
• Обучение: Тренировка на расширенных данных: +65,6% изображений и +83,2% видео по сравнению с предыдущей версией, что улучшает генерацию динамичных сцен и эстетики.
• Компрессия: Включает Wan2.2-VAE с соотношением сжатия 4×16×16 для эффективного хранения и генерации видео без потери качества.

Технические детали:

• Поддержка задач: Генерация видео по тексту (T2V) и изображению (I2V) в рамках единой архитектуры.
• Поддержка 720P@24fps с возможностью запуска на GPU уровня NVIDIA RTX 4090.
• Инференс:
  • Использование FSDP (Fully Sharded Data Parallel) и DeepSpeed Ulysses для многокартного инференса.
  • Поддержка offload на CPU для снижения нагрузки на GPU (параметры: `--offload_model`, `--t5_cpu`).
  • Интеграция с Diffusers: Доступ через `WanPipeline` и `AutoencoderKLWan` из библиотеки Diffusers.
  • Однокартный режим: Минимум 80GB VRAM, использование опций `--offload_model` и `--convert_model_dtype`.\n
  • Многокартный режим: `torchrun` с настройкой `--ulysses_size` и включением FSDP для T5 и DIT.\n

Разрешено использование сгенеренного контента, при условии соблюдения законодательства и отсутствия вредоносного применения. Требуется цитирование работы при использовании в исследованиях.

---

Модель является составной частью пайплайна генерации видео, состоящего из:

• UMT5 text encoder: ~6B параметров, 
• Transformer: ~27B параметров, 
• VAE: ~127M параметров.

Всего: ~34B параметров

---

Строка "Потребление памяти" рассчитана на основе размера весов в указанной точности с добавочным коэффициентом +10% на инференс: 
  model_parameters_count * bytes_per_parameter * 1.1 / 1024^3 
где model_parameters_count - количество параметров модели, bytes_per_parameter - количество байтов, используемых для хранения одного параметра. Для 16 bit = 2, 8 bit = 1, 4 bit = 0.5.

Дата анонса: 28.07.2025
Параметров: 27B
Экспертов: 2
Активно параметров при инференсе: 14B
Потребление памяти: 17.6 ГБ в точности 4 бит, 35.2 ГБ в точности 8 бит, 70.5 ГБ в точности 16 бит
Разработчик: Alibaba Wan Team
Лицензия: Apache 2.0

Воспользуйтесь нашими готовыми публичными эндпоинтами бесплатно для теста инференса и знакомства с Wan2.2-T2V-A14B-Diffusers. Получить токен для доступа к API вы можете на странице управления токенами после регистрации и верификации.

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

• получить максимальную производительность эндпоинта,
• получить полный контекст для обработки больших запросов и диалогов,
• обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
• использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.