Ускоряем Flux и SDXL - Triton - WaveSpeed
Added 2025-01-22 07:01:00 +0000 UTC🪛 На Nvidia 3000 серии Triton работает только с fp16. WaveSpeed работает и на fp8 и на fp16.
Сегодня вы узнаете как можно ускорить генерации на Flux и SDXL в 1,5-2,5 раза и при этом не потерять в качестве. Для flux мы установим Triton и WaveSpeed. Для SDXL будем использовать только WaveSpeed. Triton позволяет поднять скорость на 30% вообще без потерь. WaveSpeed при 30-50% увеличении скорости с определёнными настройками Sampler тоже не вызывает существенного понижения качества генераций.
МЕНЮ
00:00 - Вступление
02:08 - Установка ComfyUI
02:21 - Обзор ускоренной схемы SDXL с wavespeed
10:28 - Обзор ускоренной схемы Flux с triton
17:21 - Как установить wavespeed на comfyui
19:43 - Как установить triton на comfyui
ИНСТРУКЦИЯ ДЛЯ SDXL
2. RealVisXL V4: СКАЧАТЬ
(models / checkpoints)
3. CLIP_G: СКАЧАТЬ
(models / clip)
4. ViT-L-14-TEXT-detail-improved-hiT-GmP-HF: СКАЧАТЬ
(models / clip)
5. CLIP-L: СКАЧАТЬ
(models / clip)
6. Ссылка на узлы WaveSpeed:
https://github.com/chengzeyi/Comfy-WaveSpeed.git
https://github.com/chengzeyi/Comfy-WaveSpeed.git
7. СХЕМА
ИНСТРУКЦИЯ TRITON FLUX
2. Скачать модель Flux FP8 UNET: ССЫЛКА
(models / diffusion_models)
3. Если у вас нет модели T5 от Flux или SD3 то скачайте:
4. Если у вас нет модели CLIP-L то скачайте: СКАЧАТЬ
6.
Ссылка на узлы WaveSpeed: https://github.com/chengzeyi/Comfy-WaveSpeed.git
Ссылка на узлы WaveSpeed: https://github.com/chengzeyi/Comfy-WaveSpeed.git
7. Схемы
УСТАНОВКА TRITON
1. Убедитесь что у вас выше Torch 2.4.1 и Python 3.11-3.12.
(это можно посмотреть в консоли при comfyui, в самом начале)
3. Проверить что директория существует: C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.4\bin
И прописать её в Переменные среды Windows если её там нет.
4. Запустить CMD консоль и ввести команду ptxas --version
Убедится что Cuda 12.4 находятся windows.
5. Установить Visual Studio: ССЫЛКА
и перемещаемся в 14.....\bin\Hostx64\x64
(в этой папке должен находится компилятор cl.exe)
Полный путь копируем и прописываем в переменные среды как в видео.
7. Открываем консоль CMD и вводим команду cl
(должно быть примерно как в видео, это означает что CL windows находит).
8. Установите Visual C++ Redistributable for Visual Studio 2015-2022: ССЫЛКА
9. Проверяем что в папке python_embeded есть файлы:
10. Переходим в папку python_embeded и запускаем консоль.
Вводим команду для Triton под Python 3.11:
python -m pip install https://github.com/woct0rdho/triton-windows/releases/download/v3.1.0-windows.post8/triton-3.1.0-cp311-cp311-win_amd64.whl
Вводим команду для Triton под Python 3.12:
python -m pip install https://github.com/woct0rdho/triton-windows/releases/download/v3.1.0-windows.post8/triton-3.1.0-cp312-cp312-win_amd64.whl
11. Скачиваем архив с библиотеками triton для вашего Python:
И распаковываем содержимое (include и libs) в папку python_embeded.
ДОПОЛНИТЕЛЬНЫЕ ССЫЛКИ
Страница triton windows: ССЫЛКА
Все версии Triton для Win: ССЫЛКА
🔥 Курс по "AUTOMATIC 1111" с поддержкой на сайте https://stabledif.ru
🔥 Курс по "ComfyUI" с поддержкой на сайте https://stabledif.ru/comfyui
✔️Телеграм-канал: https://t.me/stabledif_lesson
✔️ Telegram ЧАТ: https://t.me/stable_dif
✔️VK Prompts: https://vk.com/stabledif
Comments
<div ><div><span class="text">Короче починил я все таки все. Пришлось пересобирать все заново (зависимости). Снес sitepackages и заново все устанавливал. Выяснилось nunchaku работает только с pytorch 2.8 (что в свою очередь вызывал конфликты с другими узлами). Только осторожнее с таким подходом, если кто решит повторить, дофига придется переустанавливать</span></div></div>
VanGogh
2025-08-21 08:08:40 +0000 UTC<div ><div><span class="text">Andr, не видел настроек для удаления этих границ.</span></div></div>
OreX
2025-07-17 14:12:44 +0000 UTC<div ><div><span class="text">При такой установке Visual Studio устанавливаются ли автоматически библиотеки insighface, какие нужны для reactor?</span></div><div></div></div>
Andr
2025-07-11 14:40:36 +0000 UTC<div ><div><span class="text">AAGlassClub, эти модели должны загрузится автоматически при старте схемы</span></div><div></div></div>
OreX
2025-05-20 08:03:09 +0000 UTC<div ><div><span class="text">А где можно скачать models\florence2<br>Florence-2-Flux-Large</span></div><div></div></div>
AAGlassClub
2025-05-19 17:06:22 +0000 UTC<div ><div><span class="text">Тролль БерендеЙчь, этот узел требует установленного triton, cuda и visual studio c++. Если не хотите заморачиваться ради 10% ускорения просто удалите этот узел.</span></div><div></div></div>
OreX
2025-05-18 18:59:34 +0000 UTC<div ><div><div class="image"><img id="917290ed-7966-439c-888c-3b9aa7258bf1" src="https://images.boosty.to/image/917290ed-7966-439c-888c-3b9aa7258bf1?change_time=1747559012" change_time="1747559012" width="449" height="218" style="max-width: 100%; height: auto;"></div></div>
Тролль БерендеЙчь
2025-05-18 09:03:34 +0000 UTC
