SamuKata
OreX
OreX

boosty


Torch ComfyUI | Ускоряем ComfyUI

СМОТРЕТЬ НА YOUTUBE
СМОТРЕТЬ НА 
RUTUBE
🪛2024.10.09 - Добавлена ссылка на файлы Torch 2.5 на случай проблем со скачиванием.

В этом видео вы узнаете, как обновить Torch до рекомендованной версии, самой новой версии и Torch 2.5 который работает немного быстрее чем два других варианта.
МЕНЮ
(youtube/rutube)
00:06 (00:06) - Немного о Torch
01:31 (01:31) - Создание Backup (резервной версии) torch
04:00 (04:00) - Установка разных торч с помощью bat файла
07:55 (07:55) - Самостоятельный подбор версии Torch
09:14 (09:14) - Ключ для ускорения генерации  
ИНСТРУКЦИЯ
1. Установите или используйте уже установленный ComfyUI
Страница ComfyUI на GitHub
2. Сделайте Backup (резервную копию) папки python_embeded, в которой содержатся python со всеми библиотеками. Можете воспользоваться ниже приложенным bat файлом или любым архиватором. Если что-то пойдёт не так удалите папку python_embeded и распакуйте backup.
3. TORCH-INSTALL-COMFYUI.bat: СКАЧАТЬ
(Файл поместить в корневую папку ComfyUI и запускать от туда.)
   Меню bat файла:
   1 - Создаёт backup папки python_embeded. Для работы функции долен быть установлен 7zip в папку C:/Program Files
   2 - Устанавливает рекомендованный Torch для ComfyUI
   3 - Устанавливает максимально возможный Torch от разработчиков ComfyUI.
   4 - Устанавливает Torch 2.5, на данный момент самый быстрый (прирост скорости 5-10%).
   5 - Выход
4. Для ускорения установите ключ в --fast в файл run_nvidia_gpu.bat. Правой кнопкой мыши по файлу - изменить и добавить ключ, нажать сохранить.
5. Если есть проблемы с вылетами из ComfyUI то установите ключ 
--reserve-vram 0.9 по аналогии с предыдущем. Коэффициент 0,9 означает 90% зарезервированной VRAM под ComfyUI. 10% остаётся системе.
6. Страница для поиска и скачивания Torch: ССЫЛКА
ЕСЛИ BAT ФАЙЛ НЕ ЗАГРУЖАЕТ ФАЙЛЫ TORCH 2.5
Скачайте их отсюда: ССЫЛКА
(все эти 3 файла поместите в корень ComfyUI рядом с  TORCH-INSTALL-COMFYUI.bat)

Torch ComfyUI | Ускоряем ComfyUI

Comments

<div ><div><span class="text">Stas Makarov, ComfyUI постоянно оптимизируется. Я на данный момент на Torch 2.5.1 и Python 3.11 видеодрайвера регулярно обновляю. Ключ --fast тоже стоит - он актуален для 4000 серии nvideo и ускоряет генерацию.</span></div><div></div></div>

OreX

<div ><div><span class="text">Поставил ComfyUI - там был торч 2.2 по-моему. Вторая генерация картинки Flux занимала 160 секунд. Обновил торч до последней доступной версии (2.7) - вторая генерация картинки стала занимать 86 секунд. Добавил параметр --fast, генерация стала занимать 50 секунд. Как такое возможно? Видеокарта 3090.</span></div><div></div></div>

Stas Makarov

<div ><div><span class="text">chessalkin, на google выложу</span></div><div></div></div>

OreX

<div ><div><span class="text">есть ли возможность бат файл выложить напрямую а не через ЯД?</span></div><div></div></div>

chessalkin


More Creators