2 ВИДЕО | TensorRT Nvidia 2x | Automatic1111 | Stable Diffusion
Added 2023-11-15 08:00:00 +0000 UTCВИДЕО 1
2 ВИДЕО | TensorRT Nvidia 2x | Automatic1111 | Stable Diffusion
С помощью TensorRT расширения и с обновленными драйверами от Nvidia мы можем получить двукратное ускорение при генерации и апскейле (увеличении) изображения с SDXL моделями и +50% к скорости при генерации и апскейле с моделями sd 1.5 в Automatic1111 (Stable Diffusion). И это еще не все. Мы можем снизить потребление видеопамяти, особенно это актуально при работе с SDXL моделями у кого мало видеопамяти.Установка TensorRT в Automatic1111 (Stable Diffusion) . Из недостатков стоит отметить отсутствие поддержки ControlNet и некоторых других расширений. Но всегда можно отключить TensorRT и выполнить нужные действия без него. Для меньшего потребления памяти с SDXL моделями мы можем прописать в bat файле ключ --medvram-sdxl. Или --medvram или --lowvram для всего.
Меню:
00:00 - Вступление
02:48 - Обновляем драйвер Nvidia
03:56 - Устанавливаем сборку Automatic1111 с TensorRT
06:38 - Вид сборки Automatic1111
07:59 - Вкладка TensorRT
09:05 - Генерируем Unet модель для sd 1.5 в TensorRT
11:04 - Тестируем скорость
12:51 - Генерируем Unet модель для SDXL в TensorRT
14:09 - Ошибка при обучении. В чем проблема. Что делать.
15:18 - Сравниваем скорость на SDXL с Unet моделью от TensorRT
17:12 - Как использовать LORA с Unet моделью
17:35 - Как настроить сборку Automatic1111. Добавляем ESRGAN, Textual Inversion, Lora и Extension (расширения) из моей сборки. Файл STYLES.CSV. Скачать можно в Boosty
20:32 - Устанавливаем REACTOR. Библиотека InsightFace без установки Visual Studio
22:29 - SDXL Styles с моими стилями
25:33 - Где искать все файлы из видео
26:02 - Приглашение на "Пятничный нейрострим" в 19.00 мск. Будет интересно 100%
Файлы:
Набор LORA: ссылка
Обновить драйвера Nvidia (GeForce® Experience): ссылка
Сборка Automatic1111 с TensorRT от NeuroHub: ссылка
Установка Git: ссылка
Наши группы:
Регистрация на "Пятничный Стрим": ссылка
Comments
<div ><div><span class="text">Али Моо, я давно эту сборку не тестировал. Но с TensorRt не всё гладко. Знаю недавно появилась поддержка в ComfyUI официальная. Но я пока не тестировал. Если он ControlNet не поддерживает, то смысла в нем нет. Только если для сервиса генерации можно использовать, но там есть штука побыстрее Stable fast и она на Linux только работает. Если, что накопаю дам знать.</span></div><div></div></div>
OreX
2024-07-04 20:17:58 +0000 UTC<div ><div><span class="text">Видимо что-то не закачалось, потому что все, что было по этому расширению в инете потерли.</span></div><div><span class="text">Нвидиа 3060 12 гб, 32 оперативки</span></div></div>
Али Моо
2024-07-04 16:50:44 +0000 UTC<div ><div><span class="text">*** Error loading script: trt.pyTraceback (most recent call last):File "C:\NeuroHub-A1111\modules\scripts.py", line 515, in load_scriptsscript_module = script_loading.load_module(scriptfile.path)File "C:\NeuroHub-A1111\modules\script_loading.py", line 13, in load_modulemodule_spec.loader.exec_module(module)File "", line 883, in exec_moduleFile "", line 241, in _call_with_frames_removedFile "C:\NeuroHub-A1111\extensions\Stable-Diffusion-WebUI-TensorRT\scripts\trt.py", line 10, inimport ui_trtFile "C:\NeuroHub-A1111\extensions\Stable-Diffusion-WebUI-TensorRT\ui_trt.py", line 10, infrom exporter import export_onnx, export_trtFile "C:\NeuroHub-A1111\extensions\Stable-Diffusion-WebUI-TensorRT\exporter.py", line 3, inimport onnxModuleNotFoundError: No module named 'onnx'</span></div><div><span class="text"></span></div><div><span class="text">После этого в консоли ничего не происходит, то же самое после перезапуска.</span></div><div><span class="text">Модели во вкладке SD Unet нет</span></div><div><span class="text">закладка расширения отсутствует</span></div><div><span class="text">Дрова последние, гит и питон стоят. 👇</span></div></div>
Али Моо
2024-07-04 16:11:31 +0000 UTC
