【SDXLも高速画像生成!?】Stable Diffusionでの画像生成を高速化できるTensorRTの環境構築方法と仕組み、使いどころを徹底解説!
※固定コメントに補足説明も載せているので併せてチェックしてください
今日はStable Diffusionでの画像生成を高速化する仕組みであるTensorRTについての解説と導入方法について紹介していきます。
WindowsでNVIDIAのGTX GPUを利用している方のみが対象となりますが、導入できれば非常に大きな恩恵が得られる技術かと思います。
また昨今高速化の手法として話題になっているLCMなどとも差別化ができている技術なので、ぜひこの動画を見て導入してみてもらえたらと思います
■目次
0:00 - イントロ
2:13 - 注意点
4:17 - NVIDIAのドライバーをまずは更新する
6:16 - Stable-Diffusion-WebUI-TensorRTのインストール
7:14 - TensorRTのインストールが上手くできなかった場合の対処方法
10:31 - TensorRTとはそもそもなに?
14:41 - TensorRTの使い方
19:01 - LCMとTensorRTの違い
21:03 - クロージング
■関連リンク
NVIDIAのTensorRT対応に関する発表
https://developer.nvidia.com/blog/new-stable-diffusion-models-accelerated-with-nvidia-tensorrt/
Stable Video DiffusionはまだStable Diffusion web UI上では利用できない
https://github.com/AUTOMATIC1111/stable-diffusion-webui/issues/14056
TensorRTの拡張機能のページはこちら
https://github.com/NVIDIA/Stable-Diffusion-WebUI-TensorRT
TensorRT環境構築時の記録をXに投稿しています
https://twitter.com/safa_dayo/status/1745457805447028844
https://twitter.com/safa_dayo/status/1745805645767643293
https://twitter.com/safa_dayo/status/1746038816375439547
https://twitter.com/safa_dayo/status/1746099008744088022
NVIDIAが出しているTensorRTの動作要件について
https://nvidia.custhelp.com/app/answers/detail/a_id/5487/~/tensorrt-extension-for-stable-diffusion-web-ui
TensorRTの拡張機能をインストールした際に参考にしたページ
https://github.com/NVIDIA/Stable-Diffusion-WebUI-TensorRT/issues/27#issuecomment-1767570566
TensorRTで3倍の高速化に成功したときの投稿
https://twitter.com/safa_dayo/status/1747628532748980715
しかし再現できずに、動画にはそのログを利用できないことに対する投稿
https://twitter.com/safa_dayo/status/1748235712204521684
LCM関連の動画は以下をチェックしてください!高速化したい人にはオススメです!
https://youtu.be/KMMMt1uor4E?si=kPiFOioX36IHKId2
https://youtu.be/HZM6XTodnCo?si=4wqztv9mUHUrFoJL
SDXL Turboについてはこちらで紹介!
https://www.youtube.com/watch?v=GfKztxZJ_LQ
ルパン三世ジェネレーターを一部利用させていただいています
https://weblabyrinth.net/production-files/lupin-the-third/
■サファのX
https://twitter.com/safa_dayo
■サファのちちぷい
https://www.chichi-pui.com/users/safa/
#tensorrt #stablediffusion #aiart