iT邦幫忙

2024 iThome 鐵人賽

DAY 18
0
AI/ ML & Data

AI 學習紀錄系列 第 18

Day 18: Stable Cascade 架設

  • 分享至 

  • xImage
  •  

接下來回來繼續架設 Stable Cascade,隔了有點久。
StableCascade 的 git 上有提供各種範例,怎麼裝也都有寫,比較麻煩的就是環境了。
https://github.com/Stability-AI/StableCascade/tree/master/inference

原先我嘗試著在自己的電腦上架,但是運行時發現要求我裝 Triton 這個套件,可這套件只支援 Linux。
https://github.com/triton-lang/triton
https://ithelp.ithome.com.tw/upload/images/20240902/20168318cf65O6ATRk.png

雖然有看到有人分享裝在 windows 的方法,但 colab 也都買了,決定架在 colab 上,簡單些。接下來的操作,都是用 colab L4 GPU 的環境測試的。

先把專案 clone 到自己的環境中。下面這兩個指令分兩個儲存格執行,主要是因為 cd 這指令如果要直接運行,儲存格中只能有一行。當然可以直接用 !cd,但這會是在一個新的 shell 中執行,所以再次下 pwd 時會發現根本沒有移動。但這我沒有去翻文件,只是發現有這現象,日後補上。

!git clone https://github.com/Stability-AI/StableCascade.git
cd StableCascade

先將 requirements.txt 中的套件裝起來,但是環境中預設就有 torch 2.4.0+cu121 跟 torchvision 0.19.0+cu121 了,所以我把 requirements.txt 裡頭的 torch==2.1.2+cu118、torchvision==0.16.2+cu118 刪掉。
https://github.com/Stability-AI/StableCascade/blob/master/requirements.txt

有鑑於 Stable Cascade 的 comfyUI workflow 我找不到,說不定未來 git 中的範例會消失或長的完全不同,這邊附上我測試時的 requirements.txt 的內容。

--find-links https://download.pytorch.org/whl/torch_stable.html
accelerate>=0.25.0
torch==2.1.2+cu118
torchvision==0.16.2+cu118
transformers>=4.30.0
numpy>=1.23.5
kornia>=0.7.0
insightface>=0.7.3
opencv-python>=4.8.1.78
tqdm>=4.66.1
matplotlib>=3.7.4
webdataset>=0.2.79
wandb>=0.16.2
munch>=4.0.0
onnxruntime>=1.16.3
einops>=0.7.0
onnx2torch>=1.5.13
warmup-scheduler @ git+https://github.com/ildoonet/pytorch-gradual-warmup-lr.git
torchtools @ git+https://github.com/pabloppp/pytorch-tools

接著把 model 下載下來。Git 中有提供下載工具,說明到他有四種不同的模型組合可以使用,且可以選擇 bfloat16 或 float32 的格式,我選擇使用 small-small bfloat16。
https://github.com/Stability-AI/StableCascade/tree/master/models
https://ithelp.ithome.com.tw/upload/images/20240902/201683182CC50KTYTH.png

先到這邊,明天繼續。

補充一件事,做到這後,可以先把 triton 裝起來,重新啟動工作階段。
參考 Day20。

pip install -U --index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/Triton-Nightly/pypi/simple/ triton-nightly

上一篇
Day 17: Comfyui 測試6
下一篇
Day 19: Stable Cascade 架設-2
系列文
AI 學習紀錄30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言