接下來回來繼續架設 Stable Cascade,隔了有點久。
StableCascade 的 git 上有提供各種範例,怎麼裝也都有寫,比較麻煩的就是環境了。
https://github.com/Stability-AI/StableCascade/tree/master/inference
原先我嘗試著在自己的電腦上架,但是運行時發現要求我裝 Triton 這個套件,可這套件只支援 Linux。
https://github.com/triton-lang/triton
雖然有看到有人分享裝在 windows 的方法,但 colab 也都買了,決定架在 colab 上,簡單些。接下來的操作,都是用 colab L4 GPU 的環境測試的。
先把專案 clone 到自己的環境中。下面這兩個指令分兩個儲存格執行,主要是因為 cd 這指令如果要直接運行,儲存格中只能有一行。當然可以直接用 !cd,但這會是在一個新的 shell 中執行,所以再次下 pwd 時會發現根本沒有移動。但這我沒有去翻文件,只是發現有這現象,日後補上。
!git clone https://github.com/Stability-AI/StableCascade.git
cd StableCascade
先將 requirements.txt 中的套件裝起來,但是環境中預設就有 torch 2.4.0+cu121 跟 torchvision 0.19.0+cu121 了,所以我把 requirements.txt 裡頭的 torch==2.1.2+cu118、torchvision==0.16.2+cu118 刪掉。
https://github.com/Stability-AI/StableCascade/blob/master/requirements.txt
有鑑於 Stable Cascade 的 comfyUI workflow 我找不到,說不定未來 git 中的範例會消失或長的完全不同,這邊附上我測試時的 requirements.txt 的內容。
--find-links https://download.pytorch.org/whl/torch_stable.html
accelerate>=0.25.0
torch==2.1.2+cu118
torchvision==0.16.2+cu118
transformers>=4.30.0
numpy>=1.23.5
kornia>=0.7.0
insightface>=0.7.3
opencv-python>=4.8.1.78
tqdm>=4.66.1
matplotlib>=3.7.4
webdataset>=0.2.79
wandb>=0.16.2
munch>=4.0.0
onnxruntime>=1.16.3
einops>=0.7.0
onnx2torch>=1.5.13
warmup-scheduler @ git+https://github.com/ildoonet/pytorch-gradual-warmup-lr.git
torchtools @ git+https://github.com/pabloppp/pytorch-tools
接著把 model 下載下來。Git 中有提供下載工具,說明到他有四種不同的模型組合可以使用,且可以選擇 bfloat16 或 float32 的格式,我選擇使用 small-small bfloat16。
https://github.com/Stability-AI/StableCascade/tree/master/models
先到這邊,明天繼續。
補充一件事,做到這後,可以先把 triton 裝起來,重新啟動工作階段。
參考 Day20。
pip install -U --index-url https://aiinfra.pkgs.visualstudio.com/PublicPackages/_packaging/Triton-Nightly/pypi/simple/ triton-nightly