SDXLでLECO

1. sdxlブランチを使う

神
https://github.com/p1atdev/LECO/tree/sdxl

右上あたりにある緑色の<>CodeのボタンからDownload ZIP

もしくは

1

git clone -b sdxl https://github.com/p1atdev/LECO.git

2. train_util.py を編集

そのままではエラーになるのでtrain_util.py 55行目の
latents = noise * scheduler.init_noise_sigma.to(noise.device)
から .to(noise.device) を削除する
(本当にこれで良いのか知らんで！)

https://fate.5ch.net/test/read.cgi/liveuranus/1709371952/
908 今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ 6be1-uB8S) 2024/03/03(日) 22:52:43.66 ID:dE6nnXlC0
>>900
sdxlブランチは開発中やからね……
「floatに.to() は付かんやろ」みたいな内容のエラーやったら、train_util.py の55行目付近の.to()を消せば、
「cpuとgpuに別々にデータ渡さんといてや」みたいなエラーやったら、同じくtrain_util.pyのdevice="cpu"になっとるところ探して"cuda"に書き換えれば正常かわからんけど動いたで
それ以外のエラーやとちょっとわからんけど……

916 今、天王星のwiki見てきたら軌道傾斜角(i) が0.774°だった (ﾜｯﾁｮｲ ef07-fZLU) 2024/03/03(日) 23:05:15.79 ID:YYFfumAL0
>>908
とりあえずfloatの方書き換えたらなんか動き始めたっぽいでー！　サンガツや！
あとはこの動作で作ったLECOがちゃんと機能するか確かめてみるでぇ

3. 仮想環境を作る

torchやxformersのバージョンを指定しないとxformersが入らない(1敗)

1
2
3
4
5
6

python -m venv venv
.\venv\Scripts\activate

pip install torch==2.0.1+cu118 torchvision==0.15.2+cu118 --index-url https://download.pytorch.org/whl/cu118
pip install --upgrade -r requirements.txt
pip install xformers==0.0.20

4. 学習開始

config.yamlとprompts.yamlを編集して実行

1.5の時とは違い train_lora_xl.py を使う点に注意(1敗)

1

python ./train_lora_xl.py --config_file "./config.yaml"

メモ

VRAM12GBでresolution:1024は少し溢れる
resolution:768とdynamic_resolution:trueでなんとか

pip install torch torchvision --index-url https://download.pytorch.org/whl/cu118
でuse_xformers:falseのほうが速い気がする

adam8bitやlion8bitを使うなら pip install bitsandbytes
(今はこれだけで行けるはず※要検証)

🎈🤟