さらにnijijourneyの画像1000枚ほどを目で見てアニメやイラスト風で良いもの選んで学習させました。
以下に何をやったか記録しますが、何が効いているのかわかりません。
以下にハイパーパラメータを記載しますが、その後v11とsd-webui-supermerger階層マージ（block_lrに近い絵が良さそうな比率）をしているため一度で仕上がりませんでした。
最後にblurを-0.05ほど、LECOで作ったanimeを1でLoRAマージして仕上げました。
GPU: RTX3090 24GB
optimizer_type: PagedLion8bit
optimizer_args: weight_decay=0.01, betas=.9,.999
block_lr: 0,1e-08,1e-08,1e-08,1e-08,1e-07,1e-07,1e-07,1e-06,1e-06,1e-05,1e-05,1e-05,1e-06,1e-06,1e-07,1e-07,1e-07,1e-08,1e-08,1e-08,1e-08,0
lr_scheduler: cosine
lr_warmup_steps: 100
gradient_checkpointing
mixed_precision: bf16
full_bf16
max_token_length: 225
min_snr_gamma: 5
noise_offset: 0.0357
max_train_epochs: 3
batch_size: 10
enable_bucket: true
resolution: [1024,1024]
さらにnijijourneyの画像1000枚ほどを目で見てアニメやイラスト風で良いもの選んで学習させました。
以下に何をやったか記録しますが、何が効いているのかわかりません。
以下にハイパーパラメータを記載しますが、その後v11とsd-webui-supermerger階層マージ（block_lrに近い絵が良さそうな比率）をしているため一度で仕上がりませんでした。
最後にblurを-0.05ほど、LECOで作ったanimeを1でLoRAマージして仕上げました。
GPU: RTX3090 24GB
optimizer_type: PagedLion8bit
optimizer_args: weight_decay=0.01, betas=.9,.999
block_lr: 0,1e-08,1e-08,1e-08,1e-08,1e-07,1e-07,1e-07,1e-06,1e-06,1e-05,1e-05,1e-05,1e-06,1e-06,1e-07,1e-07,1e-07,1e-08,1e-08,1e-08,1e-08,0
lr_scheduler: cosine
lr_warmup_steps: 100
gradient_checkpointing
mixed_precision: bf16
full_bf16
max_token_length: 225
min_snr_gamma: 5
noise_offset: 0.0357
max_train_epochs: 3
batch_size: 10
enable_bucket: true
resolution: [1024,1024]