forgeがバージョンアップし flux1にも対応
RX7800XTで早速試してみる
webui-user.shは
export HSA_OVERRIDE_GFX_VERSION=11.0.0
export TORCH_COMMAND="pip install --pre torch torchvision --index-url https://download.pytorch.org/whl/nightly/rocm6.1"
を入れて bash webui.sh としただけ
流行のNF4bnbは使えなかったが、flux1-schnell-fp8.safetensors や flux1S16gb_v10.safetensors, flux1-dev-Q4_0.ggufは普通に使えた
1024x1024が30秒程度で作れるのがいいね (CFG=1 step=10)
追記 NF4 gguf も 次の記事の bitsandbytes をインストールしたら普通に使えた