ComfyUI running on Podman on WSL2

Environment

私の実行環境紹介

• OS : Windows11
• WSL verison : 2.5.7.0
• Linux OS : Fedora Linux 42
• CPU : AMD Ryzen 7 9700X
• Memory : DDR5 64GB
• GPU : NVIDIA GeForce GTX 1060 6GB

[wsl2]
memory=32GB
swap=0
kernelCommandLine = cgroup_no_v1=all

> wsl --version
WSL バージョン: 2.5.7.0
カーネル バージョン: 6.6.87.1-1
WSLg バージョン: 1.0.66
MSRDC バージョン: 1.2.6074
Direct3D バージョン: 1.611.1-81528511
DXCore バージョン: 10.0.26100.1-240331-1435.ge-release
Windows バージョン: 10.0.26100.3915

Setup on Windows

1. Winキー + R で「ファイル名を指定して実行」
2. 「cmd」を入力してOK
3. (よく使うので)Windows Terminalをインストール

winget install --id Microsoft.WindowsTerminal --source winget

4. WSLをインストール
   インストーラーが立ち上がるので「はい」

winget install --id Microsoft.WSL --source winget

5. ここで一旦Windows端末のOSを再起動する

6. WSLをアップデート インストーラーが立ち上がるので「はい」

wsl --update

7. WSLにFedora42を入れる

wsl --install FedoraLinux-42

8. 初回Fedora起動時はUNIX username(要はユーザ名)を入れる必要がある
   忘れない好きな英字名を入れよう

Please create a default user account. The username does not need to match your Windows username.
For more information visit: https://aka.ms/wslusers
Enter new UNIX username:

9. 次回Windows起動時はWindows TermainalなどでFedoraを立ち上げる

wsl -d FedoraLinux-42

Setup on Fedora42

# Fedoraのソフトウェアを更新
sudo dnf -y upgrade

# NVIDIAのコンテナツールキットをインストールする準備
curl -s -L https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo | \
  sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo

# NVIDIAコンテナツールキットをインストールしていく
sudo dnf install -y nvidia-container-toolkit

# WSL上でGPUを認識しているかテスト
nvidia-smi

GPU認識していれば下記のような結果が出力される(あくまで一例)

+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 575.51.03              Driver Version: 576.28         CUDA Version: 12.9     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA GeForce GTX 1060 6GB    On  |   00000000:01:00.0  On |                  N/A |
|  0%   37C    P8              7W /  120W |    3112MiB /   6144MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

引き続きPodmanコンテナの準備を進める

# 認識していたらPodmanコンテナの準備
sudo dnf install -y git podman
sudo nvidia-ctk cdi generate --output=/etc/cdi/nvidia.yaml
sudo nvidia-ctk config --set nvidia-container-cli.no-cgroups --in-place
sudo sed -i 's/^#no-cgroups = false/no-cgroups = true/;' /etc/nvidia-container-runtime/config.toml

sudo mkdir -p /usr/share/containers/oci/hooks.d/
cat << '_EOL_' | sudo tee /usr/share/containers/oci/hooks.d/oci-nvidia-hook.json > /dev/null
{
    "version": "1.0.0",
    "hook": {
        "path": "/usr/bin/nvidia-container-runtime-hook",
        "args": ["nvidia-container-runtime-hook", "prestart"],
        "env": [
            "PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
        ]
    },
    "when": {
        "always": true,
        "commands": [".*"]
    },
    "stages": ["prestart"]
}
_EOL_

# podmanコンテナ上でGPUを認識できるかテスト
podman run -it --rm \
  --device "nvidia.com/gpu=all" \
  docker.io/nvidia/cuda:11.8.0-base-rockylinux8 \
  nvidia-smi

PodmanコンテナでもGPU認識していれば下記のような結果が出力される(あくまで一例)

+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 575.51.03              Driver Version: 576.28         CUDA Version: 12.9     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA GeForce GTX 1060 6GB    On  |   00000000:01:00.0  On |                  N/A |
|  0%   36C    P8              7W /  120W |    2914MiB /   6144MiB |      1%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

引き続きComfyUI用コンテナを準備する

# /opt配下にリポジトリをクローン(取得)
cd /opt
git clone https://github.com/h-mineta/ComfyUI-running-on-Podman-WSL2.git

cd ComfyUI-running-on-Podman-WSL2
chmod +x build.sh start_comfyui.sh

# **初回だけ実行**
# モデルをダウンロードするためのコンテナをビルド
# ComfyUIのコンテナをビルド
# モデルをダウンロードするためのコンテナを実行
./build.sh

FLUX.1関係のファイルはHugging Faceにてアカウント登録後、手動でダウンロード

flux1-dev.safetensors

https://huggingface.co/black-forest-labs/FLUX.1-dev/resolve/main/flux1-dev.safetensors

ダウンロードしたら、
/opt/ComfyUI-running-on-Podman-WSL2/data/models/checkpoints/flux1-dev.safetensors
に移動

diffusion_pytorch_model.safetensors

https://huggingface.co/black-forest-labs/FLUX.1-dev/resolve/main/vae/diffusion_pytorch_model.safetensors

ダウンロードしたら、
/opt/ComfyUI-running-on-Podman-WSL2/data/models/vae/diffusion_pytorch_model.safetensors
に移動

Launch ComfyUI

ここまでたどり着いたらあとはComfyUIを起動するのみ

# ComfyUIのコンテナを実行(defaultで --force-fp16 指定)
./start_comfyui.sh

# もしくは　--force-fp32指定
# ./start_comfyui.sh --force-fp32

Windows端末のWebブラウザで http://localhost:8888 を 開けばComfyUIが立ち上がるはず

Additional Information

ただこのまま生成を続けると、/opt配下に大量のモデル・画像データが置かれてコンテナ肥大化
→WSL肥大化
→Windowsディスク枯渇につながる
ので/optのディレクトリを別の物理ストレージにマウントする設定をするのを推奨

詳しくは私のQiita記事を参照
WSL2上のLinuxマシンへホスト上の物理ディスクをマウントしよう(永続化もあるよ)
https://qiita.com/m10i/items/c6051d7225c01f6ffd4d

Thanks

Special thanks to everyone behind these awesome projects, without them, none of this would have been possible:

• ComfyUI