NVIDIA Container Toolkit のインストール

[NVIDIA, Docker]

NVIDIA Container Toolkit とは

NVIDIA Container Toolkit は、Dockerコンテナ内でNVIDIA GPUを使うためのツール集です。

dockerコマンドで--runtime=nvidiaオプションを渡す場合や、FROM nvidia/cudaと書かれたDockerfileを使う場合1には、必須になってます。


インストール

Installing the NVIDIA Container Toolkit — NVIDIA Container Toolkit documentation

インストールは、基本的にはこの公式ドキュメントに従えばOKなんですが、NVIDIAのドキュメントは重複してたりあちこち散らばってたりするのでまとめました。

WSLでも同じ手順でOKです。

curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
    sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
sudo apt update
sudo apt install nvidia-container-toolkit

初期設定

https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html#configuring-docker

sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker

Rootless modeは、自分は使ってないのでスキップ


動作確認

https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/sample-workload.html#running-a-sample-workload-with-docker

docker run --rm --runtime=nvidia --gpus all ubuntu nvidia-smi

出力例

Wed Feb 19 02:54:45 2025
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 570.86.16              Driver Version: 572.16         CUDA Version: 12.8     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA RTX 2000 Ada Gene...    On  |   00000000:01:00.0 Off |                  N/A |
| N/A   41C    P3              8W /   35W |       0MiB /   8188MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+


+-----------------------------------------------------------------------------------------+
| Processes:
                    |
|  GPU   GI   CI              PID   Type   Process name
         GPU Memory |
|        ID   ID
         Usage      |
|=========================================================================================|
|  No running processes found
                    |
+-----------------------------------------------------------------------------------------+

以上です。


:notebook: 注釈

  1. nvidia/cuda - Docker Image | Docker Hub を “NVIDIA Container Toolkit” で検索すると、 “The NVIDIA Container Toolkit⁠ for Docker is required to run CUDA images.” って書いてあります。 ↩