当前位置：首页 > backend >正文

CentOS 上配置 Docker 使用 NVIDIA GPU

backend 2025/5/18 5:39:51

CentOS 上配置 Docker 使用 NVIDIA GPU（前提是已安装 NVIDIA 驱动）：

在 CentOS 上配置 Docker 使用 NVIDIA GPU

本文介绍如何在已安装 NVIDIA 驱动的 CentOS 系统中，配置 Docker 使用 GPU 资源进行加速。

✅ 前提条件

已安装 CentOS 7 或 CentOS 8
已正确安装并加载 NVIDIA 驱动
已安装 Docker
```
docker --version
```
可联网访问 NVIDIA 官方仓库

第一步：添加 NVIDIA Container Toolkit 的 YUM 仓库

curl -s -L https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo | \sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo

第二步：安装 NVIDIA Container Toolkit

sudo yum install -y nvidia-container-toolkit

好的，我将更新博客内容，在“第三步：配置 Docker 使用 NVIDIA runtime”中加入你提供的手动修改 /etc/docker/daemon.json 的方法。以下是更新后的博客正文部分：

第三步：配置 Docker 使用 NVIDIA runtime

你可以使用命令行自动配置：

sudo nvidia-ctk runtime configure --runtime=docker

或者手动修改 Docker 配置文件：

编辑 /etc/docker/daemon.json：

{"default-runtime": "nvidia","runtimes": {"nvidia": {"path": "nvidia-container-runtime","runtimeArgs": []}}
}

⚠️ 如果该文件已存在，请合并原有内容，而不是直接替换。

保存后重启 Docker 服务：

sudo systemctl restart docker

第四步：验证 GPU 是否可被容器使用

使用官方 CUDA 镜像测试：

docker run --rm --gpus all nvidia/cuda:12.2.0-base-ubuntu22.04 nvidia-smi

如输出如下内容，表示配置成功：

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 535.xx.xx    Driver Version: 535.xx.xx    CUDA Version: 12.2     |
|-------------------------------+----------------------+----------------------+
| GPU Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| ...                                                                  |
+-----------------------------------------------------------------------------+