一、GPU环境
Url：
https://www.modelscope.cn/docs/%E7%8E%AF%E5%A2%83%E5%AE%89%E8%A3%85
1、参考镜像

1、docker run -p 8000:8000 -it -d --name ms registry.cn-beijing.aliyuncs.com/modelscope-repo/modelscope:ubuntu22.04-py310-torch2.3.0-1.15.0 /bin/bash
2、docker run --gpus all -p 8000:8000 -it -d --name ms registry.cn-beijing.aliyuncs.com/modelscope-repo/modelscope:ubuntu22.04-cuda12.1.0-py310-torch2.3.0-tf2.16.1-1.16.0 /bin/bash
2、设置docker开机自启
命令: systemctl enable docker
3、启动(创建)容器
docker run --gpus all -p 8000:8000 -it -d c4e0927958e5 /bin/bash

Docker start (容器ID) / Docker stop (容器ID)
4、进入容器
docker exec -it c4e0927958e5 /bin/bash
5、删除镜像、容器
5.1一次删除多张镜像 Docker rmi ID ID
列出镜像的 ID，每个 ID 之间留一个空格
5.2 删除容器
先停止运行的容器:docker stop ID
删除容器：docker rm ID
6、导入导出镜像
6.1 使用镜像ID保存到本地路径下的文件
docker save c4e0927958e5 > /opt/image-save.tar
6.2 把本地的镜像文件加载起来
docker load < nginx-save.tar
二、安装NVIDIA容器工具包
URL:
https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html
1、配置生产存储库：
curl -s -L https://nvidia.github.io/libnvidia-container/stable/rpm/nvidia-container-toolkit.repo | sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo
（可选）配置存储库以使用实验性软件包：
sudo yum-config-manager --enable nvidia-container-toolkit-experimental
2、安装 NVIDIA Container Toolkit 软件包
sudo yum install -y nvidia-container-toolkit
3、配置 Docker
3.1 使用以下命令配置容器运行时nvidia-ctk：
sudo nvidia-ctk runtime configure --runtime=docker

该nvidia-ctk命令会修改/etc/docker/daemon.json主机上的文件。文件已更新，以便 Docker 可以使用 NVIDIA 容器运行时。
3.2 重新启动 Docker 守护进程
sudo systemctl restart docker