我可以仅将 nvidia-drivers 用于基于 docker 的系统的主机吗？

Question

我无法理解 cuda 和 docker 生态系统。

在主机（ubuntu 22.04）服务器上，我想生成多个 Maciene Learning Jupyter 笔记本。

如果我只在主机 ubuntu 中安装这样的 Nvidia 驱动程序就足够了吗：

sudo apt-get install linux-headers-$(uname -r)
DISTRIBUTION=$(. /etc/os-release;echo $ID$VERSION_ID | sed -e 's/\.//g')
echo $DISTRIBUTION
wget https://developer.download.nvidia.com/compute/cuda/repos/$DISTRIBUTION/x86_64/cuda-keyring_1.0-1_all.deb
sudo dpkg -i cuda-keyring_1.0-1_all.deb
sudo apt-get update
sudo apt-get -y install cuda-drivers

sudo reboot

#After reboot verify if the CUDA driver is installed:
nvidia-smi

然后在容器中安装cuda ，如下所示：

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/3bf863cc.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/ /"
sudo apt-get update
sudo apt-get -y install cuda

我认为最纯粹的方法是在主机系统上只安装所需的包，并用所有必要的包丰富容器。 这就是为什么我想知道这种方法是否合理。

1. 我是否正确理解容器将使用主机系统中的驱动程序？
2. 安装cuda是否足以安装在容器中，或者我应该安装cuda-toolkit ，因为它包含更多额外的包？

Answer 1

我是否正确理解容器将使用主机系统中的驱动程序？

是的，容器将使用来自主机系统的驱动程序。 如果您正在构建自己的容器，请不要在容器中安装驱动程序。

安装 cuda 是否足以安装在容器中，或者我应该安装 cuda-toolkit，因为它包含更多额外的包？

在这种情况下，您可能永远不想安装cuda 。 您可以在主机中安装cuda （它还将安装问题 1 中提到的驱动程序）。 这是可以接受的。 在容器中，如果您自己构建它，您不想安装cuda ，最多安装cuda-toolkit 。

我可以仅将 nvidia-drivers 用于基于 docker 的系统的主机吗？

除了 linux 操作系统安装之外，主机中通常需要 3 个项目，以使其为启用 CUDA 的容器使用做好准备：

1. GPU 驱动程序
2. 最近的 docker 版本
3. NVIDIA 容器工具包（有关安装说明，请参见上面的链接）

无需在主机中安装 CUDA 工具包（即 GPU 驱动程序安装之外的项目）。 如果容器中需要它们，它们通常会安装在容器中。