docker - 如何在 Kubernetes 中传递 Docker CLI `--gpus` 选项或启用 GPU 支持而不安装 `nvidia-docker2` (Docker 19.03)

Question

我目前使用 Docker 19.03 和 Kubernetes 1.13.5 以及 Rancher 2.2.4。从 19.03 开始​​，Docker 就通过 --gpus 正式支持原生 NVIDIA GPU。选项。示例(来自 NVIDIA/nvidia-docker github ):

 docker run --gpus all nvidia/cuda nvidia-smi

但是在 Kubernetes 中，没有选项可以传递 Docker CLI 选项。所以如果我需要运行一个GPU实例，我必须安装 nvidia-docker2 ，使用起来不方便。

无论如何要传递 Docker CLI 选项或传递 NVIDIA 运行时而不安装 nvidia-docker2

Answer 1

GPU's are scheduled通过 device plugins在 Kubernetes 中。

The official NVIDIA GPU device plugin has the following requirements:

• Kubernetes nodes have to be pre-installed with NVIDIA drivers.
• Kubernetes nodes have to be pre-installed with nvidia-docker 2.0
• nvidia-container-runtime must be configured as the default runtime for docker instead of runc.
• NVIDIA drivers ~= 361.93

一旦设置了节点，GPU 就会成为您规范中的另一个资源，例如 cpu或 memory .

spec:
  containers:
  - name: gpu-thing
    image: whatever
    resources:
      limits:
        nvidia.com/gpu: 1