美文网首页
K8S 使用 Nvidia GPU

K8S 使用 Nvidia GPU

作者: 袁先生的笔记 | 来源:发表于2024-04-23 10:27 被阅读0次

在 GPU 主机安装 Nvidia驱动(可省略)

参见:https://ubuntu.com/server/docs/nvidia-drivers-installation
可省略,后面安装CUDA时也能安装驱动

在 GPU 主机安装 CUDA

  • 安装依赖包
apt install gcc make
cat >> /etc/profile <<EOF

# Nvidia CUDA
export PATH=/usr/local/cuda/bin\${PATH:+:\${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda/lib64\${LD_LIBRARY_PATH:+:\${LD_LIBRARY_PATH}}
EOF

在 GPU 主机安装 NVIDIA Container Toolkit

参见:https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html
注:把 nvidia 设为 containerd 的默认运行时

nvidia-ctk runtime configure --runtime=containerd --set-as-default

在 K8S 安装 Nvidia Device Plugin

参见:https://github.com/NVIDIA/k8s-device-plugin

相关文章

  • Nvidia jetson xavier随手记录

    查看GPU信息,不是使用nvidia-smi,而是使用tegrastats 让docker使用gpu,使用下面的代...

  • GPU之nvidia-smi命令详解

    1、nvidia-smi介绍 nvidia-sim简称NVSMI,提供监控GPU使用情况和更改GPU状态的功能,是...

  • 开发前准备

    [Linux查看GPU信息和使用情况] Linux查看显卡信息: 使用nvidia GPU可以: windows下...

  • 从nvidia-smi 说起

    经常使用GPU 的人会常常查看GPU 信息,在查看其中比较常用的是对nvidia产品的nvidia-smi。所以有...

  • Linux下查询GPU使用情况

    $ nvidia-smi 可以查询具体GPU的使用情况

  • MATLAB使用GPU

    在matlab中使用GPU,一般步骤如下: 1) 在mobaXterm中查看GPU使用情况: nvidia-smi...

  • 容器是如何调用GPU的

    容器使用GPU的主要需求有两个: 容器中可以查看GPU设备 容器应用可以操作GPU显卡 Nvidia GPU对容器...

  • Nvidia GPU如何在Kubernetes 里工作

    Nvidia GPU如何在Kubernetes 里工作 本文介绍Nvidia GPU设备如何在Kubernetes...

  • Docker环境下玩转GPU(二)

    使用Docker方式来运行GPU任务计算。英伟达(nvidia)官方提供了一个插件NVIDIA-Docker,封装...

  • NVENC编码指导

    介绍 基于 NVIDIA Kepler™ 和更高版本 GPU 架构的 NVIDIA® GPU 包含基于硬件的 H....

网友评论

      本文标题:K8S 使用 Nvidia GPU

      本文链接:https://www.haomeiwen.com/subject/zmaixjtx.html