NVIDIA GPU Driver, CUDA 和 PyTorch的版本关系网站首页 技术教程

NVIDIA GPU Driver, CUDA 和 PyTorch的版本关系

程序之巅 2024-06-01 12:00:03

简介NVIDIA GPU Driver, CUDA 和 PyTorch的版本关系

我们在进行深度学习环境配置的时候，会遇到各种各样的问题。有各种各样的驱动、包需要安装。不同驱动和包之间的还存在版本适配问题，刚入手的同学会一脸懵逼。配置环境成了入门的第一道门槛。我现在总结了NVIDIA 显卡 + Anaconda资源库 + PyTorch深度学习框架的环境配置指南，希望能够帮助大家。

显卡驱动安装

首先需要安装显卡驱动，显卡驱动不需要每个人安装，只需要拥有root的权限的管理者为整台服务器安装即可，选择一款与服务器显卡适配的驱动，安装指南参考NVIDIA显卡驱动。值得注意的是，每个版本的显卡驱动都有对应的CUDA Driver Version（后续会提到）。显卡型号和CUDA Driver Version型号可以通过nvidia-smi查看。
在这里插入图片描述

Ubuntu 下 CUDA Toolkit Installer

接着需要安装CUDA和CuDNN套件，此套件也不需要所有用户都安装，建议root权限管理者在服务器地址 /usr/local/ 下，通过官网提供的CUDA Toolkit Installer安装多个版本的CUDA，如下图，我在对应地址下安装了两个版本的CUDA。
在这里插入图片描述

安装指南参考CUDA and cuDNN 配置.

其他用户只需要根据自己的需求，在使用前修改自己的环境变量，即修改 ~/.bashrc文件中的CUDA环境变量，即可灵活切换不同版本的CUDA。

export  PATH=/usr/local/{cuda root}/bin:$PATH
export  LD_LIBRARY_PATH=/usr/local/{cuda root}/lib64$LD_LIBRARY_PATH

普通用户修改并激活环境变量后，可以查看该版本CUDA对应的 CUDA Runtime Version。
在这里插入图片描述
nvcc编译器路径为/usr/local/{cuda-version}/bin

注意：
CUDA有Driver Api 和 Runtime api，分别对应显卡驱动的CUDA Driver Version 和 CUDA Toolkit Installer 的 CUDA Runtime Version。CUDA Driver Version 和 CUDA Runtime Version的版本不必非要一致，driver api的版本能向下兼容runtime api的版本，因此要CUDA Runtime Version<=CUDA Driver Version。