显卡驱动CUDA 和 pytorch CUDA 之间的区别

写在前面

我的 CUDA 版本是什么？ 这个问题本身就是有问题的，因为没有搞清楚cuda的分类

• 这里的 CUDA 说的是 Driver CUDA 还是 Runtime CUDA？
• 如果是 Runtime CUDA，那系统可能有多个，说的是哪个？用 apt-get 装的？PyTorch 自带的？

想知道答案的话往下看，相信看完之后应该有所感悟

如何查看CUDA 版本

常见的查看CUDA版本的指令有如下几个

nvidia-smi
nvcc --version
python -c "import torch; print(torch.version.cuda)"

nvidia-smi

nvcc --version

我先在用的是Windows电脑，这里是一张Linux 网图

python -c “import torch; print(torch.version.cuda)”

为何三个指令 三种结果？

nvidia-smi

这个命令一旦装完显卡驱动（nvidia-driver）就可以使用了，驱动程序提供最底层的程序接口，直接与硬件打交道。插上显卡的计算机也必须要装上驱动程序才能使用显卡。所以 nvidia-smi 的输出几乎都是显卡的硬件信息。
系统同一时间只能安装一个版本的驱动程序，如果安装多套版本可能会导致未定义的错误，另外驱动程序保持最新版本即可。

那这里的 CUDA Version 是代表什么呢？其实驱动程序也有 CUDA，叫做 Driver CUDA，这里指的是 Driver CUDA 的版本。而几乎所有的框架程序，所使用的 CUDA 都不是 Driver CUDA，而是 NVIDIA 提供的更上层的编程接口，叫做 Runtime CUDA

nvcc 和 torch.version.cuda

首先 nvcc 是一个编译器，这个编译器是用户在安装 Runtime CUDA 的时候附带的。因此 nvcc 打印的是 Runtime CUDA 的版本。同样的，torch.version.cuda 打印的也是 Runtime CUDA 的版本，那这两个版本为什么也不同呢？我们需要先了解Runtime CUDA。

Runtime CUDA

Runtime CUDA 是 NVIDIA 封装的上层接口，几乎所有的应用程序，都是直接调用 Runtime CUDA 的 API，而 Runtime CUDA 内部调用 Driver 的接口。所以通常所说的 CUDA 都是指的 Runtime CUDA（除非是驱动开发的人员）。另外 NVIDIA 有一个规则，Runtime CUDA 的版本号必须小于等于Driver CUDA 的版本号，所以 nvidia-smi 输出的 CUDA 版本可以理解为该系统所能安装的最高 CUDA 版本号是多少。

安装方法

nvcc --version 输出的是当前安装的 CUDA 的版本，而系统同一时间还可以安装多套 CUDA，并且安装的方式还多种多样，一般来说有以下几种安装方式：

PyTorch 本身自带 CUDA

# 会自动安装 CUDA 10.2
pip3 install torch

# 会自动安装 CUDA 11.3
pip3 install torch --extra-index-url https://download.pytorch.org/whl/cu113

# 会自动安装 CUDA 11.6
pip3 install torch --extra-index-url https://download.pytorch.org/whl/cu116

有人可能会问：为什么装了 PyTorch 之后，没有 nvcc 这个命令，或是 nvcc --version 显示的 CUDA 和 PyTorch 安装的 CUDA 版本对不上？

上文说了，一个系统可能有多套 CUDA，如果 nvcc --version 显示的 CUDA 对不上号，是因为系统本身安装了其他版本的 CUDA。另外，PyTorch 自带的 CUDA 只包含库文件，没有 nvcc 编译器，所以没有 nvcc 这个命令。

通过 Ubuntu 的官方源安装

sudo apt-get install nvidia-cuda-toolkit

通过 conda 安装

conda search -c conda-forge cudatoolkit  # 列出所有可以安装的版本
conda install -c conda-forge cudatoolkit=xx.x.x

通过官方安装包访问下面的链接，可以下载到不同版本的安装包：toolkits

torch官网有详细的安装cuda的步骤，自己去官网找一下就好了

到此这篇关于显卡驱动CUDA 和 pytorch CUDA 之间的区别的文章就介绍到这了,更多相关显卡驱动CUDA 和 pytorch CUDA内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网！