0 前言

统一计算设备架构（Compute Unified Device Architecture，CUDA），是由NVIDIA推出的通用并行计算架构，让开发者能够基于CUDA平台对GPU进行编程，一般使用C/C++语言来编写并行计算程序，通过CUDA编译器将程序转化为可以在NVIDIA GPU上执行的机器码快速运行，目前比较火的领域就是用GPU来训练神经网络模型。

1.前提条件

1.1 实验环境

• windows11

• CUDA Version：12.6

• WSL2

• Ubuntu 22.04

1.1.1 查看nvidia显卡驱动支持的版本

• win + r 输入cmd 打开命令行终端

• 输入nvidia-smi

可以看到支持的CUDA Version为12.6，这时候你要下载的CUDA必须是在12.6以下，假如说你的CUDA Version显示为11.7，你又想安装12.2，你就要升级你的显卡驱动。

1.1.2 打开NVIDIA控制面板查看版本信息

• 打开NVIDIA控制面板

• 点击帮助

• 点击系统信息

• 点击组件

可以看到支持NVIDIA CUDA 12.6.41版本的driver。

1.1.3 windows下安装WSL2子系统

官方文档：https://learn.microsoft.com/zh-cn/windows/wsl/install-manual

注：请使用命令行终端管理员身份打开，以便有足够的权限执行，其中，在安装linux内核更新包之前，应先重启电脑。

1.1.3.1 启用适用于Linux的Windows子系统

dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart

1.1.3.2 启用虚拟机功能

dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart

1.1.3.3 安装Linux内核更新包

• 下载WSL2 Linux内核更新包

https://wslstorestorage.blob.core.windows.net/wslblob/wsl_update_x64.msi

• 下载好后双击安装即可

1.1.3.4 将WSL2设置为默认版本

wsl --set-default-version 2

目前一般使用wsl2，wsl2才具有完整的linux内核。

1.2 安装版本

• CUDA 12.2

• CUDNN v8.9.6

1.3 CUDA下载

• 下载链接：https://developer.nvidia.com/cuda-toolkit-archive

本教程使用cuda12.2.2，点击进入页面后，依次点击Linux、x86_64、WSL-Ubuntu、2.0、runfile(local)

最后在终端下载

wget https://developer.download.nvidia.com/compute/cuda/12.2.2/local_installers/cuda_12.2.2_535.104.05_linux.run

得到如下文件：

• cuda_12.2.2_535.104.05_linux.run

1.4 CUDNN下载

下载cudnn的时候需要考虑跟cuda的版本保持一致，有个小点就是下载cudnn需要登录nvidia账号，没有就注册一个。

• 下载链接：https://developer.nvidia.com/rdp/cudnn-archive#a-collapse51b

点击之后下载的文件如下：

• cudnn-linux-x86_64-8.9.6.50_cuda12-archive.tar.xz

安装包下载好之后下一步就是安装了。

2.CUDA和CUDNN安装

2.1 CUDA安装与验证

2.1.1 安装

• 执行

sudo sh cuda_12.2.2_535.104.05_linux.run

• 输入accept

• 按空格可以选中（X代表选中），如果之前安装过，未卸载干净，这里需要勾选上以前的版本，如像图片一般则选择install即可

• 等待安装成功

• 配置环境变量，在文件的末尾添加

vim ~/.bashrc

• 按i可编辑文件，按ESC+:wq可保存文件并退出

export PATH=/usr/local/cuda-12.2/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.2/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

注：可使用以下命令查看路径

cd /usr/local/
ls
pwd

2.1.2 验证

• 更新环境

source ~/.bashrc

• 输入nvcc -V

• 如此便安装成功

2.2 CUDNN 安装与验证

2.2.1 安装

• 解压缩

tar -xvf cudnn-linux-x86_64-8.9.6.50_cuda12-archive.tar.xz

• 进入cudnn目录下

cd cudnn-linux-x86_64-8.9.6.50_cuda12-archive/

• 将文件复制到cuda安装目录下

sudo cp ./include/cudnn*.h /usr/local/cuda-12.2/include
sudo cp -P lib/libcudnn* /usr/local/cuda-12.2/lib64

• 赋予权限

sudo chmod a+r /usr/local/cuda-12.2/include/cudnn*.h 
sudo chmod a+r /usr/local/cuda-12.2/lib64/libcudnn*

2.2.2 验证

cat /usr/local/cuda-12.2/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

3.CUDA和CUDNN卸载

3.1 使用Ubuntu的卸载工具卸载

3.1.1 CUDA与CUDNN卸载

• 在终端中执行命令

sudo apt remove cuda -y

sudo apt autoremove -y

sudo apt remove cuda* -y

cd /usr/local/

sudo rm -r cuda-11.7/

dpkg -l | grep cuda

可以看到还有残留，依次将它们删除即可

sudo dpkg -P cuda-repo-wsl-ubuntu-11-7-local
sudo dpkg -P cuda-toolkit-11-7