查看自己N卡支持的CUDA版本

打开nvdia控制面板，如图所示查看NVCUDA的版本

这里CUDA12.0是支持的最高版本的CUDA，可以向下兼容，且可以安装多个版本的CUDA

下载安装

安装CUDA

官网下载地址：https://developer.nvidia.com/cuda-toolkit-archive

安装CUDNN

cudnn是针对NVIDIA GPU的深度学习加速库，使用cudnn可以加速深度学习训练和推理的速度。
官网下载地址：https://developer.nvidia.com/rdp/cudnn-download
下载CUDNN需要nvdia账户，没有的话直接注册一个就行了
如果无法注册or登录，可尝试关闭科学网络

下载后里面有三个目录，需要解压替换到cuda的安装目录下
不知道cuda的安装目录的话直接在命令行中使用where nvcc即可输出cuda安装目录
判断是否安装成功，可使用python代码输出cudnn版本

检验是否安装成功

从命令行进入cuda安装目录下的\extras\demo_suite
执行deviceQuery.exe
有出现Result = PASS则代表cuda安装成功
执行bandwidthTest.exe
有出现Result = PASS则代表cudnn安装成功