0


最详细!Windows下的CUDA与cuDNN详细安装教程

  • 写于 2024/01/26
  • 更新于2024/08/31

20240824记:这几年,大模型的兴起,打开了新时代的大门,想要在这个时代快速地成长和生存,利用好AI进行辅助学习显然已经成为一种大趋势,我们应该抓住一切能加速自己成长的机会,国内的文心一言,豆包等,国外的大模型Chatgpt、Claude等,无一不可以辅助自己编程的学习,这里给大家推荐一个我自己在用的集成Chagpt和Claude的网站(国内可用,站点稳定,博主用了两个月了):传送门。

抓住AI时代每一个机会,加速自己成长,提高自己价值!

本篇文章将详细从如何安装CUDA与cuDNN开始,到基本配置结束,帮助大家理清配置流程。

一、了解CUDA与cuDNN

CUDA(Compute Unified Device Architecture)是NVIDIA开发的并行计算平台和编程模型,用于利用NVIDIA GPU的并行计算能力,它允许开发者使用类似于C语言的编程语言编写并行程序,利用GPU的大规模并行计算能力加速各种类型的应用程序,包括科学计算、深度学习、图形渲染等,并提供了一套丰富的API和工具,使开发者能够方便地利用GPU加速计算,包括核心的CUDA Runtime API、CUDA Driver API以及各种辅助工具和库。

cuDNN(CUDA Deep Neural Network library)是NVIDIA专门针对深度学习应用开发的GPU加速库。它提供了一系列高效的深度学习算法的实现,包括卷积神经网络(CNN)、循环神经网络(RNN)等常用网络结构的基本操作,如卷积、池化、归一化、激活函数等。cuDNN针对NVIDIA GPU进行了高度优化,利用GPU的并行计算能力加速深度学习模型的训练和推理过程。通过使用cuDNN,开发者可以轻松地将深度学习模型部署到支持CUDA的NVIDIA GPU上,并获得显著的性能提升。

总的来说,CUDA提供了通用的并行计算平台和编程模型,而cuDNN则是针对深度学习应用进行了优化的GPU加速库,二者结合起来可以实现高效的深度学习模型训练和推理。

二、安装CUDA

1. 查看显卡型号驱动版本(Driver Version)

①打开终端(win+R输入cmd),输入

nvidia-smi

--显卡型号:NVIDIA GeForce RTX 4060

--驱动版本:532.10

大家要了解的是:

1)驱动版本决定了CUDA版本,驱动版本越高,则可安装的CUDA版本越高

2)CUDA向下兼容,我这里是输出的CUDA版本为12.1,并不是意味着我的电脑只能安装12.1版本的CUDA,而是可以安装12.1及以下任何版本的CUDA

如果你想了解更多的驱动与CUDA之间的对应关系,可以查看官网:

CUDA 12.3 Update 2 Release Notes (nvidia.com)

TensorFlow与CUDA

在 Windows 环境中从源代码构建 | TensorFlow

Pytorch与CUDA

Previous PyTorch Versions | PyTorch

2. 下载CUDA

①Org Download WEB:

CUDA Toolkit Archive | NVIDIA Developer

②选择你将要安装的版本,我这里选择了11.6.0

在下述界面完成后,点击Download(2.4GB),等待下载完成

这里推荐IDM下载工具,下载速度很快

3.安装CUDA

①双击安装程序

②直接点击【OK】即可,不必修改路径(如果你的C盘没有空间了,记得修改路径)

该窗口为暂时解压缩路径,一旦安装程序完成,该临时文件夹会被清理,但是,提取过程会占用文件夹的存储空间,需要足够的空间来存放解压后的文件。

点击【OK】后等待即可

③点击【同意并继续】

④选择【自定义】,点击【下一步】

⑤组件选择问题

1)Other componentsDriver components

当前版本即为我的本地版本,新版本即为CUDA安装时将要替代版本

可以看到,我的版本均大于等于新版本,不必再勾选

如果你希望进行更新,那么你可以自行选择

2)CUDA

在这里,你可以看到Visual Studio Integration

如果你的设备上已经安装了VS,那么勾选上

反之,要取消勾选,否则在后续的安装过程会报错

⑥点击下一步,点击浏览修改安装位置,点击【下一步】

在另一个盘中新建目录结构如下(E:\Data_cuda中):

├─Data
│ └─NVIDIA Corporation
│ └─CUDA Samples
│ └─v11.6
└─Files
└─NVIDIA GPU Computing Toolkit
└─CUDA
└─v11.6

⑦等待安装

⑧点击下一步

⑨安装完成,点击【关闭】

4. 验证CUDA是否安装完成

在新打开的cmd窗口中输入:

nvcc -V

如上图,即表示安装完成!

三、安装cuDNN

1.下载cuDNN

①Org Download WEB:

Log in | NVIDIA Developer

注意:需要提前注册账号才可以登录

②这里选择版本是注意for CUDA xx.x,如果你的CUDA是11版本就选11,12版本就选12

③点开后选择【Local Install for Windows】下载

④解压下载文件

文件结构如下:

2.安装cuDNN

①复制以下三个文件夹

②将文件夹粘贴至如下路径:

path to your cudaFolder/Files/NVIDIA GPU Computing Toolkit/CUDA/v11.6

3.验证cuDNN是否安装成功

①在下述文件夹右键,打开终端

path to your cudaFolder/Files/NVIDIA GPU Computing Toolkit/CUDA/v11.6/extras/demo_suite

②输入:

.\deviceQuery.exe

得到PASS即代表安装成功

输入:

 .\bandwidthTest.exe

得到PASS即代表安装成功

转载请标明出处
如果还有问题,欢迎在评论区留言或私信
作者:BQ
主页:https://blog.csdn.net/weixin_52677672?type=blog

微信公众号:BQ经验书
qq群:958124241
Learn Together!

标签: windows c++ python

本文转载自: https://blog.csdn.net/weixin_52677672/article/details/135853106
版权归原作者 BQ-Code 所有, 如有侵权,请联系我们删除。

“最详细!Windows下的CUDA与cuDNN详细安装教程”的评论:

还没有评论