目录

一、为什么需要 NVIDIA 显卡和 CUDA?

二、安装的每一项及其作用

(1) NVIDIA 显卡驱动(NVIDIA Driver)

(2) CUDA Toolkit

(3) cuDNN

(4) PyTorch(GPU 版本)

 三、注意事项

 四、常见问题


一、为什么需要 NVIDIA 显卡和 CUDA?

  • NVIDIA 显卡:PyTorch 的 GPU 加速功能依赖 NVIDIA 显卡的并行计算架构(CUDA 核心),只有支持 CUDA 的 NVIDIA 显卡才能启用 GPU 加速。

  • CUDA:是 NVIDIA 开发的并行计算平台和编程模型,允许开发者直接调用 GPU 的计算能力加速任务(如矩阵运算)。

  • cuDNN:是 NVIDIA 针对深度学习优化的加速库,提供高效实现的神经网络层(如卷积、池化等)。

二、安装的每一项及其作用

以下是安装 PyTorch GPU 版本所需的主要组件及其作用:

(1) NVIDIA 显卡驱动(NVIDIA Driver)
  • 作用:让操作系统识别并管理 NVIDIA 显卡,提供基础的 GPU 功能支持。

  • 安装方式:从 NVIDIA 官网 下载对应驱动。

  • 验证:win+R,输入cmd打开命令框,运行 nvidia-smi,若显示 GPU 信息则成功。


    注意CUDA版本号,我是12.3,你不能下载超过这个版本的CUDA。


(2) CUDA Toolkit
  • 作用:提供编译和运行 GPU 程序的工具链(如 nvcc 编译器)和基础库。

  • 安装方式

    • 从 CUDA Toolkit 官网 下载对应版本。

      以往版本下拉找Resources:

    • 安装完成后,将 CUDA 路径添加到环境变量:


  • 验证:win+R,输入cmd打开命令框,运行 nvcc --version 查看 CUDA 版本。


(3) cuDNN
  • 作用:针对深度学习的加速库,优化了卷积、循环层等操作。

  • 安装方式

    1. 从 cuDNN 官网 下载与 CUDA 版本匹配的包,如果打不开需科学上网。打开后根据CUDA版本下载CUDNN。

    2. 解压并复制CUDNN中三个项目到CUDA文件里覆盖CUDA原有的这三个文件。

  • 验证:无直接命令,需通过 PyTorch 测试。


(4) PyTorch(GPU 版本)


       四、常见问题

  • 作用:深度学习框架,利用 CUDA 和 cuDNN 加速计算。

  • 安装方式:在anaconda中创建专属于pytorch的虚拟环境(这一步这篇文章没体现,各位即将年入百万的宝宝们应该都会哦),激活pytorch后 
    使用 conda 或 pip 安装时指定 CUDA 版本:
    pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
    安装过程可能很久,你可以使用国内镜像加速!!!
    之后输入conda list检查,像这样的就是GPU版。

  • 验证:import torch print(torch.cuda.is_available()) # 应输出 True print(torch.__version__) # 查看 PyTorch 版本

     

    三、注意事项

  • 无 NVIDIA 显卡时:只能安装 PyTorch CPU 版本,无法使用 GPU 加速。

  • 版本冲突:确保 CUDA Toolkit、cuDNN 和 PyTorch 版本严格匹配。

  • 虚拟环境:建议使用 conda 或 venv 隔离环境,避免依赖冲突。

  • torch.cuda.is_available() 返回 False

    • 驱动未安装或版本不匹配。

    • CUDA 或 cuDNN 未正确配置。

  • CUDA 版本与 PyTorch 不兼容:从 PyTorch 官网 查找正确的安装命令。

    有任何问题联系我!友友们一起进步。

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐