-1. 卸载老的驱动

注意：是否要卸载驱动，需要考虑，因为，卸载驱动后，桌面系统可能无法显示，因此，需要进入到命令行窗口，执行命令，重新安装显卡驱动。如果图形界面无法进入，可以使用Ctrl+Alt+F2进入窗口界面，执行驱动安装命令。

卸载驱动代码

# 彻底卸载NVIDIA驱动
sudo apt-get remove --purge "*nvidia*" "*cuda*" "*cudnn*" "*tensorrt*"
# 如果上面命令有问题，用下面的命令
sudo apt purge $(dpkg -l | awk '/^ii/ {print $2}' | grep -E "nvidia|cuda|cudnn|tensorrt")

sudo apt-get autoremove
sudo apt-get autoclean

# 重启系统
sudo reboot

# 删除本地仓库文件
sudo rm -rf /var/nv-tensorrt-local-repo-*
sudo rm -rf /var/cudnn-local-repo-*
sudo rm -rf /var/cuda-repo-*

# 删除APT源配置
sudo rm -f /etc/apt/sources.list.d/*cuda*
sudo rm -f /etc/apt/sources.list.d/*cudnn*
sudo rm -f /etc/apt/sources.list.d/*tensorrt*
sudo rm -f /etc/apt/sources.list.d/*nvidia*

# 删除残留的配置文件
sudo rm -rf /usr/local/cuda*
sudo rm -rf /opt/nvidia
sudo rm -rf /tmp/cuda*

#清理环境变量
nano ~/.bashrc
#在bashrc中，找到类似下面的语句，如有，则删除
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
export CUDA_HOME=/usr/local/cuda
export TensorRT_ROOT=/usr/local/tensorrt

# 清理APT缓存
sudo rm -rf /var/lib/apt/lists/*
sudo apt update

# 修复损坏的包状态
sudo dpkg --configure -a
sudo apt --fix-broken install

0. 写在安装前

Nividia官网提供了三种安装方式：

  1. local deb

  2. network deb

  3. local runfile

  local的意思是下载的包中，已经包含了驱动；network的意思是，只下载源地址，不包含安装的驱动；runfile是通过shell脚本安装。

上面三种安装方式，建议使用network deb形式，如果网络可以的情况下，在这种情况下，只需要安装Nividia的秘钥，即可如同安装普通的软件一样，通过apt安装。

下载秘钥

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.0-1_all.deb
sudo dpkg -i cuda-keyring_1.0-1_all.deb
sudo apt-get update

后面的安装步骤，参考实例3（7 实例3 更新于2025-11-25，实例2编译完成后，运行过程中，依然出现了库依赖的问题，进一步查询，根据官网的版本进行安装）即可，换句话说，下面的安装步骤，可以跳过，直接参考实例2的命令完成。

1. 安装英伟达驱动

查看推荐的驱动版本：

ubuntu-drivers list

安装支持CUDA 12的驱动 （如：nvidia-driver-580）:

sudo apt install nvidia-driver-580

重启系统。

注意：具体版本需参考 NVIDIA 官网。驱动版本 ≥525.60.13 通常兼容 CUDA 12。

2. 安装CUDA

步骤1 根据官网指导进行安装

安装说明（非常详细说明了CUDA安装的步骤，如果遇到问题，可以查询）：https://docs.nvidia.com/cuda/cuda-installation-guide-linux/index.html#system-requirements

下载网址：https://developer.nvidia.com/cuda-downloads

3. 安装cuDNN

步骤1 根据官网要求进行安装

网址：https://developer.nvidia.com/cudnn-downloads?target_os=Linux&target_arch=x86_64&Distribution=Ubuntu&target_version=22.04&target_type=deb_local&Configuration=Full

4. 安装TensorRT

安装网址：

https://docs.nvidia.com/deeplearning/tensorrt/latest/installing-tensorrt/installing.html

下载地址：

https://developer.nvidia.com/tensorrt/download

5 实例1

我的计算机是ubuntu2204，GeForce RTX3080显卡，为了编译Autoware，做了如下配置，但是不满足Autoware的要求，由于已经写了，就保留。正确的，请参考实例2。

5.1 驱动版本

sudo apt install nvidia-driver-535

5.2 CUDA版本

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/13.0.2/local_installers/cuda-repo-ubuntu2204-13-0-local_13.0.2-580.95.05-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2204-13-0-local_13.0.2-580.95.05-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2204-13-0-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda-toolkit-13-0

5.3 cuDNN版本

安装命令

wget https://developer.download.nvidia.com/compute/cudnn/9.14.0/local_installers/cudnn-local-repo-ubuntu2204-9.14.0_1.0-1_amd64.deb
sudo dpkg -i cudnn-local-repo-ubuntu2204-9.14.0_1.0-1_amd64.deb
sudo cp /var/cudnn-local-repo-ubuntu2204-9.14.0/cudnn-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudnn9-cuda-12

5.4 TensorRT版本

sudo dpkg -i nv-tensorrt-local-repo-ubuntu2204-10.13.3-cuda-12.9_1.0-1_amd64.deb 
sudo cp /var/nv-tensorrt-local-repo-ubuntu2204-10.13.3-cuda-12.9/nv-tensorrt-local-2F9B36B1-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get install tensorrt

5.5 Nividia官方支持矩阵

https://docs.nvidia.com/deeplearning/tensorrt/latest/getting-started/support-matrix.html

6 实例2

6.1 推荐版本

AI推荐的配置，实测535的驱动不行，就安装了580的驱动，CUDA使用11.8版本。

6.2 建立安装源

cd ~/Downloads
sudo dpkg -i cuda-keyring_1.0-1_all.deb
#sudo dpkg -i cudnn-local-repo-ubuntu2204-8.6.0.163_1.0-1_amd64.deb
#sudo dpkg -i nv-tensorrt-local-repo-ubuntu2204-8.5.3-cuda-11.8_1.0-1_amd64.deb
sudo apt update

6.3 安装所需组件

# 安装NVIDIA驱动（选择与您的CUDA版本兼容的驱动）
sudo apt install nvidia-driver-580

# 安装CUDA 11.8
sudo apt install cuda-11-8

# 安装cuDNN
sudo apt install libcudnn8 libcudnn8-dev

# 安装TensorRT
# 注意，安装时，不要使用下面注释掉的命令，否则，apt会报版本不兼容的错误，一定要指定安装的版本，如下面所示
#sudo apt install tensorrt libnvinfer8 libnvinfer-dev libnvparsers8 #libnvonnxparsers8 libnvinfer-plugin8

version=8.5.3-1+cuda11.8
sudo apt install libnvinfer8=${version} libnvinfer-dev=${version}  libnvonnxparsers-dev=${version} libnvparsers8=${version} libnvparsers8=${version}  libnvinfer-plugin8=${version} libnvinfer-bin=${version}  libnvinfer-plugin-dev=${version} libnvparsers-dev=${version} libnvinfer-samples=${version}  tensorrt=8.5.3.1-1+cuda11.8

6.4 验证安装

# 检查驱动
nvidia-smi

# 检查CUDA
nvcc --version

# 检查cuDNN
cat /usr/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

# 检查TensorRT
dpkg -l | grep tensorrt

6.5 修改bashrc文件

#在~/.bashrc最后，添加如下代码

export CUDNN_INCLUDE_DIR=/usr/include
export CUDNN_LIBRARY=/usr/lib/x86_64-linux-gnu
export CUDNN_ROOT=/usr
export CUDA_HOME=/usr/local/cuda
export PATH=$CUDA_HOME/bin:$PATH
export LD_LIBRARY_PATH=$CUDA_HOME/lib64:$LD_LIBRARY_PATH

export TENSORRT_ROOT=/usr
export TENSORRT_INCLUDE_DIR=/usr/include/x86_64-linux-gnu
export TENSORRT_LIB_DIR=/usr/lib/x86_64-linux-gnu
export LD_LIBRARY_PATH=/usr/lib/x86_64-linux-gnu:$LD_LIBRARY_PATH

7 实例3

#注意，我的显卡是GF 3080，安装的是580版本的驱动，安装好驱动后，安装下面的库

sudo apt-get install -y cuda-toolkit-12-4

# 安装 runtime 库
sudo apt-get install -y libcudnn8=8.9.7.29-1+cuda12.2
# 安装开发库 (编译 Autoware 必须)
sudo apt-get install -y libcudnn8-dev=8.9.7.29-1+cuda12.2
# 安装核心库和开发库
sudo apt-get install -y libnvinfer10=10.8.0.43-1+cuda12.8 \
                     libnvinfer-dev=10.8.0.43-1+cuda12.8 \
                     libnvinfer-plugin10=10.8.0.43-1+cuda12.8 \
                     libnvinfer-plugin-dev=10.8.0.43-1+cuda12.8 \
                     libnvonnxparsers10=10.8.0.43-1+cuda12.8 \
                     libnvonnxparsers-dev=10.8.0.43-1+cuda12.8

other 查询命令

o.1 显卡驱动查询命令

sudo apt update

注意，其中显示CUDA版本表示该驱动支持的最高CUDA版本

o.2 CUDA版本查询命令

nvcc --version

o.3 cuDNN版本查询命令

dpkg -l | grep cudnn

o.4 TensorRT版本查询命令

dpkg -l | grep tensorrt

# ubuntu # linux # GPU
Logo
2048 AI社区

有“AI”的1024 = 2048，欢迎大家加入2048 AI社区

更多推荐

cover

n8n智能体开发：PostHog、ProfitWell、Pushbullet节点

avatar 2048 AI社区
cover

【RuoYi-SpringBoot3-Pro】：接入 AI 对话能力

avatar 2048 AI社区
cover

【2025 大模型选型全攻略】：国内外主流模型核心能力与避坑指南

avatar 2048 AI社区