CentOS 8 安装 NVIDIA 驱动、CUDA 与 Anaconda 版本匹配实战

很多人在 CentOS 8 上折腾 NVIDIA 驱动、CUDA 和 Anaconda 这套组合，最常见的结果是驱动装完重启黑屏、CUDA 装完 nvcc 能用但一跑 PyTorch 就报错、或者 Anaconda 装完 conda 命令找不到。这三个东西单独装都不难，难的是版本匹配和顺序。我写这篇文章，就是把我反复装过多次的完整流程整理出来，从换源到最终跑起 PyTorch，每一步都说明白为什么这么做，希望能帮你少走弯路。

1. 装之前先搞清楚：版本匹配与整体思路

1.1 为什么这三样是一套组合拳

NVIDIA 驱动是让系统识别 GPU 的底层驱动层，它决定了你的显卡能不能工作；CUDA Toolkit 是上层开发套件，提供nvcc编译器、各类数学库和运行环境；Anaconda 则是 Python 生态的管理工具，解决 Python 版本和包依赖问题。三者层层叠加，只要某一层版本不匹配，后续所有工作都会跟着崩。

最典型的问题就是：驱动提供的 CUDA 版本号和nvcc -V显示的版本号对不上。很多人查nvidia-smi，看到上面显示 CUDA Version 12.2，就以为 CUDA 装好了，结果一跑深度学习框架，提示找不到 libcudart.so。这就是因为驱动本身内置了一个最小运行环境，它显示的是“驱动所支持的最高 CUDA 版本”，而不是你实际安装的 Toolkit 版本。

我建议的安装顺序是：先做系统准备（换源、装依赖、禁用 Nouveau），再装 NVIDIA 驱动，然后装 CUDA Toolkit，最后装 Anaconda。这个顺序不能乱，因为驱动装完需要验证 GPU 是否正常，CUDA 依赖驱动，而 Anaconda 的虚拟环境可以把你后续要装的 PyTorch、TensorFlow 等框架隔离起来，需要哪个 CUDA 版本就在 conda 环境里单独装对应的版本，互不干扰。

1.2 版本选型：驱动、CUDA、Python 环境的取舍

版本选择是整个流程中最关键的一步。我见过太多人在这一步掉坑，装了个最新版的 CUDA 12.4，结果想用的 PyTorch 官方预编译包还不支持，只能自己从源码编译，浪费时间不说还容易失败。

这里给出我的选型建议：

组件	建议版本	原因
操作系统	CentOS 8.5（内核 4.18.0）	生命周期完整，兼容性好
NVIDIA 驱动	535.154.05 或 545.x	支持 CUDA 12.2，向下兼容 11.x
CUDA Toolkit	11.8 或 12.1	PyTorch/TensorFlow 官方支持度高
Python	3.10（Anaconda 自带）	当前主流深度学习框架普遍兼容
gcc	8.5 或更高	CUDA Toolkit 编译依赖

为什么推荐 CUDA 11.8？因为这个版本是深度学习框架兼容性的“甜点版本”，PyTorch 有专门的pytorch-cuda=11.8安装源（conda 会直接帮你装好配套的 cuDNN），TensorFlow 也对它做了完整支持。如果你确实需要更新的 CUDA 12.x，也可以，但建议先查清楚你要用的框架版本是否支持，再决定。

2. 基础环境准备：换源、装依赖、禁用 Nouveau

2.1 先把 CentOS 8 的软件源换成可用的归档源

如果你用的是 CentOS 8，并且发现dnf install一直报错，那肯定是遇到了生命周期结束导致的官方源失效问题。CentOS 8 的源已经被移到了 vault 归档仓库，需要手动修改 yum 源的地址才能正常使用。

我在干净系统上测试过，下面这组命令把官方源重定向到 vault，是稳定有效的：

sed -i 's|mirrorlist=|#mirrorlist=|g' /etc/yum.repos.d/CentOS-*.repo sed -i 's|#baseurl=http://mirror.centos.org|baseurl=http://vault.centos.org|g' /etc/yum.repos.d/CentOS-*.repo dnf clean all dnf makecache

注意：如果你的服务器在国内，建议把 vault 替换成阿里云或搜狐镜像，速度会快很多。替换方式类似，把http://vault.centos.org换成https://mirrors.aliyun.com/centos-vault即可。

换完源以后，先确认一下基础软件包能不能正常安装。dnf update -y会把内核也升级，如果升级后不重启，驱动安装阶段可能会出现内核头文件和当前内核不匹配的问题，所以我习惯先不执行全量更新，等全部装完再重启。

2.2 安装编译依赖和内核头文件

NVIDIA 驱动安装需要编译内核模块，所以内核头文件和开发工具是必须的。这里最容易踩的坑是：kernel-devel安装的版本和当前运行内核不一致。

先查看当前内核版本：

uname -r

假设输出是4.18.0-348.el8.x86_64，那么一定要安装对应的 kernel-devel 和 kernel-headers：

dnf install -y kernel-devel-$(uname -r) kernel-headers-$(uname -r)

安装完以后验证一下：

ls /usr/src/kernels/

确保有以4.18.0-348.el8.x86_64命名的目录。如果没有，说明版本不一致，需要手动指定版本号重新安装。

接着安装编译所需的开发工具组：

dnf groupinstall -y "Development Tools" dnf install -y epel-release dkms

dkms（Dynamic Kernel Module Support）是动态内核模块支持工具，它能在内核升级后自动重建 NVIDIA 驱动模块。如果你不想每次升级内核后都重新编译一次驱动，这个包必不可少。在我的实际安装中，DKMS 在驱动遇到内核小版本升级时能自动完成模块重建，省掉了很多重复操作。

2.3 禁用 Nouveau 并重建 initramfs

Nouveau 是开源的 NVIDIA 驱动，虽然功能有限，但它会和官方驱动抢设备资源。如果不禁用它，安装官方驱动时会报错或者加载失败。这也是很多新手“装完驱动重启黑屏”的根源之一——Nouveau 没禁干净。

创建一个黑名单文件：

vi /etc/modprobe.d/blacklist-nouveau.conf

写入以下内容：

blacklist nouveau options nouveau modeset=0

然后重建 initramfs，这一步很关键，不重建的话黑名单不会生效：

mv /boot/initramfs-$(uname -r).img /boot/initramfs-$(uname -r).img.bak dracut /boot/initramfs-$(uname -r).img $(uname -r)

改完后重启系统：

reboot

重启后执行以下命令确认 Nouveau 已经被禁用：

lsmod | grep nouveau

如果没有任何输出，说明禁用成功；如果有输出，则说明没禁干净，需要检查/etc/modprobe.d/下是否有别的配置把它重新加载了。

3. NVIDIA 驱动安装：runfile 方式的完整实战

3.1 为什么不用 rpmfusion 而选 runfile

安装 NVIDIA 驱动有几种方式：通过 rpmfusion 仓库安装预编译的 rpm 包、通过 NVIDIA 官方仓库安装、或者使用官方 .run 安装脚本直接安装。

我强烈推荐 .run 安装方式。原因很简单：rpmfusion 和官方仓库的 rpm 包装完以后，经常会遇到 DKMS 触发失败或者和 CentOS 自带的内核模块冲突的问题，排查起来非常痛苦；而 .run 安装脚本虽然要自己处理依赖，但它给你完全的控制权，能看到每一步的详细输出，出了问题也容易定位。

比如下面这个报错，我用 rpmfusion 方式装 535 驱动时遇到过：

ERROR: The Nouveau kernel driver is currently in use by your system.

这是因为 rpm 包装驱动前不会自动帮你处理 Nouveau 的残留。而 .run 脚本会先检测 Nouveau 是否被加载，如果加载了会阻止安装并给出提示。所以我会先手动把环境清理干净，再用 .run 安装。

3.2 下载、停止图形接口、执行安装

先到 NVIDIA 官网下载对应显卡的驱动。如果不知道自己的显卡型号，可以用lspci | grep -i nvidia查看。下载回来的文件通常是NVIDIA-Linux-x86_64-535.154.05.run这种格式。

如果你的机器是带图形界面的，需要先切换到多用户文本模式，停掉 X 服务：

systemctl isolate multi-user.target

执行这一步后你的图形界面会关闭，属于正常现象。此时可以用 root 登录或者用普通用户加 sudo 执行后续命令。

给驱动文件赋予执行权限并安装：

chmod +x NVIDIA-Linux-x86_64-535.154.05.run ./NVIDIA-Linux-x86_64-535.154.05.run --no-opengl-files

--no-opengl-files是很多人在服务器上忽略的参数。它的作用是只安装驱动和 CUDA 库，不安装 OpenGL 文件。如果你不需要在本地跑 OpenGL 图形程序，建议加上这个参数，能避免很多桌面环境里的库冲突问题。

安装过程中会问你是否安装 DKMS、是否更新 X 配置文件等，我的建议：

• 是否注册 DKMS：选 Yes
• 是否安装 32 位兼容库：按需选择，如果只是做深度学习，不需要
• 是否更新 X 配置：如果带桌面，选 No，防止它自动改配置导致桌面起不来

安装完成后，nvidia-smi 命令会生成一个工具，用于查看显卡状态。不过这时不急着验证，先加载内核模块：

modprobe nvidia

如果没有报错，再执行：

nvidia-smi

正常情况下会看到类似这样的输出，显示显卡型号、驱动版本、显存使用情况等信息：

+-----------------------------------------------------------------------------+ | NVIDIA-SMI 535.154.05 Driver Version: 535.154.05 CUDA Version: 12.2 |

如果报nvidia-smi has failed because it couldn't communicate with the nvidia driver，大概率是内核模块没有正确加载，或者是 Nouveau 没禁干净，回头看 2.3 节的操作。

3.3 配置模块持久化与开机自动加载

驱动安装成功只是第一步，还需要让它在系统启动时自动加载。NVIDIA 驱动安装脚本默认已经配置了nvidia模块的自动加载，但为了保险起见，我习惯手动添加配置：

echo 'nvidia' > /etc/modules-load.d/nvidia.conf systemctl enable nvidia-persistenced systemctl start nvidia-persistenced

nvidia-persistenced是一个守护进程，可以保持 GPU 始终处于被初始化状态。在服务器场景下建议开启，能避免频繁初始化和释放带来的性能波动。如果你挂载了多张卡做训练，这个守护进程的作用会更明显。

这些都做完以后，再执行一次reboot，重启后确认nvidia-smi依然正常工作。

4. CUDA Toolkit 安装与环境变量配置

4.1 下载并安装 CUDA Toolkit（建议 runfile 方式）

驱动装好以后，接下来装 CUDA Toolkit。CUDA Toolkit 里面包含了nvcc编译器、CUDA 数学库、专用工具等，是深度学习和 HPC 开发的核心开发套件。

到 NVIDIA 官方存档页可以找到所有 CUDA 版本。这里以 CUDA 11.8 为例，下载命令如下：

wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda_11.8.0_520.61.05_linux.run

注意文件名里最后那串520.61.05是安装包内附带的驱动版本，我们可以不让它安装驱动，只装 Toolkit，因为驱动我们已经单独装好了。

执行安装：

sudo sh cuda_11.8.0_520.61.05_linux.run

第一次执行时，安装脚本通常会用检查模式启动，显示一堆关于驱动版本最低要求的提示。如果提示说现有驱动版本太低，需要先升级驱动。如果驱动版本没问题，接受协议后会进入文本交互界面。

在交互界面里，用方向键和空格键取消选中 Driver 那一项，只保留 CUDA Toolkit 和 CUDA Samples（示例代码）。这一步非常关键，如果你默认全部勾选，它会重新安装一遍自带的驱动，覆盖你之前装的版本，可能又把系统搞崩。

安装完成后，默认路径是/usr/local/cuda-11.8，同时会创建一个软链接/usr/local/cuda指向当前安装版本。这是 NVIDIA 的惯例设计，方便我们切换不同版本的 CUDA。

4.2 环境变量配置与验证

CUDA 不会自动加入 PATH，需要手动配置环境变量。编辑~/.bashrc：

vi ~/.bashrc

在文件末尾追加：

export PATH=/usr/local/cuda-11.8/bin${PATH:+:${PATH}} export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}} export CUDA_HOME=/usr/local/cuda-11.8

然后让配置生效：

source ~/.bashrc

验证安装：

nvcc -V

输出应该类似：

nvcc: NVIDIA (R) Cuda compiler driver Copyright (c) 2005-2023 NVIDIA Corporation Built on Wed_Nov_22_10:17:15_PST_2023 Cuda compilation tools, release 11.8, V11.8.89 Build cuda_11.8.r11.8/compiler.31833911_0

再看一眼nvidia-smi顶部的 CUDA Version 字段，如果显示的是 12.2（驱动支持的最高版本），也不用担心，这是正常的。nvidia-smi显示的是驱动支持的上限，而实际使用的 Toolkit 版本由nvcc -V决定。两者不一致不一定是问题，只要你用的框架所需 CUDA 版本低于驱动版本上限就可以。

4.3 多版本 CUDA 的切换与管理

CUDA 版本特立独行的习惯，让我在同一台机器上装过 11.8 和 12.1 两个 Toolkit。操作很简单，安装时注意不要装驱动就行。

切换版本的秘诀就是软链接。系统默认查找的路径是/usr/local/cuda，它只是一个指向某个具体版本目录的链接。

# 切换到 12.1 sudo rm -f /usr/local/cuda sudo ln -s /usr/local/cuda-12.1 /usr/local/cuda # 切换回 11.8 sudo rm -f /usr/local/cuda sudo ln -s /usr/local/cuda-11.8 /usr/local/cuda

切换之后记得重新source ~/.bashrc。这种方式的优点是简单粗暴，缺点是你得记住当前指向的是哪个版本。我一般只在服务器上保留一个主版本，除非项目确实需要多版本共存，才加软链接切换。

5. Anaconda 安装与 Python 环境隔离

5.1 Anaconda 安装步骤

Anaconda 本身安装非常简单，但有几个细节值得注意。首先确认你是 root 用户还是普通用户，官方推荐以普通用户身份安装，避免 conda 包管理权限过大影响系统环境。

下载安装脚本，这里以 Anaconda3-2024.10-1 为例：

wget https://repo.anaconda.com/archive/Anaconda3-2024.10-1-Linux-x86_64.sh

如果下载慢，可以换清华镜像源：

wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/Anaconda3-2024.10-1-Linux-x86_64.sh

然后执行安装脚本：

bash Anaconda3-2024.10-1-Linux-x86_64.sh

安装过程中会询问安装位置，保持默认或者指定一个目录都行。比较常见的坑是最后一步提示：

Do you wish the installer to initialize Anaconda3 by running conda init?

这里一定要选 yes，否则 conda 命令不会自动加入 PATH。安装完成后，重新登录终端或者执行：

source ~/.bashrc

此时命令行前面会出现(base)前缀，表示 conda 已经生效。如果没出现，检查~/.bashrc末尾是否多了一段 conda 初始化代码。

5.2 配置 conda 国内镜像和创建虚拟环境

Anaconda 默认的下载源在国外，在国内装包时会非常慢，甚至超时。这里我强烈建议配置清华镜像源：

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/ conda config --set show_channel_urls yes

然后创建一个独立的深度学习环境，比如叫dl，指定 Python 3.10：

conda create -n dl python=3.10 -y conda activate dl

为什么建议创建虚拟环境而不是直接在 base 环境里装包？因为 base 环境是 conda 自身的管理环境，在里面装太多包容易冲突，而且如果哪天环境坏了，重装 conda 的成本很高。虚拟环境互相独立，删掉重建都不影响系统。

5.3 验证整个链路：用 conda 安装 PyTorch

走到这一步，整条链路已经不是“装好”的问题，而是“能不能跑”的问题。我会用 PyTorch 作为最终验证，因为它能同时验证驱动、CUDA、Python 环境是否真的能协作。

以 CUDA 11.8 版本为例：

conda install pytorch torchvision torchaudio pytorch-cuda=11.8 -c pytorch -c nvidia -y

安装过程会自动处理依赖，包括 cuDNN、nccl 等。如果 conda 在解析依赖时卡住，可以试试用 pip 安装：

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

安装完成后，用一小段 Python 代码验证 GPU 是否真正可用：

import torch print(torch.__version__) print(torch.cuda.is_available()) print(torch.cuda.get_device_name(0))

如果输出True并显示你的显卡型号，说明从驱动到 CUDA 再到 Python 框架的整条链路已经全部打通。这一步会让人很有成就感，因为它意味着你可以开始进入模型训练阶段了。

6. 常见问题与排查技巧实录

6.1 驱动装完重启黑屏，该从哪里排查

黑屏是 NVIDIA 驱动安装后最常见的问题，通常和 Nouveau 没禁干净、驱动与内核不匹配、或安装时勾选了 OpenGL 文件有关。

排查时按顺序做：

1. 确认 Nouveau 是否被加载：lsmod | grep nouveau，有输出说明禁得不彻底
2. 确认内核头文件版本：用uname -r和/usr/src/kernels/下的目录对比
3. 如果黑屏进不了图形界面，可以按Ctrl + Alt + F2切到文本终端登录
4. 如果切不进文本终端，重启进入单用户模式，执行systemctl isolate multi-user.target后再修复

在整理问题排查时，我常用下面这个表格，把最常见的现象和方案直接对应起来：

现象	根本原因	解决方案
重启黑屏	Nouveau 未禁用	检查 blacklist-nouveau.conf，重建 initramfs
nvidia-smi 报 communication 错误	驱动模块未加载	modprobe nvidia，检查系统日志
安装时提示 kernel source 缺失	kernel-devel 版本不匹配	重新安装对应版本的内核开发包
nvcc -V 找不到命令	环境变量未配置	在 .bashrc 中配置 CUDA 的 PATH
conda 下载慢	默认源在国外	配置清华镜像源

6.2 nvidia-smi 报错：couldn't communicate with the nvidia driver

这个问题非常典型。出现这个错误，第一反应不是重装驱动，而是先看内核模块有没有加载成功。

执行：

dmesg | grep -i nvidia

如果看到类似NVRM: The NVIDIA probe function was not called这样的信息，说明模块虽然存在但加载失败了。常见原因是内核更新后没有自动重建模块。如果用 DKMS 安装的驱动，可以手动执行：

dkms status

如果显示模块没有编译记录，重建一下：

dkms autoinstall

如果 dkms 也不行，那只能用 runfile 重新装一遍驱动，装的时候注意看内核模块编译的输出日志。

6.3 CUDA 安装时报 gzip 解压错误

很多同学在使用 .run 文件安装 CUDA 时见过这个报错：

gzip: stdin: invalid compressed>sudo sh cuda_11.8.0_520.61.05_linux.run --tmpdir=/tmp --silent

如果系统内存过小，建议加个 swap 分区，至少 16GB。CUDA 解压时会把大量临时文件写到/tmp，空间不足也会中断。

6.4 驱动版本太新，如何安装低版本 CUDA

有些新驱动会淘汰旧版 CUDA，但你需要跑的是老项目，必须用 CUDA 10.2 或 11.0。这时核心思路是：不卸载新驱动，而是在 conda 环境里按需安装低版本的 CUDA runtime。

也就是说，系统层只保留驱动，项目层用 conda 管理 CUDA 版本：

conda create -n cuda102 python=3.7 conda activate cuda102 conda install cudatoolkit=10.2

这种情况下，nvcc -V在系统层可能还是显示新版本，但你的 conda 环境内已经通过cudatoolkit获得对应版本的 CUDA 库。对该项目来说，运行时的 CUDA 版本就是 10.2。这种方式完全避开了“卸载驱动才能换 CUDA”的老路。

6.5 排查思路实战记录

根据我从接触 Linux 到目前为止的经验，排错一定要按“系统日志 → 模块状态 → 驱动版本 → 应用层版本”的链路一层层查，不要一上来就重装。

给你举一个真实发生在自己机器上的例子。我第一次在 CentOS 8 上装 CUDA 时，nvidia-smi正常，nvcc -V也正常，但 PyTorch 的torch.cuda.is_available()返回 False。查到最后发现，是 conda 自动装了一个低版本的 cuDNN，它和显存驱动冲突。解决方法是把 conda 环境删掉，重新用指定 channels 安装，问题立刻消失。

这类问题如果靠“重装驱动”来解决，会浪费很多时间，而且大概率没用。所以遇到报错，先dmesg，再journalctl -u nvidia-persistenced，把日志看清楚，再决定下一步动作。

7. 最后再分享几个我实际踩出来的技巧

第一，装完驱动后别急着开心，先做一次完整重启验证。很多人安装时一切正常，一重启就出幺蛾子，所以重启验证是对整个安装过程的最终检验。第二，在服务器上安装时，强烈建议用screen或tmux来跑长时间下载和解压任务，否则网络波动导致 SSH 断开，前功尽弃。第三，如果你用的是老显卡，比如 GTX 10 系，建议用 CUDA 11.8 而不是 12.x，老卡在新驱动上兼容性没那么好。

这套流程我前前后后折腾过不下十次，每次都能在 CentOS 8 上稳定跑起来。如果你按这个思路装完还有问题，优先去看日志，把错误信息复制粘贴到搜索引擎里，通常都能找到解决方案，因为大多数坑，别人早就踩过了。