ROCm 7.14 AI 生态兼容性矩阵全解:PyTorch / JAX / vLLM / SGLang 等框架与 AMD GPU 的版本选型指南
【免费下载链接】legacy-rocm-buildAMD ROCm™ Software - GitHub Home项目地址: https://gitcode.com/GitHub_Trending/ro/legacy-rocm-build
本篇技术指南围绕 ROCm 当前版本(7.14.0)官方仓库中的AI 生态兼容性矩阵(docs/compatibility/include/ai-ecosystem.rst)展开,完整解读 ROCm 为深度学习框架与推理引擎提供的版本支持范围:在什么操作系统、什么 AMD GPU(Instinct / Radeon / Ryzen)上,可以安装哪个版本的 PyTorch、JAX、vLLM、SGLang、MIGraphX 与 ONNX Runtime,以及配套的 Python 版本约束。读完本文,你将能够:对照自己的硬件(gfx 架构代号)与操作系统,在官方支持矩阵中快速定位可用的框架版本组合;理解矩阵中 OS / GPU / 家族条件筛选的底层机制;并结合仓库源码了解这些数据是如何被渲染、验证与维护的,避免在 AI 工作负载中因版本错配而踩坑。
什么是 ROCm 的 AI 生态兼容性矩阵
ROCm 是一个分层软件栈:底层是 GPU 运行时(HIP Runtime)、编译器和数学库组成的 ROCm Core SDK,上层则是面向 AI 用户的深度学习框架与推理引擎。为了保证"驱动 — 用户态组件 — 框架"三层版本对齐,ROCm 官方文档在 兼容性矩阵 中为每个版本维护一份 AI 生态支持表。
这份表(docs/compatibility/include/ai-ecosystem.rst)记录了 ROCm 7.14.0 发行版验证过的框架版本组合,包含三个维度:
- Framework:框架 / 推理引擎名称;
- Supported versions:该框架经验证的可用版本;
- Supported Python versions:与上述框架版本配套的 Python 版本。
需要强调的是,表中大多数条目带有show-cond条件,即支持范围并非对所有硬件和系统一视同仁——同一框架在不同 GPU 架构、不同操作系统上,支持版本可能不同。这也是本文档采用"条件矩阵"而非普通静态表格的原因。
框架与版本支持总览
综合docs/compatibility/include/ai-ecosystem.rst中 Linux(Ubuntu、Debian、RHEL、Oracle Linux、Rocky Linux、SLES)与 Windows / WSL 两条主线的数据,ROCm 7.14.0 的 AI 生态支持情况可归纳为下表:
| Framework | Supported versions | 适用平台与 GPU | Supported Python |
|---|---|---|---|
| PyTorch | 2.12.0、2.11.0、2.10.0 | Linux(Instinct:gfx950/gfx942/gfx90a/gfx908) | 3.14、3.13、3.12、3.11 |
| PyTorch | 2.12.0、2.11.0 | Linux(Radeon / Ryzen) | 3.14、3.13、3.12、3.11 |
| PyTorch | 2.12.0 | Windows / WSL | 3.14、3.13、3.12、3.11 |
| JAX | 0.10.0、0.9.1 | Linux(gfx950/gfx942/gfx1200/gfx1201/gfx1100/gfx1102/gfx1103) | 3.14、3.13、3.12、3.11 |
| vLLM | 0.23 | Linux(gfx950/gfx942/gfx1201/gfx1200/gfx1100/gfx1101/gfx1102/gfx1152/gfx1151/gfx1150) | 3.14(需 PyTorch 2.11.0) |
| SGLang | 0.5.13 | Linux(gfx950/gfx942/gfx1201/gfx1200/gfx1100/gfx1101/gfx1102) | 3.14(需 PyTorch 2.11.0) |
| MIGraphX | 2.16 | Linux(gfx950/gfx942) | 3.12 |
| ONNX Runtime | 1.23.2 | Linux(gfx950/gfx942) | 3.12 |
注:表中 gfx 编号为 AMD GPU 的架构代号(target ID),具体的硬件型号映射见下文"GPU 架构代号与硬件型号对照"一节。
按框架逐项解读
PyTorch:覆盖面最广,Linux 与 Windows 均受支持
PyTorch 是矩阵中唯一同时出现在 Linux 与 Windows/WSL 两条分支下的框架,其支持细节在docs/compatibility/include/ai-ecosystem.rst中被拆成了两行:
- Linux 分支(
os=ubuntu os=debian os=rhel os=oracle-linux os=rocky-linux os=sles):- AMD Instinct 数据卡(gfx950、gfx942、gfx90a、gfx908):支持 2.12.0、2.11.0、2.10.0 三个版本;
- AMD Radeon 显卡与 Ryzen APU(
fam=radeon fam=ryzen):支持 2.12.0、2.11.0 两个版本;
- Windows / WSL 分支(
os=windows os=wsl):仅支持 2.12.0 一个版本。
所有分支的 Python 支持范围一致:3.14、3.13、3.12、3.11。由此可以看出两点:其一,Instinct 专业卡获得的历史版本覆盖最完整(三个大版本);其二,Windows/WSL 下的 PyTorch 版本步进相对保守,仅验证了最新版本。
JAX:覆盖 CDNA 与 RDNA 主流架构
JAX 的验证范围集中在 Linux 平台,支持的 GPU 架构为 gfx950、gfx942(CDNA 数据中心卡)以及 gfx1200、gfx1201、gfx1100、gfx1102、gfx1103(RDNA 消费级 / 工作站 / APU)。支持版本为0.10.0、0.9.1,Python 支持 3.14、3.13、3.12、3.11。对于在 AMD GPU 上运行 JAX 数值计算与端到端可微程序的用户,应确保安装的 JAX 与rocm运行时组件匹配这两组版本。
vLLM:LLM 推理的高性能选项
vLLM 在 ROCm 7.14.0 中支持版本0.23,平台为 Linux。其 GPU 覆盖范围较广:gfx950、gfx942(Instinct),gfx1201、gfx1200、gfx1100、gfx1101、gfx1102(Radeon),以及 gfx1152、gfx1151、gfx1150(Ryzen AI 系列 APU)。
vLLM 是矩阵中首个对 Python 版本提出"强约束"的条目:Python 3.14 需要配套 PyTorch 2.11.0。也就是说,在安装 vLLM 0.23 时,不能随意搭配 PyTorch 版本,而应保持Python 3.14 + PyTorch 2.11.0 + vLLM 0.23的组合。另外,根据该表的脚注,在部分 Radeon GPU 上 LLM 预热(warmup)时间可能显著变长,这是官方已知问题,使用 Radeon 跑 vLLM 时需要注意这一现象并预留预热时间。
SGLang:覆盖 Instinct 与 Radeon 推理场景
SGLang 支持版本0.5.13,平台为 Linux,GPU 覆盖 gfx950、gfx942、gfx1201、gfx1200、gfx1100、gfx1101、gfx1102(Instinct 与 Radeon,不含 Ryzen APU)。与 vLLM 相同,其 Python 3.14 条目同样标注"requires PyTorch 2.11.0",说明在 ROCm 7.14.0 生态内,vLLM 与 SGLang 共享同一套 PyTorch 2.11.0 基线——这在实际部署中意味着:若同时使用多个推理框架,应统一锁定该 PyTorch 版本。
MIGraphX 与 ONNX Runtime:推理编译与跨框架执行
MIGraphX(AMD 的图优化推理引擎)支持2.16,ONNX Runtime 支持1.23.2,二者均仅限 Linux 平台,且 GPU 范围收紧到 Instinct 的gfx950、gfx942两类。它们的 Python 支持均为3.12——注意这与 PyTorch/JAX 的 Python 3.14/3.13/3.12/3.11 范围不同,是矩阵中对 Python 版本约束最窄的条目。这意味着:如果工作流中依赖 MIGraphX 或 ONNX Runtime 的 ROCm 后端,需要为它们单独准备 Python 3.12 环境,而不是直接复用 vLLM/PyTorch 的 3.14 环境。
GPU 架构代号(gfx 编号)与硬件型号对照
矩阵中的gfx编号是 AMD GPU 的架构代号,理解它们才能把"支持哪些架构"翻译成"支持哪些型号的显卡"。仓库中的 GPU 选择器 提供了完整的代号到型号映射,与 AI 生态矩阵直接相关的关键对应关系如下:
| gfx 代号 | 代表硬件 |
|---|---|
| gfx950 | AMD Instinct MI355X / MI350X / MI350P |
| gfx942 | AMD Instinct MI325X / MI300X / MI300A |
| gfx90a | AMD Instinct MI250X / MI250 / MI210 |
| gfx908 | AMD Instinct MI100 |
| gfx1201 | Radeon AI PRO R9700S / R9700 / R9600D、RX 9070 XT / 9070 GRE / 9070 |
| gfx1200 | Radeon RX 9060 XT LP / 9060 XT / 9060 |
| gfx1100 | Radeon PRO W7900 / W7900 Dual Slot、RX 7900 XTX / 7900 XT / 7900 GRE |
| gfx1101 | Radeon PRO W7700、RX 7800 XT / 7700 XT / 7700、PRO V710 |
| gfx1102 | Radeon RX 7600 |
| gfx1103 | Ryzen 9 270 / 7 260 / 7 250 / 5 系列 / 3 系列及 PRO 系列 |
| gfx1150 | Ryzen AI 9 HX PRO / AI 9 PRO / AI 9 系列 |
| gfx1151 | Ryzen AI Max+ PRO / Max PRO / AI Max+ / AI Max 系列 |
| gfx1152 | Ryzen AI 7 PRO 450、AI 5 PRO 440、AI 7 450 等 |
| gfx1030 | Radeon PRO W6800、PRO V620 |
实际选型时,可先通过rocminfo查看本机 GPU 的 gfx 代号,再与上述矩阵核对。如果 GPU 不在官方支持列表中,ROCm 文档还提供了社区路径:通过 TheRock 每晚构建获得社区启用的支持(参见 安装文档 中关于 TheRock 的说明)。
操作系统维度与安装方式
AI 生态矩阵的 Linux 分支覆盖六个发行版:Ubuntu、Debian、RHEL、Oracle Linux、Rocky Linux 与 SLES;Windows 分支则包含 Windows 与 WSL。这与 ROCm 安装方法 中的体系一致——不同发行版走不同的原生包管理器(Ubuntu/Debian 用apt,RHEL/Oracle/Rocky 用dnf,SLES 用zypper)。
对于以 Python 为中心的工作流,推荐使用 pip 方式在虚拟环境中安装 ROCm 组件。仓库中的 pip 包表 给出了与 AI 框架搭配的关键包选择:
rocm:Core SDK 基础包(运行时、HIP、编译器、工具与剖析 SDK),所有用户必需;rocm[libraries]:预编译的数学与机器学习主机库,PyTorch、JAX 等 ML 框架所必需;rocm[devel]:编译器、CMake 配置、头文件与静态库,用于开发构建;rocm[device-gfxXXXX](如rocm[device-gfx950]、rocm[device-gfx942]等):对应目标的预编译 GPU 内核,运行 GPU 负载必需,会随libraries一起安装;不确定时可使用rocm[device-all]覆盖全部目标;rocm[profiler]:rocprofiler-systems 与 rocprofiler-compute 等剖析工具,可选。
其中device-gfxXXXX系列恰好与 AI 生态矩阵中的 gfx 代号一一对应,也就是说:你在矩阵中查到"我的 gfx942 支持 PyTorch 2.12.0",那么在 pip 安装侧就应当选中rocm[device-gfx942]这个 extra,二者共同保证"框架版本"与"GPU 内核"的匹配。
条件矩阵的底层渲染机制
这份 AI 生态表不是一份写死的 HTML 表格,而是一个由仓库自定义 Sphinx 指令驱动的条件矩阵。其实现位于 docs/extension/rocm_docs_custom/matrix/init.py:
.. matrix::、.. matrix-head::、.. matrix-row::、.. matrix-cell::四级指令分别渲染<table>、<thead>、<tr>、<th>/<td>;- 每个单元格与行可携带
:show-cond:选项(如gfx=gfx950 gfx=gfx942、os=ubuntu),该值会被工具函数 kv_to_data_attr 解析为形如data-show-cond='{"gfx": ["gfx950", "gfx942"]}'的 JSON 属性,写入渲染后的 HTML; - 前端脚本(见 selector 扩展)读取这些
data-show-cond条件,在用户切换操作系统 / GPU 型号 / 设备家族时动态显隐行与单元格。
这解释了为什么docs/compatibility/include/ai-ecosystem.rst中每个条目都带有成对出现的:show-cond:——同一份源码通过条件控制,在不同硬件环境下展示不同的支持版本集合。本文前述表格即为在"全部条件展开"视角下的完整视图;而在官方文档站点上,你会看到它随选择器实时过滤。类似的机制还被复用于 兼容性矩阵主页 的系统需求表、Core SDK 组件表以及虚拟化支持表。
如何用这份矩阵做版本选型
结合以上解读,给出基于本矩阵的实操选型步骤:
- 确定硬件:运行
rocminfo或rocm-smi,记录 GPU 名称与 gfx 架构代号(如gfx942); - 确定系统:确认发行版(Ubuntu/Debian/RHEL/Oracle/Rocky/SLES/Windows/WSL)与 Python 环境;
- 查矩阵:对照 ai-ecosystem.rst,看你的 gfx 代号与 OS 组合下,目标框架允许哪些版本;注意 Instinct 与 Radeon/Ryzen 的版本集合可能不同;
- 核对联动约束:若使用 vLLM 0.23 或 SGLang 0.5.13,Python 必须为 3.14 且搭配 PyTorch 2.11.0;若使用 MIGraphX 2.16 / ONNX Runtime 1.23.2,则需 Python 3.12 环境(且仅限 gfx950/gfx942);
- 安装配套组件:通过 pip 安装
rocm[libraries]与对应的rocm[device-gfxXXXX](参考 pip-packages-table.rst),保持 GPU 内核与框架版本一致; - 版本核对:安装完成后可通过
rocm-smi --showproductname确认驱动栈可见,再以框架自带的版本自检命令(如python -c "import torch; print(torch.__version__)")验证实际安装版本落在矩阵范围内。
结论
ROCm 7.14.0 的 AI 生态兼容性矩阵(ai-ecosystem.rst)为 PyTorch、JAX、vLLM、SGLang、MIGraphX 与 ONNX Runtime 六类框架/引擎划定了清晰的"硬件 × 系统 × Python"支持边界:PyTorch 覆盖面最广(含 Windows/WSL),vLLM 与 SGLang 共享 PyTorch 2.11.0 基线并约束 Python 3.14,MIGraphX 与 ONNX Runtime 则聚焦 Instinct 的 gfx950/gfx942 且要求 Python 3.12。矩阵背后的条件渲染机制(matrix 扩展)保证了这些约束在文档站点上随硬件选择器动态生效。规划 AMD GPU 上的深度学习训练与推理部署时,请以本矩阵为准绳进行版本对齐,这是获得预期 GPU 运行表现的前提。
【免费下载链接】legacy-rocm-buildAMD ROCm™ Software - GitHub Home项目地址: https://gitcode.com/GitHub_Trending/ro/legacy-rocm-build
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考