跨平台CUDA兼容：ZLUDA让未经修改的CUDA程序跑在非NVIDIA显卡上
【免费下载链接】ZLUDACUDA on non-NVIDIA GPUs项目地址: https://gitcode.com/GitHub_Trending/zl/ZLUDA
想在AMD显卡上跑CUDA程序，难道只能推倒重写？ZLUDA 是一个 CUDA 的"即插即用替代品"：它让未经修改的 CUDA 应用直接在 AMD 等非 NVIDIA GPU 上运行，官方目标是在接近原生的性能下完成 CUDA 跨平台兼容。
项目定位：它是什么，帮谁省时间
- 一个 CUDA 驱动替身：ZLUDA 提供与 CUDA 驱动同名的
libcuda.so/nvcuda.dll，程序照常加载，完全不知道底下换成了 AMD 显卡。 - 面向存量 CUDA 代码：科学计算、AI 推理、游戏等已有 CUDA 实现的场景，不需要动源码，也不需要换框架。
- 硬件范围明确：目前支持 AMD Radeon RX 5000 系列及更新的桌面与核显，更老的 Polaris、Vega 和服务器卡暂不支持，Intel GPU 目前也已让位于 AMD 后端。
- 不止基础 API：cuBLAS、cuDNN 这类性能库也做了重实现，这是很多"能跑但跑不快"的兼容层缺的一环。
快速上手：3行命令构建ZLUDA
环境要求不复杂：Rust 工具链、支持 CUDA 的现有程序，以及一块 AMD GPU。Windows 用户需要最新的 Adrenalin 驱动和 HIP SDK；macOS 不在支持计划内。
git clone https://gitcode.com/GitHub_Trending/zl/ZLUDA cd ZLUDA cargo build --release跑程序时把 ZLUDA 目录指给动态链接器即可，Linux 下是一行环境变量：
LD_LIBRARY_PATH="<ZLUDA_DIR>:$LD_LIBRARY_PATH" ./your_appWindows 下则是用启动器<ZLUDA_DIR>\zluda.exe -- your_app.exe。
它是怎么做到的（通俗版）
把 ZLUDA 理解成一位"API 翻译官"。应用程序照旧调用 CUDA 驱动，运行时拦截层 负责接单并翻译成 AMD 硬件能执行的操作。其中最难的是 GPU kernel：程序里自带的 PTX 汇编（NVIDIA GPU 的中间语言）会先由 ptx/ 模块解析，再经过 llvm_zluda/ 的 LLVM 编译管线转成 AMD 后端的本地代码。整个仓库按"类型定义（cuda_types）、驱动替换（zluda）、PTX 编译（ptx + llvm_zluda）、cuBLAS/cuDNN 等库重实现"分工，各模块职责清晰。
谁在用它：两个有说服力的场景
AI 推理（llama.cpp）。这是官方文档专门写了一节的场景：把 llama.cpp 按 CUDA 架构 86 编译并开启 cuBLAS，就能在 AMD GPU 上以接近原生的速度跑大模型。对本地部署 LLM 的人来说，意味着不用维护一套 ROCm 专用编译链，同一份 CUDA 构建两边通用。
存量游戏。官方文档给了一个直观玩法：在 Steam 的启动选项里把启动命令前置为zluda32的启动器，游戏本体一行不改。下面这张截图就是文档里的示例配置：
常见坑与调优
- 先用最新 release 复现问题。项目自己声明"under heavy development"，你的应用跑不起来不一定代表 ZLUDA 不行，先别急着下结论。
- 大应用先预编译。用
zluda_precompile扫描程序目录、把所有 GPU 代码提前编译进缓存，首次启动就不用边跑边编译，启动延迟会明显下降。 - 卡住了先开 trace 定位。Windows 下加
--zluda-trace参数、Linux 下设置ZLUDA_LOG_DIR等环境变量，就能拿到每个 CUDA 调用的完整日志和中间产物，比盲猜高效得多：
- llama.cpp 记得开 cuBLAS。文档明确提示关闭 cuBLAS 编译可能导致性能下降，多架构编译时至少保留 80/86/89 之一。
结尾
一句话总结：ZLUDA 是目前少数把"CUDA 程序不改一行跑上 AMD 显卡"做到接近原生性能的开源项目。如果你手里有现成的 CUDA 代码和一块 AMD GPU，不妨直接拉仓库试一把；上手细节看 快速开始，硬件和框架支持范围看 FAQ。
【免费下载链接】ZLUDACUDA on non-NVIDIA GPUs项目地址: https://gitcode.com/GitHub_Trending/zl/ZLUDA
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
