Nvidia Jetson Thor芯片上的pytorch环境部署

Nvidia Jetson Thor芯片上的pytorch环境部署

0.环境信息

芯片: Jetson T5000 系统: ubuntu24.04.3 LTS

1.部署

1.1 docker部署

使用docker部署应该是最简单的方式了，避免因为环境依赖产生的各种奇怪的问题。

拉取nvidia官网提供的docker镜像

dockerpull nvcr.io/nvidia/pytorch:25.12-py3

其他镜像可以查看nvidia官网提供的镜像列表 PyTorch | NVIDIA NGC

用拉取成功的镜像创建一个容器并运行

dockerrun --rm --runtime=nvidia -it -v"$PWD":/workspace -w /workspace nvcr.io/nvidia/pytorch:25.12-py3#如果找不到nvidia的runtime，需要下列配置sudonvidia-ctk runtime configure --runtime=docker

进入容器后运行下列python代码，查看是否部署成功

importtorchimporttorch.nnasnnimporttorch.nn.functionalasFprint(f"CUDA available:{torch.cuda.is_available()}")

部署成功则会输出True

root@32c2d09ab497:/workspace# python test.py CUDA available: True

1.2 本地环境部署

配置jetson的环境

sudoaptupdatesudoaptinstallnvidia-jetpack#查看是否安装成功nvcc -V#启动jtop服务sudosystemctl restart jtop.service#查看硬件资源，相当于nvidia-smisudojtop

配置torch的环境

在jetson-ai-lab.io上查看对应的torch版本，并下载，然后在本地安装

pipinstalltorch-2.9.1-cp312-cp312-linux_aarch64.whl

可能会遇到一些依赖报错，下载对应的缺失依赖

nvpl下载

cudnss下载

安装好之后，运行下列python代码，查看是否部署成功

importtorchimporttorch.nnasnnimporttorch.nn.functionalasFprint(f"CUDA available:{torch.cuda.is_available()}")