用ATC转换你的第一个YOLOv5模型：从ONNX到昇腾OM的完整流程

一、前言：为什么要做这个转换？

YOLOv5作为当前最流行的目标检测模型之一，在昇腾AI处理器上部署能获得显著的推理加速。但这个过程需要将PyTorch训练的模型转换为昇腾专用的离线模型（.om文件）。

转换的价值：

• 性能提升：相比CPU/GPU，在昇腾芯片上有10倍以上的推理加速
• 部署简化：.om文件可直接用于边缘设备（如Atlas 200DK）
• 资源优化：支持INT8量化，大幅降低内存占用

二、环境准备：确保你的工具链完整

2.1 环境检查清单

# 1. 确认ATC已安装 atc --version # 应输出类似：ATC version: 7.0.0.alpha # 2. 检查Python环境 python3 --version pip3 list | grep -E "(torch|onnx|numpy)" # 3. 确认芯片型号（选择正确的soc_version） # Ascend310, Ascend310P, Ascend710等 # 如果不知道，默认用Ascend310（最常用）

2.2 获取YOLOv5源码和模型

# 克隆YOLOv5官方仓库 git clone https://github.com/ultralytics/yolov5.git cd yolov5 # 安装依赖（建议使用虚拟环境） pip install -r requirements.txt onnx>=1.12.0 # 下载预训练权重 wget https://github.com/ultralytics/yolov5/releases/download/v7.0/yolov5s.pt

三、第一步：从PyTorch到ONNX的转换

3.1 标准导出方法

# 基本导出命令 python export.py --weights yolov5s.pt \ --include onnx \ --img-size 640 640 \ --batch-size 1 \ --opset 12 # 参数详解： # --weights: 预训练权重文件 # --img-size: 输入图像尺寸（必须与训练时一致） # --batch-size: 批处理大小（建议从1开始） # --opset: ONNX算子集版本（建议12或13，兼容性更好）

3.2 验证ONNX模型

import onnx import onnxruntime import numpy as np # 加载并验证ONNX模型 onnx_model = onnx.load("yolov5s.onnx") onnx.checker.check_model(onnx_model) print("✓ ONNX模型结构验证通过") # 使用ONNX Runtime测试推理 ort_session = onnxruntime.InferenceSession("yolov5s.onnx") # 创建随机输入测试 x = np.random.randn(1, 3, 640, 640).astype(np.float32) ort_inputs = {ort_session.get_inputs()[0].name: x} ort_outputs = ort_session.run(None, ort_inputs) print(f"输入形状: {x.shape}") print(f"输出数量: {len(ort_outputs)}") print(f"第一个输出形状: {ort_outputs[0].shape}")

四、第二步：关键步骤 - ONNX模型优化

4.1 为什么要优化？

原始的YOLOv5 ONNX模型包含一些昇腾不支持的算子或结构，需要进行调整。

# 方法一：使用YOLOv5自带的简化工具 python -m onnxsim yolov5s.onnx yolov5s-sim.onnx # 方法二：使用ONNX官方优化器（更推荐） python -c """ import onnx from onnxsim import simplify model = onnx.load('yolov5s.onnx') model_simp, check = simplify(model) assert check, "简化验证失败" onnx.save(model_simp, 'yolov5s-sim.onnx') print(f'简化完成，原始节点数：{len(model.graph.node)}，简化后：{len(model_simp.graph.node)}') """

4.2 常见问题修复

如果遇到不支持的算子，可以尝试以下方法：

# 创建自定义算子映射文件（custom_op.yaml） custom_ops = """ op_properties: - op_name: "NonMaxSuppression" custom_op_flag: true compute_capacity: "high" """ with open("custom_op.yaml", "w") as f: f.write(custom_ops)

五、第三步：核心环节 - ATC模型转换

5.1 基础转换命令

# 基础ATC转换命令 atc --model=yolov5s-sim.onnx \ --framework=5 \ --output=yolov5s_ascend \ --soc_version=Ascend310 \ --input_format=NCHW \ --input_shape="images:1,3,640,640" \ --insert_op_conf=aipp_yolov5.config \ --log=info \ --out_nodes="output:0;422:0"

5.2 关键参数详解

参数1：图像预处理配置（--insert_op_conf）

创建aipp_yolov5.config文件：

aipp_op { aipp_mode: static input_format : RGB888_U8 src_image_size_w : 640 src_image_size_h : 640 # 归一化参数 (x/255) mean_chn_0 : 0 mean_chn_1 : 0 mean_chn_2 : 0 var_reci_chn_0 : 0.003921568627451 var_reci_chn_1 : 0.003921568627451 var_reci_chn_2 : 0.003921568627451 # YOLOv5需要的transpose (HWC->CHW) matrix_r0c0: 1; matrix_r0c1: 0; matrix_r0c2: 0 matrix_r1c0: 0; matrix_r1c1: 1; matrix_r1c2: 0 matrix_r2c0: 0; matrix_r2c1: 0; matrix_r2c2: 1 input_bias_0: 0; input_bias_1: 0; input_bias_2: 0 }

参数2：动态形状支持（多Batch/多分辨率）

# 支持动态Batch（1-8，4最优） atc --model=yolov5s-sim.onnx \ --framework=5 \ --output=yolov5s_dynamic_batch \ --soc_version=Ascend310 \ --input_format=NCHW \ --input_shape="images:-1,3,640,640" \ --dynamic_batch_size="1,2,4,8" \ --dynamic_image_size="640,640" \ --insert_op_conf=aipp_yolov5.config

参数3：INT8量化（性能提升关键）

# 准备校准数据（需要少量标注数据） python3.7 calibrate_yolo.py \ --model yolov5s-sim.onnx \ --data ./coco128.yaml \ --output yolov5s_calibration # 带量化的ATC转换 atc --model=yolov5s-sim.onnx \ --framework=5 \ --output=yolov5s_int8 \ --soc_version=Ascend310 \ --input_format=NCHW \ --input_shape="images:1,3,640,640" \ --insert_op_conf=aipp_yolov5.config \ --quantize_calibration_file=yolov5s_calibration.json \ --quantization_algorithms=weight_quantization

六、第四步：转换结果验证

6.1 检查输出文件

# 查看生成的OM文件 ls -lh yolov5s_ascend.om # 应该能看到类似：yolov5s_ascend.om (约45MB) # 使用msame工具验证推理 git clone https://gitee.com/ascend/tools.git cd tools/msame ./build.sh ./msame --model ../yolov5s_ascend.om --input input.bin --output output

6.2 Python推理验证脚本

import numpy as np from ais_bench.infer.interface import InferSession # 初始化昇腾推理会话 device_id = 0 model = InferSession(device_id, "yolov5s_ascend.om") # 准备输入数据 fake_input = np.random.randn(1, 3, 640, 640).astype(np.float32) # 执行推理 outputs = model.infer([fake_input]) # 解析YOLOv5输出 print("推理成功！输出信息：") for i, out in enumerate(outputs): print(f" 输出{i}: shape={out.shape}, dtype={out.dtype}, min={out.min():.4f}, max={out.max():.4f}") # 与ONNX结果对比（可选） def compare_results(onnx_output, ascend_output, threshold=1e-3): # 实现精度对比逻辑 pass

七、常见错误与解决方案

错误1：Unsupported op type: NonMaxSuppression

原因：YOLOv5后处理中的NMS算子在昇腾上需要自定义实现

解决方案：

1. 方案A（推荐）：导出时移除后处理

2. python export.py --weights yolov5s.pt \ --include onnx \ --img-size 640 640 \ --batch-size 1 \ --opset 12 \ --simplify \ --nms # 使用内置NMS或导出不带NMS的模型

3. 方案B：使用ATC自定义算子功能

# 在ATC命令中添加 --op_name_map=op_name_map.json

创建op_name_map.json：

{ "NonMaxSuppression": "CustomNonMaxSuppression" }

错误2：Shape inference failed

原因：动态形状或维度不匹配

解决方案：

# 明确指定所有维度 --input_shape="images:1,3,640,640" \ --output_type="FP16" \ --precision_mode=allow_fp32_to_fp16

错误3：内存不足

解决方案：

# 使用内存优化参数 --auto_tune_mode="RL,GA" \ --buffer_optimize=off_optimize \ --enable_small_channel=1

八、性能优化技巧

8.1 转换参数调优

# 完整优化参数示例 atc --model=yolov5s-sim.onnx \ --framework=5 \ --output=yolov5s_optimized \ --soc_version=Ascend310 \ --input_format=NCHW \ --input_shape="images:1,3,640,640" \ --insert_op_conf=aipp_yolov5.config \ --precision_mode=allow_mix_precision \ --fusion_switch_file=fusion_switch.cfg \ --op_select_implmode=high_precision \ --optypelist_for_implmode="Gelu,Add" \ --enable_small_channel=1

8.2 创建融合规则文件（fusion_switch.cfg）

{ "switch": { "GraphFusion": { "enable": true, "pass_list": ["ConcatOptimize", "ReshapeFusion"] }, "MemoryOptimization": { "enable": true, "memory_optimization_priority": "memory_first" } } }

九、完整脚本：一键转换工具

创建convert_yolov5.sh：

#!/bin/bash # YOLOv5一键转换脚本 # 用法：./convert_yolov5.sh yolov5s.pt Ascend310 MODEL_PT=$1 SOC_VERSION=${2:-Ascend310} MODEL_NAME=$(basename $MODEL_PT .pt) echo "开始转换 ${MODEL_NAME} ..." # 步骤1：导出ONNX python export.py --weights $MODEL_PT \ --include onnx \ --img-size 640 640 \ --batch-size 1 \ --opset 12 \ --simplify # 步骤2：简化模型 python -m onnxsim ${MODEL_NAME}.onnx ${MODEL_NAME}-sim.onnx # 步骤3：ATC转换 atc --model=${MODEL_NAME}-sim.onnx \ --framework=5 \ --output=${MODEL_NAME}_${SOC_VERSION} \ --soc_version=$SOC_VERSION \ --input_format=NCHW \ --input_shape="images:1,3,640,640" \ --insert_op_conf=aipp_yolov5.config \ --log=info # 步骤4：验证 if [ -f "${MODEL_NAME}_${SOC_VERSION}.om" ]; then echo "✓ 转换成功！" echo " 输入模型: ${MODEL_NAME}.pt" echo " 输出模型: ${MODEL_NAME}_${SOC_VERSION}.om" echo " 芯片版本: ${SOC_VERSION}" else echo "✗ 转换失败，请检查日志" fi

十、进阶：不同YOLOv5版本的注意事项

十一、资源与下一步

学习资源

1. 昇腾官方模型仓- 查看官方YOLOv5转换脚本
2. ATC命令参考- 完整参数说明
3. 昇腾论坛- 提问和交流

下一步行动

1. 在Atlas 200DK上部署转换后的模型
2. 尝试YOLOv6/YOLOv8的转换
3. 实现端到端的完整应用（图像输入 → 检测结果输出）

成果展示

成功转换后，你将获得：

• ✅yolov5s_ascend.om- 昇腾离线模型
• ✅ 比CPU快10-20倍的推理速度
• ✅ 支持边缘设备部署的能力