Mutex核内流水线同步样例
概述
本样例演示Mutex::Lock、Mutex::Unlock、AllocMutexID和ReleaseMutexID核内流水线同步接口的使用方法。样例首先通过AllocMutexID从框架获取MutexID,然后使用Mutex::Lock和Mutex::Unlock锁定指定流水再释放流水来实现PIPE_MTE2、PIPE_V和PIPE_MTE3异步流水之间的同步依赖。样例实现数据搬入、加法计算、数据搬出三个任务,使用双缓冲和Mutex锁机制实现流水线同步控制,最后使用ReleaseMutexID释放MutexID。
本样例支持的产品及CANN软件版本
| 产品 | CANN软件版本 |
|---|---|
| Ascend 950PR/Ascend 950DT | >= CANN 9.1.0 |
目录结构介绍
├── mutex │ ├── scripts │ │ ├── gen_data.py // 输入数据和真值数据生成脚本 │ │ └── verify_result.py // 验证输出数据和真值数据是否一致的验证脚本 │ ├── CMakeLists.txt // 编译工程文件 │ ├── data_utils.h // 数据读入写出函数 │ ├── mutex.asc // Ascend C样例实现 & 调用样例 │ └── README.md // 样例说明文档样例描述
样例功能: 本样例演示Mutex相关接口的完整使用流程:
- 使用
AllocMutexID()从框架获取两个MutexID(mutexId0和mutexId1) - 输入数据量为 1024 * 1024,无法一次性放入UB,因此按 tile 切分处理
- 在循环中使用双缓冲机制,交替使用两个缓冲区(mutexId0和mutexId1)
- 每个tile 依次对搬入、计算、搬出三个任务加锁解锁
- 使用结束后调用
ReleaseMutexID()释放两个MutexID
通过Mutex锁机制实现核内异步流水之间的同步,确保数据搬入、计算、搬出三个任务的正确执行顺序。
- 使用
样例规格:
表1:样例规格 样例类型(OpType) Mutex 样例输入 name shape data type format x [1024, 1024] float ND y [1024, 1024] float ND 样例输出 z [1024, 1024] float ND 核函数名 mutex_custom
编译运行
在本样例根目录下执行如下步骤,编译并执行样例。
配置环境变量 请根据当前环境上CANN开发套件包的安装方式,配置环境变量。
source ${install_path}/cann/set_env.sh说明:
${install_path}为CANN包安装目录,未指定安装目录时默认安装至/usr/local/Ascend下。样例执行
在本样例目录下执行如下命令。
mkdir -p build && cd build; # 创建并进入build目录 cmake -DCMAKE_ASC_ARCHITECTURES=dav-3510 ..;make -j; # 编译工程 python3 ../scripts/gen_data.py # 生成测试输入数据 ./demo # 执行编译生成的可执行程序,执行样例 python3 ../scripts/verify_result.py output/output.bin output/golden.bin # 验证输出结果是否正确使用CPU调试或NPU仿真模式时,添加
-DCMAKE_ASC_RUN_MODE=cpu或-DCMAKE_ASC_RUN_MODE=sim参数即可。示例如下:
cmake -DCMAKE_ASC_RUN_MODE=cpu -DCMAKE_ASC_ARCHITECTURES=dav-3510 ..;make -j; # CPU调试模式 cmake -DCMAKE_ASC_RUN_MODE=sim -DCMAKE_ASC_ARCHITECTURES=dav-3510 ..;make -j; # NPU仿真模式注意:切换编译模式前需清理 cmake 缓存,可在 build 目录下执行
rm CMakeCache.txt后重新 cmake。编译选项说明
选项 可选值 说明 CMAKE_ASC_RUN_MODEnpu(默认)、cpu、sim运行模式:NPU 运行、CPU调试、NPU仿真 CMAKE_ASC_ARCHITECTURESdav-3510(默认)NPU 架构:对应 Ascend 950PR/Ascend 950DT 执行结果
执行结果如下,说明精度对比成功。
test pass!
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考