move_reg样例
概述
本样例基于Reg编程接口演示验证从RegTensor(Reg矢量计算基本单元)中搬运数据到MaskReg(掩码寄存器),使用MaskGenWithRegTensor接口。支持多种场景,通过 CMake 编译参数SCENARIO_NUM选择场景。
| SCENARIO_NUM | 场景类型 |
| 1 | 下采样场景:调用MaskGenWithRegTensor从RegTensor提取数据填充到MaskReg |
| 2 | 复合计算场景:调用MaskGenWithRegTensor实现MaskReg的搬入,再作为Select的掩码完成选择计算 |
本样例支持的产品及CANN软件版本
| 产品 | CANN软件版本 |
|---|---|
| Ascend 950PR/Ascend 950DT | >= CANN 9.1.0 |
目录结构介绍
├── reg_move │ ├── scripts │ │ └── gen_data.py // 输入数据和真值数据生成脚本 │ ├── figures // 图示 │ ├── CMakeLists.txt // 编译工程文件 │ ├── data_utils.h // 数据读入写出函数 │ ├── README.md // 样例介绍 │ ├── move_reg_scenario_1.asc // 场景1:下采样场景的AscendC实现 │ └── move_reg_scenario_2.asc // 场景2:复合计算场景的AscendC实现样例描述
场景1:下采样场景
样例功能:
演示验证从regTensor中搬运数据到maskReg。输入64个int32类型的cond数据,使用MaskGenWithRegTensor<int32, 0>从condReg的前8字节提取64bit数据,按下采样模式(每4个mask bit对应1个src bit)填充到256bit的MaskReg,输出32字节(256bit)的mask数据到UB(Unified Buffer)。- 样例规格:
样例类型(OpType) AIV样例 样例输入 name shape data type cond [1, 64] int32 样例输出 maskOut [32] uint8 核函数名 move_reg_scenario_1
- 样例规格:
样例实现:
- 使用LoadAlign对齐加载cond数据到RegTensor
- 通过MaskGenWithRegTensor<int32, 0>从condReg的前8字节提取64bit数据,按下采样模式填充到256bit MaskReg:每4个mask bit对应1个src bit,float元素处理示意如图:
3. 使用StoreAlign将mask数据写回UB
调用实现 使用内核调用符
<<<>>>调用核函数,启动1个核。
场景2:复合计算场景
样例功能:
对根据mask中的比特位,选择对应位置的x或y中的值,当mask的比特位为1时,选取x中对应的元素;当mask的比特位为0时,选取y中对应的元素。样例规格:
样例类型(OpType) AIV样例 样例输入 name shape data type x [1, 256] float y [1, 256] float mask [1, 8] float 样例输出 z [1, 256] float 核函数名 move_reg_scenario_2 样例实现:
- 调用LoadAlign加载选择操作数x、y到RegTensor
- 调用LoadUnAlignPre/LoadUnAlign加载掩码操作数mask到RegTensor,每次迭代加载2个元素,即8字节64bit数据
- 调用MaskGenWithRegTensor从mReg的前8字节提取64bit数据,按下采样模式填充到256bit MaskReg:每4个mask bit对应1个src bit,处理示意如图:
4. 调用Select接口,根据maskReg逐元素选择xReg或yReg中的元素,写入zReg中,如下图所示
5. 调用StoreAlign将Select数据写回UB
调用实现
使用内核调用符<<<>>>调用核函数。
编译运行
在本样例根目录下执行如下步骤,编译并执行样例。
配置环境变量 请根据当前环境上CANN开发套件包的安装方式,配置环境变量。
source ${install_path}/cann/set_env.sh说明:
${install_path}为CANN包安装目录,未指定安装目录时默认安装至/usr/local/Ascend下。样例执行
在本样例目录下执行如下命令。
SCENARIO_NUM=1 # 设置场景编号 mkdir -p build && cd build; # 创建并进入build目录 cmake -DCMAKE_ASC_ARCHITECTURES=dav-3510 -DSCENARIO_NUM=$SCENARIO_NUM ..;make -j; # 编译工程(默认npu模式) python3 ../scripts/gen_data.py -scenarioNum=$SCENARIO_NUM # 生成测试输入数据 ./demo # 执行编译生成的可执行程序,执行样例使用 CPU调试 或 NPU仿真 模式时,添加
-DCMAKE_ASC_RUN_MODE=cpu或-DCMAKE_ASC_RUN_MODE=sim参数即可。示例如下:
cmake -DCMAKE_ASC_RUN_MODE=cpu -DCMAKE_ASC_ARCHITECTURES=dav-3510 -DSCENARIO_NUM=$SCENARIO_NUM ..;make -j; # cpu调试模式 cmake -DCMAKE_ASC_RUN_MODE=sim -DCMAKE_ASC_ARCHITECTURES=dav-3510 -DSCENARIO_NUM=$SCENARIO_NUM ..;make -j; # NPU仿真模式注意:切换编译模式或场景前需清理 cmake 缓存,可在 build 目录下执行
rm CMakeCache.txt后重新 cmake。编译选项说明
| 选项 | 可选值 | 说明 |
|---|---|---|
CMAKE_ASC_RUN_MODE | npu(默认)、cpu、sim | 运行模式:NPU 运行、CPU调试、NPU仿真 |
CMAKE_ASC_ARCHITECTURES | dav-3510 | NPU 架构:dav-3510 对应 Ascend 950PR/Ascend 950DT |
SCENARIO_NUM | 1、2 | 场景编号:1=下采样场景,2=复合计算场景 |
- 执行结果
执行结果如下,说明精度对比成功。test pass!
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考