news 2026/7/17 17:57:20

Ascend C HCCL通信查询接口文档

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Ascend C HCCL通信查询接口文档

Query

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

产品支持情况

  • Ascend 950PR/Ascend 950DT:不支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:支持
  • Atlas 200I/500 A2 推理产品:不支持
  • Atlas 推理系列产品AI Core:不支持
  • Atlas 推理系列产品Vector Core:不支持
  • Atlas 训练系列产品:不支持

功能说明

查询handleId对应的通信任务已经完成的轮次,最多返回repeat轮。该接口默认在所有核上工作,用户也可以在调用前通过GetBlockIdx指定其在某一个核上运行。

函数原型

__aicore__ inline int32_t Query(HcclHandle handleId)

参数说明

表1接口参数说明

参数名输入/输出描述
handleId输入对应通信任务的标识ID,只能使用Prepare原语接口的返回值。
using HcclHandle = int8_t;

返回值说明

  • 返回handleId对应的通信任务已执行的次数,最大值为repeat。
  • 当执行异常时,返回-1。

约束说明

  • 调用本接口前确保已调用过InitV2和SetCcTilingV2接口。
  • 入参handleId只能使用Prepare原语对应接口的返回值。
  • 本接口在AIC核或者AIV核上调用必须与对应的Prepare接口的调用核保持一致。

调用示例

REGISTER_TILING_DEFAULT(ReduceScatterCustomTilingData); // ReduceScatterCustomTilingData为对应算子头文件定义的结构体 GET_TILING_DATA_WITH_STRUCT(ReduceScatterCustomTilingData, tilingData, tilingGM); Hccl hccl; GM_ADDR contextGM = AscendC::GetHcclContext<0>(); // AscendC自定义算子kernel中,通过此方式获取HCCL context hccl.InitV2(contextGM, &tilingData); auto ret = hccl.SetCcTilingV2(offsetof(ReduceScatterCustomTilingData, mc2CcTiling)); if (ret != HCCL_SUCCESS) { return; } if (AscendC::g_coreType == AIC) { auto repeat = 10; HcclHandle handleId = hccl.ReduceScatter( sendBuf, recvBuf, 100, HcclDataType::HCCL_DATA_TYPE_INT8, HcclReduceOp::HCCL_REDUCE_SUM, repeat); hccl.Commit(handleId); // 通知服务端可以执行上述的ReduceScatter任务 int32_t finishedCount = hccl.Query(handleId); while (hccl.Query(handleId) < repeat) { } // 等待查询到handleId对应的通信任务执行repeat次 hccl.Finalize(); // 后续无其他通信任务,通知服务端执行上述ReduceScatter任务之后即可以退出 }

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/17 17:57:02

RAG 优化:从评测集到 RAGAS 的完整实战

做 RAG 优化时&#xff0c;最容易出现一种假象&#xff1a;参数改了不少&#xff0c;Demo 里的几个问题也答得更顺了&#xff0c;于是大家默认“效果有提升”。 比如把 Chunk Size 从 500 调到 800&#xff0c;换一版 Embedding&#xff0c;再加上 BM25 和 Rerank。改完以后&a…

作者头像 李华
网站建设 2026/7/17 17:55:53

450种iTerm2配色方案:终端美化的终极完整指南

450种iTerm2配色方案&#xff1a;终端美化的终极完整指南 【免费下载链接】iTerm2-Color-Schemes Over 450 terminal color schemes/themes for iTerm/iTerm2. Includes ports to Terminal, Konsole, PuTTY, Xresources, XRDB, Remmina, Termite, XFCE, Tilda, FreeBSD VT, Ter…

作者头像 李华
网站建设 2026/7/17 17:52:41

VibeThinker-3B高级应用:长文本处理与复杂任务拆解指南

VibeThinker-3B高级应用&#xff1a;长文本处理与复杂任务拆解指南 【免费下载链接】VibeThinker-3B 项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/VibeThinker-3B VibeThinker-3B是一款基于Qwen2架构的轻量级AI模型&#xff0c;特别优化了长文本处理和…

作者头像 李华
网站建设 2026/7/17 17:50:03

CANN Ascend C int转bfloat16函数

__int2bfloat16_ru 【免费下载链接】asc-devkit 本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言&#xff0c;原生支持C和C标准规范&#xff0c;主要由类库和语言扩展层构成&#xff0c;提供多层级API&#xff0c;满足多维场景算子开发诉求。 项目地址: https://gitc…

作者头像 李华
网站建设 2026/7/17 17:49:59

小程序毕业设计-基于 SpringBoot + 微信小程序乡村医患沟通与线上就诊预约小程序设计 乡镇智慧医疗预约咨询平台的设计与实现(源码+LW+部署文档+全bao+远程调试+代码讲解等)

博主介绍&#xff1a;✌️码农一枚 &#xff0c;专注于大学生项目实战开发、讲解和毕业&#x1f6a2;文撰写修改等。全栈领域优质创作者&#xff0c;博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java、小程序技术领域和毕业项目实战 ✌️技术范围&#xff1a;&am…

作者头像 李华
网站建设 2026/7/17 17:49:20

小程序毕设项目:基于 SpringBoot + 小程序的教学公开课运维系统 校园优质公开课浏览收藏平台的设计与实现 (源码+文档,讲解、调试运行,定制等)

博主介绍&#xff1a;✌️码农一枚 &#xff0c;专注于大学生项目实战开发、讲解和毕业&#x1f6a2;文撰写修改等。全栈领域优质创作者&#xff0c;博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java、小程序技术领域和毕业项目实战 ✌️技术范围&#xff1a;&am…

作者头像 李华