news 2026/9/10 20:17:32

CANN/ge获取编译图摘要API

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
CANN/ge获取编译图摘要API

GetCompiledGraphSummary

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

头文件/库文件

  • 头文件:#include <ge/ge_api.h>
  • 库文件:libge_runner.so

功能说明

查询图编译结果的概要信息。包括Feature内存大小、Const内存大小、Stream、Event数目及内存是否可刷新等信息。

  • 在调用本接口前,必须先调用CompileGraph接口进行图编译。
  • 您可以自行申请内存,再通过如下接口设置或更新Feature内存、Const内存基址:
    • 通过SetGraphConstMemoryBase设置Const内存基址。内存大小从GetCompiledGraphSummary>GetConstMemorySize接口中获取。
    • 通过UpdateGraphFeatureMemoryBase更新Feature内存基址,内存大小从GetCompiledGraphSummary>GetFeatureMemorySize接口中获取。
    • 通过SetGraphFixedFeatureMemoryBase设置Fixed Feature内存基地址,内存大小从GetCompiledGraphSummary>GetFixedFeatureMemorySize接口中获取。
    • 通过SetGraphFixedFeatureMemoryBaseWithType设置图的不同内存类型的Fixed Feature内存基地址,内存大小从GetCompiledGraphSummary>GetAllFeatureMemoryTypeSize接口中获取。
    • 通过UpdateGraphRefreshableFeatureMemoryBase更新除了Fixed之外可刷新的Feature内存基址,内存大小从GetCompiledGraphSummary>GetRefreshableFeatureMemorySize接口中获取。

函数原型

CompiledGraphSummaryPtr GetCompiledGraphSummary(uint32_t graph_id)

参数说明

参数名输入/输出说明
graph_id输入Graph对应的ID。

返回值说明

参数名类型说明
-CompiledGraphSummaryPtr图编译结果的概要信息CompiledGraphSummary的shared_ptr。

约束说明

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/10 20:16:51

技术博客写作:从项目标题到关键词的SEO实践

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

作者头像 李华
网站建设 2026/9/10 20:13:26

CANN/ge图引擎SetOutputAttr函数

SetOutputAttr 【免费下载链接】ge GE&#xff08;Graph Engine&#xff09;是面向昇腾的图编译器和执行器&#xff0c;提供了计算图优化、多流并行、内存复用和模型下沉等技术手段&#xff0c;加速模型执行效率&#xff0c;减少模型内存占用。 GE 提供对 PyTorch、TensorFlow …

作者头像 李华
网站建设 2026/9/10 20:11:29

SpringBoot测试进阶指南:从MockMvc到Testcontainers的完整实践

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

作者头像 李华
网站建设 2026/9/10 20:10:55

GPS坐标转换全攻略:WGS84/GCJ-02/BD-09互转与树莓派实战

做GPS相关开发这几年&#xff0c;我最大的感受是&#xff1a;真正让人头疼的往往不是信号差、收不到卫星&#xff0c;而是好不容易拿到一组坐标&#xff0c;放到地图上却对不上位置。明明GPS模块输出的是WGS84经纬度&#xff0c;地图却告诉你偏移了几百米&#xff0c;这种问题在…

作者头像 李华
网站建设 2026/9/10 20:10:53

WebSocket与React实现实时数据图表优化方案

1. 实时数据图表的前端技术选型在金融行情、IoT监控等实时性要求高的场景中&#xff0c;传统轮询&#xff08;Polling&#xff09;方案存在明显短板。以每秒刷新一次的股票行情为例&#xff0c;轮询会产生大量无效请求&#xff08;当数据未变化时&#xff09;&#xff0c;而Web…

作者头像 李华
网站建设 2026/9/10 20:10:51

2026年博主必备:专业耳机选购与罗技Zone VIBE评测

1. 为什么2026年的博主需要专业耳机&#xff1f;在内容创作领域&#xff0c;音频质量的重要性正以惊人的速度提升。根据最新调研数据&#xff0c;到2026年&#xff0c;超过78%的观众会因音频质量问题直接关闭视频&#xff0c;这个数字比2023年增长了近三倍。作为每天需要录制语…

作者头像 李华