编译可执行文件
【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge
请以ATC软件包安装用户进行如下操作:
从https://github.com/tensorflow/tensorflow/archive/v1.15.0.tar.gz链接下载Tensorflow源码,然后将下载的源码上传到ATC工具所在Linux服务器任意目录。
登录Linux服务器,切换到Tensorflow源码所在路径,执行如下命令解压源码包:
tar -zxvf tensorflow-1.15.0.tar.gz进入解压后的tensorflow-1.15.0,安装补丁。
参见获取xlacompile.patch补丁文件获取xlacompile.patch补丁,然后上传到Linux服务器tensorflow-1.15.0路径下,执行如下命令安装补丁:
patch -p1 < xlacompile.patch切换到tensorflow-1.15.0目录,执行如下命令编译xlacompile工具:
bazel build --config=monolithic //tensorflow/compiler/aot:xlacompile若出现类似如下信息,则说明编译成功,编译大约需要10分钟左右;若编译失败,请参见使用bazel编译工具编译时提示“An error occurred during the fetch of repository 'io_bazel_rules_docker'”,编译失败解决。
Target //tensorflow/compiler/aot:xlacompile up-to-date: bazel-bin/tensorflow/compiler/aot/xlacompile INFO: Elapsed time: 214.550s, Critical Path: 73.38s INFO: 1511 processes: 1511 local. INFO: Build completed successfully, 1513 total actions编译成功后,会在$HOME/.cache/bazel/_bazel_test/abd37aaac8a380ca5a3f13938322fcb2/external/org_tensorflow/bazel-out/k8-opt/bin/tensorflow/compiler/aot路径生成xlacompile可执行文件(该路径只是样例,请以用户实际编译后的为准)。
xlacompile可执行文件用于将控制流算子的网络模型转成函数类算子的网络模型。
切换到tensorflow-1.15.0目录,执行如下命令编译summarize_graph工具:
bazel build --config=monolithic -c opt //tensorflow/tools/graph_transforms:summarize_graph若出现类似如下信息,则说明编译成功:
Target //tensorflow/tools/graph_transforms:summarize_graph up-to-date: bazel-bin/tensorflow/tools/graph_transforms/summarize_graph INFO: Elapsed time: 70.474s, Critical Path: 53.16s INFO: 1028 processes: 1028 local. INFO: Build completed successfully, 1053 total actions编译成功后,会在$HOME/.cache/bazel/_bazel_test/abd37aaac8a380ca5a3f13938322fcb2/execroot/org_tensorflow/bazel-out/k8-opt/bin/tensorflow/tools/graph_transforms路径生成summarize_graph可执行文件(该路径只是样例,请以用户实际编译后的为准)。
summarize_graph可执行文件用来查看有控制流算子网络模型的输入输出节点,方便用户构造config.pbtxt输入输出配置文件。
【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考