☰
CANN/ge算子图生成与Dump接口
2026/10/6 13:47:03 网站建设 项目流程

aclGenGraphAndDumpForOp

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

产品支持情况

  • Ascend 950PR/Ascend 950DT:不支持
  • Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持
  • Atlas A2 训练系列产品/Atlas A2 推理系列产品:支持
  • Atlas 200I/500 A2 推理产品:支持
  • Atlas 推理系列产品:支持
  • Atlas 训练系列产品:支持
  • IPV350:不支持

功能说明

构建单个算子的图并Dump,生成.txt文件。此处的图是指表达算子IR(Intermediate Representation)的结构,图编译过程中由于融合、拆分等原因会导致图不断变换、进而生成新的图,这些变换的目的是为了将用户表达的图适配到AI处理器上,获得更高性能。

使用场景:算子调优场景下,调用本接口构建单个算子的图并Dump,生成.txt文件,作为算子调优的输入数据之一。

函数原型

aclError aclGenGraphAndDumpForOp(const char *opType, int numInputs, const aclTensorDesc *const inputDesc[], const aclDataBuffer *const inputs[], int numOutputs, const aclTensorDesc *const outputDesc[], aclDataBuffer *const outputs[], const aclopAttr *attr, aclopEngineType engineType, const char *graphDumpPath, const aclGraphDumpOption *graphDumpOpt)

参数说明

参数名输入/输出说明
opType输入指定算子类型名称的指针。
numInputs输入算子输入tensor的数量。
inputDesc输入算子输入tensor描述的指针数组。类型定义请参见aclTensorDesc。
需提前调用aclCreateTensorDesc接口创建aclTensorDesc类型。
inputDesc数组中的元素个数必须与numInputs参数值保持一致,且inputs数组与inputDesc数组中的元素必须一一对应。
inputs输入算子输入tensor的指针数组。类型定义请参见aclDataBuffer。
需提前调用aclCreateDataBuffer接口创建aclDataBuffer类型的数据。
inputs数组中的元素个数必须与numInputs参数值保持一致,且inputs数组与inputDesc数组中的元素必须一一对应。
numOutputs输入算子输出tensor的数量。
outputDesc输入算子输出tensor描述的指针数组。类型定义请参见aclTensorDesc。
需提前调用aclCreateTensorDesc接口创建aclTensorDesc类型。
outputDesc数组中的元素个数必须与numOutputs参数值保持一致,且outputs数组与outputDesc数组中的元素必须一一对应。
outputs输入算子输出tensor的指针数组。类型定义请参见aclDataBuffer。
需提前调用aclCreateDataBuffer接口创建aclDataBuffer类型的数据。
outputs数组中的元素个数必须与numOutputs参数值保持一致,且outputs数组与outputDesc数组中的元素必须一一对应。
attr输入算子属性的指针。类型定义请参见aclopAttr。
需提前调用aclopCreateAttr接口创建aclopAttr类型。
engineType输入算子执行引擎。类型定义请参见aclopEngineType。
graphDumpPath输入Dump单算子图所生成的文件(文件名后缀为.txt)的保存路径的指针。类型定义请参见aclGraphDumpOption。
路径需要由用户提前创建,路径中如果不指定文件名,则由接口内部指定文件名。
如果多次Dump时,指定同一个路径,且文件名相同,则最新一次的文件会覆盖之前的文件。
graphDumpOpt输入单算子图的dump选项的指针。
当前该参数预留,仅支持传入nullptr。

返回值说明

返回0表示成功,返回其他值表示失败,请参见aclError。

【免费下载链接】geGE(Graph Engine)是面向昇腾的图编译器和执行器,提供了计算图优化、多流并行、内存复用和模型下沉等技术手段,加速模型执行效率,减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力,并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询