企业官网建设流程全解析

TensorTrait简介

TensorTrait数据结构是描述Tensor相关信息的基础模板类，包含Tensor的数据类型、逻辑位置和Layout内存布局。借助模板元编程技术，该类在编译时完成计算和代码生成，从而降低运行时开销。

需要包含的头文件

#include "kernel_operator_tensor_trait.h"

原型定义

template <typename T, TPosition pos = TPosition::GM, typename LayoutType = Layout<Shape<>, Stride<>>> struct TensorTrait { using LiteType = T; using LiteLayoutType = LayoutType; static constexpr const TPosition tPos = pos; // 该常量成员为后续功能扩展做预留 public: __aicore__ inline TensorTrait(const LayoutType& t = {}); __aicore__ inline LayoutType& GetLayout(); __aicore__ inline const LayoutType& GetLayout() const; __aicore__ inline void SetLayout(const LayoutType& t); };

模板参数

表 1模板参数说明

成员函数

__aicore__ inline TensorTrait(const LayoutType& t = {}) __aicore__ inline LayoutType& GetLayout() __aicore__ inline const LayoutType& GetLayout() const __aicore__ inline void SetLayout(const LayoutType& t)

相关接口

// TensorTrait结构构造方法 template <typename T, TPosition pos, typename LayoutType> __aicore__ inline constexpr auto MakeTensorTrait(const LayoutType& t) // is_tensorTrait原型定义 template <typename T> struct is_tensorTrait

约束说明

• 同一接口不支持同时输入TensorTrait类型的GlobalTensor/LocalTensor和非TensorTrait类型的GlobalTensor/LocalTensor。

• 非TensorTrait类型和TensorTrait类型的GlobalTensor/LocalTensor相互之间不支持拷贝构造和赋值运算符。

• TensorTrait特性当前仅支持如下接口：

  [!NOTE]说明

  • 和API配合使用时，当前暂不支持TensorTrait结构配置pos、LayoutType模板参数，需要使用构造函数构造TensorTrait，pos、LayoutType保持默认值即可。
  • DataCopy切片数据搬运接口需要ShapeInfo信息，不支持输入TensorTrait类型的GlobalTensor/LocalTensor。

  表 2TensorTrait特性支持的接口列表

  接口分类	接口名称
  基础API>资源管理>TQue/TQueBind	AllocTensor、FreeTensor、EnQue、DeQue
  基础API>矢量计算>基础算术	Exp、Ln、Abs、Reciprocal、Sqrt、Rsqrt、Relu、Add、Sub、Mul、Div、Max、Min、Adds、Muls、Maxs、Mins、VectorPadding、BilinearInterpolation、Prelu、Mull、LeakyRelu
  基础API>矢量计算>逻辑计算	And、Or、ShiftRight、ShiftLeft
  基础API>矢量计算>复合计算	CastDequant、AddRelu、AddDeqRelu、SubRelu、MulAddDst、FusedMulAdd、MulAddRelu、AddReluCast、ExpSub、AbsSub、SubReluCast、MulCast
  基础API>数据搬运	DataCopy、Copy
  基础API>矩阵计算	Fill、LoadData、LoadDataWithTranspose、SetAippFunctions、LoadImageToLocal、LoadUnzipIndex、LoadDataUnzip、LoadDataWithSparse、Mmad、MmadWithSparse、BroadCastVecToMM、Gemm、Fixpipe
  基础API>矢量计算>比较与选择	Compare、GetCmpMask、SetCmpMask、Select、GatherMask
  基础API>矢量计算>类型转换	Cast、Truncate
  基础API>矢量计算>归约计算	ReduceMax、BlockReduceMax、WholeReduceMax、ReduceMin、BlockReduceMin、WholeReduceMin、ReduceSum、BlockReduceSum、WholeReduceSum、RepeatReduceSum、PairReduceSum
  基础API>矢量计算>数据转换	Transpose、TransDataTo5HD
  基础API>矢量计算>数据填充	Brcb、Duplicate（仅支持不带scalar参数的接口）
  基础API>矢量计算>离散与聚合	Gather、Gatherb、Scatter
  基础API>矢量计算>数据重排（ISASI）	Interleave、DeInterleave
  基础API>矢量计算>排序组合（ISASI）	ProposalConcat、ProposalExtract、RpSort16、MrgSort4、Sort32