asc_datacache_preload
【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
产品支持情况
- Ascend 950PR/Ascend 950DT:支持
- Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持
- Atlas A2 训练系列产品/Atlas A2 推理系列产品:支持
- Atlas 200I/500 A2 推理产品:不支持
- Atlas 推理系列产品AI Core:不支持
- Atlas 推理系列产品Vector Core:不支持
- Atlas 训练系列产品:不支持
功能说明
头文件路径:"c_api/cache_ctrl/cache_ctrl.h"。
从源地址所在的特定GM地址预加载数据到Data Cache中。
函数原型
__aicore__ inline void asc_datacache_preload(__gm__ uint64_t* address, int64_t offset)参数说明
| 参数名 | 输入/输出 | 描述 |
|---|---|---|
| address | 输入 | 源操作数的起始地址。 |
| offset | 输入 | 在源操作数上偏移offset大小开始加载数据,单位为Bytes。 |
返回值说明
无
流水类型
PIPE_S
约束说明
频繁调用此接口可能会导致保留栈拥塞,此时,该接口将被视为NOP指令,阻塞Scalar流水。因此不建议频繁调用此接口。
调用示例
// 假设x为外部传入的地址,每个核计算16个数据,block_idx为内置变量,通过block_idx计算偏移实现多核间数据隔离 __gm__ float* x_gm = x + block_idx * 16; int64_t cacheOffset = 0; asc_datacache_preload(reinterpret_cast<__gm__ uint64_t*>(x_gm), cacheOffset);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考