CANN asc-devkit舍入模式
2026/7/15 7:43:21 网站建设 项目流程

舍入模式与饱和模式

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

概述

在进行数据类型转换时,Ascend C API支持多种舍入模式和饱和模式。这些模式决定了当源数据类型转换为不同精度或范围的目标数据类型时,如何处理数值的舍入和溢出问题。

  • 舍入模式:主要用于浮点数之间的转换或浮点数转整数时,确定如何将高精度数值舍入到低精度表示。
  • 饱和模式/非饱和模式:处理数值超出目标数据类型表示范围时的溢出行为。

舍入模式说明

Ascend C API支持以下舍入模式:

舍入模式函数后缀说明示例
RINT_rn四舍六入五成双舍入(Banker's Rounding)。当小数部分为0.5时,舍入到最近的偶数。1.5 → 2, 2.5 → 2, 3.5 → 4
ROUND_rna四舍五入舍入。小数部分≥0.5时向上舍入,<0.5时向下舍入。1.4 → 1, 1.5 → 2, 1.6 → 2
FLOOR_rd向负无穷方向舍入。总是向下取整。1.7 → 1, -1.3 → -2
CEIL_ru向正无穷方向舍入。总是向上取整。1.3 → 2, -1.7 → -1
TRUNC_rz向零方向舍入。直接截断小数部分。1.7 → 1, -1.7 → -1
ODD_ro最近邻奇数舍入。舍入到最近的奇数。1.5 → 1, 2.5 → 3, 3.5 → 3
HYBRID_rh混合舍入模式。特指输出结果为hifloat8_t数据时使用的一种随机舍入模式。-

舍入模式详细说明

RINT(四舍六入五成双)

也称为"银行家舍入法",是一种统计学上最无偏的舍入方法。

  • 当小数部分小于0.5时,向下舍入
  • 当小数部分大于0.5时,向上舍入
  • 当小数部分等于0.5时,舍入到最近的偶数

示例:

1.4 → 1 (小数部分 < 0.5,向下) 1.5 → 2 (小数部分 = 0.5,舍入到偶数) 2.5 → 2 (小数部分 = 0.5,舍入到偶数) 3.5 → 4 (小数部分 = 0.5,舍入到偶数) -1.5 → -2 (小数部分 = 0.5,舍入到偶数)
ROUND(四舍五入)

最常用的舍入方法,符合日常习惯。

  • 当小数部分小于0.5时,向下舍入
  • 当小数部分大于等于0.5时,向上舍入

示例:

1.4 → 1 (小数部分 < 0.5) 1.5 → 2 (小数部分 ≥ 0.5) 1.6 → 2 (小数部分 ≥ 0.5) -1.5 → -2 (向绝对值更大的方向舍入)
FLOOR(向下取整)

始终向负无穷方向舍入,即使结果变小。

示例:

1.7 → 1 (向下) -1.3 → -2 (向负无穷方向,变得更小)
CEIL(向上取整)

始终向正无穷方向舍入,即使结果变大。

示例:

1.3 → 2 (向上) -1.7 → -1 (向正无穷方向,变得更大)
TRUNC(向零截断)

直接截断小数部分,向零方向舍入。

示例:

1.7 → 1 (向零方向) -1.7 → -1 (向零方向)
ODD(奇数舍入)

舍入到最近的奇数,主要用于某些特殊的数值计算场景。

示例:

1.5 → 1 (最近的奇数) 2.5 → 3 (最近的奇数) 3.5 → 3 (最近的奇数)

饱和模式与非饱和模式说明

当数据类型转换时,源数据的值可能超出目标数据类型的表示范围,此时需要通过饱和模式或非饱和模式来处理溢出。

非饱和模式(Non-Saturation Mode)

在非饱和模式下,当数据超出目标类型范围时:

整型转换
  • 结果被截断:保留最低有效位(LSB),高位直接丢弃
  • 二进制截断示例:将int32转换为int8时,只保留低8位

二进制截断示例(int32 → int8):

输入值(int32): 0x000001FF (511) 二进制表示: 0000 0000 0000 0000 0000 0001 1111 1111 截断后(int8): 1111 1111 (0xFF, -1) 说明:只保留低8位,高位丢弃 输入值(int32): 0x00000100 (256) 二进制表示: 0000 0000 0000 0000 0000 0001 0000 0000 截断后(int8): 0000 0000 (0x00, 0) 说明:只保留低8位,高位丢弃 输入值(int32): 0xFFFFFF00 (-256) 二进制表示: 1111 1111 1111 1111 1111 1111 0000 0000 截断后(int8): 0000 0000 (0x00, 0) 说明:只保留低8位,高位丢弃
浮点数转换
  • 超出范围:返回输出类型的对应符号inf值(正/负无穷)
  • ±inf输入:返回±inf
  • NaN输入:返回NaN

示例(float → half):

输入值: 70000.0 (超出half范围) 输出值: +inf 输入值: -70000.0 输出值: -inf 输入值: NaN 输出值: NaN
浮点转整型
  • 超出范围:结果被截断至目标格式的数据宽度
  • ±inf输入:返回输出类型的最值
  • NaN输入:返回0

示例(float → int16):

输入值: 100000.5 (超出int16范围) 非饱和模式: 结果被截断(具体值取决于二进制表示) 输入值: +inf 输出值: 32767 (int16最大值) 输入值: NaN 输出值: 0

饱和模式(Saturation Mode)

在饱和模式下,当数据超出目标类型范围时,结果被限制在目标类型的可表示范围内:

整型转换
  • 超出范围:返回目标类型的最大值或最小值
  • 保持数值安全:不会出现因截断导致的意外结果

示例(int32 → int8):

输入值: 511 (超出int8范围) 饱和输出: 127 (int8最大值) 输入值: -300 (超出int8范围) 饱和输出: -128 (int8最小值) 输入值: 100 (在int8范围内) 饱和输出: 100 (保持不变)

示例(int32 → uint8):

输入值: 500 (超出uint8范围) 饱和输出: 255 (uint8最大值) 输入值: -10 (超出uint8范围) 饱和输出: 0 (uint8最小值) 输入值: 100 (在uint8范围内) 饱和输出: 100 (保持不变)
浮点数转换
  • 超出范围:返回输出类型的对应最值
  • ±inf输入:返回输出类型的对应最值
  • NaN输入:返回0

示例(float → half):

输入值: 70000.0 (超出half范围) 饱和输出: 65504.0 (half最大值) 输入值: -70000.0 饱和输出: -65504.0 (half最小值) 输入值: +inf 饱和输出: 65504.0 (half最大值) 输入值: NaN 饱和输出: 0
浮点转整型
  • 超出范围:返回输出类型的对应最值
  • ±inf输入:返回输出类型的对应最值
  • NaN输入:返回0

示例(float → int16):

输入值: 100000.5 (超出int16范围) 饱和输出: 32767 (int16最大值) 输入值: -50000.0 饱和输出: -32768 (int16最小值) 输入值: +inf 饱和输出: 32767 输入值: NaN 饱和输出: 0

模式对比总结

场景非饱和模式饱和模式
整型转整型(溢出)截断低位,高位丢弃返回目标类型最值
浮点转浮点(超出范围)返回±inf返回目标类型最值
浮点转整型(超出范围)截断至目标宽度返回目标类型最值
浮点转整型(±inf)返回目标类型最值返回目标类型最值
浮点转浮点(±inf)返回±inf返回目标类型最值
NaN输入返回NaN或0返回0

配置方法

开启饱和模式和非饱和模式时,需配置ctrl寄存器。ctrl寄存器的详细说明请参见asc_set_ctrl接口。

【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C++标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询