DataType#
产品支持情况#
Ascend 950PR:支持
Atlas A3 训练系列产品/Atlas A3 推理系列产品:支持
Atlas A2 训练系列产品/Atlas A2 推理系列产品:支持
功能说明#
DataType是PTO框架中用于表示Tensor数据类型的枚举类,定义了所有支持的数据类型,包括整数、浮点数、布尔值等。作为Tensor操作的核心类型标识,DataType用于指定Tensor的存储格式和计算精度。
原型定义#
class DataType(enum.Enum):
... # 枚举类定义,包含所有支持的数据类型
# 数据类型常量定义
DT_INT4 = ... # 4位有符号整数,占用字节内存
DT_INT8 = ... # 8位有符号整数,占用1字节内存
DT_INT16 = ... # 16位有符号整数,占用2字节内存
DT_INT32 = ... # 32位有符号整数,占用4字节内存
DT_INT64 = ... # 64位有符号整数,占用8字节内存
DT_FP8 = ... # 8位浮点数,用于低精度计算
DT_FP16 = ... # 16位半精度浮点数,占用2字节内存
DT_FP32 = ... # 32位单精度浮点数,占用4字节内存
DT_BF16 = ... # 16位Brain Float格式,占用2字节内存
DT_HF4 = ... # 4位Half Float格式,占用1字节内存
DT_HF8 = ... # 8位Half Float格式,占用1字节内存
DT_FP4E2M1 = ... # 4位浮点数,2位指数,1位尾数,两个占用1字节内存
DT_FP8E4M3 = ... # 8位浮点数,4位指数,3位尾数,占用1字节内存
DT_FP8E5M2 = ... # 8位浮点数,5位指数,2位尾数,占用1字节内存
DT_FP8E8M0 = ... # 8位浮点数,8位指数,0位尾数,占用1字节内存
DT_FP4_E2M1X2 = ... # MXFP4格式,2位指数1位尾数,双元素打包,占用1字节内存
DT_FP4_E1M2X2 = ... # MXFP4格式,1位指数2位尾数,双元素打包,占用1字节内存
DT_UINT8 = ... # 8位无符号整数,占用1字节内存
DT_UINT16 = ... # 16位无符号整数,占用2字节内存
DT_UINT32 = ... # 32位无符号整数,占用4字节内存
DT_UINT64 = ... # 64位无符号整数,占用8字节内存
DT_BOOL = ... # 布尔类型,占用1字节内存
DT_DOUBLE = ... # 64位双精度浮点数,占用8字节内存
约束说明#
Atlas A3 训练系列产品/Atlas A3 推理系列产品不支持DT_FP8E4M3,DT_FP8E5M2和DT_FP8E8M0类型。
Atlas A2 训练系列产品/Atlas A2 推理系列产品不支持DT_FP8E4M3,DT_FP8E5M2和DT_FP8E8M0类型。