te.lang.cce.cast_to(data, dtype, f1628IntegerFlag=False)
数据类型转换,把data中的数据转换为dtype类型。
该接口在common.py中定义。
支持如下的类型转换。
源数据类型 |
目的数据类型 |
---|---|
float32 |
float16 |
float32 |
int8 |
float32 |
uint8 |
float16 |
float32 |
float16 |
int8 |
float16 |
uint8 |
float16 |
int32 |
int8 |
float16 |
int8 |
uint8 |
int32 |
float16 |
int32 |
int8 |
int32 |
uint8 |
参数说明
- data:输入tensor,tvm.tensor类型。
- dtype:目的数据类型,字符串类型。
- f1628IntegerFlag:默认值为False。如果转换前数据的小数部分为0,参数f1628IntegerFlag需要设为True;如果转换前数据的小数部分不为0,参数f1628IntegerFlag需要设为False。
返回值
res_tensor:转换后的数据,tvm.tensor类型。
调用示例
shape = (1024,1024) input_dtype = "float16" data = tvm.placeholder(shape, name="data", dtype=input_dtype) res = te.lang.cce.cast_to(data,"float32")