文档首页> Atlas 300应用(型号 3000)> TE API参考> compute接口> te.lang.cce.cast_to(data, dtype, f1628IntegerFlag=False)
更新时间:2021-03-18 GMT+08:00
分享

te.lang.cce.cast_to(data, dtype, f1628IntegerFlag=False)

数据类型转换,把data中的数据转换为dtype类型。

该接口在common.py中定义。

支持如下的类型转换。

表1 支持的类型转换

源数据类型

目的数据类型

float32

float16

float32

int8

float32

uint8

float16

float32

float16

int8

float16

uint8

float16

int32

int8

float16

int8

uint8

int32

float16

int32

int8

int32

uint8

参数说明

  • data:输入tensor,tvm.tensor类型。
  • dtype:目的数据类型,字符串类型。
  • f1628IntegerFlag:默认值为False。如果转换前数据的小数部分为0,参数f1628IntegerFlag需要设为True;如果转换前数据的小数部分不为0,参数f1628IntegerFlag需要设为False。

返回值

res_tensor:转换后的数据,tvm.tensor类型。

调用示例

shape = (1024,1024)
input_dtype = "float16"
data = tvm.placeholder(shape, name="data", dtype=input_dtype)
res = te.lang.cce.cast_to(data,"float32")
分享:

    相关文档

    相关产品