更新时间:2021-03-18 GMT+08:00
分享

round_to

功能说明

将data中每个元素取到 [min_value, max_value] 的范围内,将data中的每个元素与min_value、max_value做比较,如果元素值在min_value、max_value之间,则取data元素值;如果元素值小于min_value,则取min_value值;如果元素值大于max_value,则取max_value。

您可以在ATC安装目录下的“python/site-packages/te/te/lang/cce/te_compute/common.py”查看接口定义。

约束说明

max_value、min_value数据类型与data数据类型需要一致,如果不一致计算中会把max_value、min_value转换为data对应数据类型。

支持的类型有float16,float32,int8,uint8,int32。其中int8,uint8,int32会被转换为float16。

函数原型

te.lang.cce.round_to(data, max_value, min_value)

参数说明

  • data:输入tensor,tvm.tensor类型。
  • max_value:目标范围的最大值,标量类型。
  • min_value:目标范围的最小值,标量类型。

返回值

res_tensor:结果tensor,tvm.tensor类型。

调用示例

shape = (1024,1024)
input_dtype = "float16"
data = tvm.placeholder(shape, name="data", dtype=input_dtype)
max_value = tvm.const(2, dtype =input_dtype)
min_value = tvm.const(3, dtype =input_dtype)
res = te.lang.cce.round_to(data, max_value, min_value)
分享:

    相关文档

    相关产品

close