对tensor中的每个元素做自然指数运算e^x，支持的类型：float16。int8，uint8，int32，float32类型会被转换为float16。该接口在elewise_compute.py中定义。raw_tensor：输入tensor，tvm.tensor类型。res_tensor：表示e^(raw_tensor)，tvm.te

查看更多 →

矩阵乘，计算：tensor_c=alpha_num * trans_a(tensor_a) * trans_b(tensor_b) + beta_num * tensor_c。tensor_a与tensor_b的shape后两维(经过对应转置)需要满足矩阵乘(M, K) * (K, N) = (M, N)，且batch数只支持1。tens

查看更多 →

华为HiLens上可以运行哪些TensorFlow和Caffe的模型？ 准确地说，华为HiLens上只能运行“om”模型，华为HiLens管理控制台的“模型导入（转换）”功能支持将部分TensorFlow/Caffe模型转换成“om”模型。 当前可支持的TensorFlow/Caffe算子范围请参

查看更多 →

存储在OBS上的TensorFlow模型包，确保您使用的OBS目录与ModelArts在同一区域。模型包的要求请参见模型包示例。 对应的输入输出模式 未定义模式，可覆盖，即创建模型时支持选择其他输入输出模式。 模型包规范 模型包必须存储在OBS中，且必须以“model”命名。“mode

查看更多 →

存储在OBS上的TensorFlow模型包，确保您使用的OBS目录与ModelArts在同一区域。模型包的要求请参见模型包示例。 对应的输入输出模式 未定义模式，可覆盖，即创建模型时支持选择其他输入输出模式。 模型包规范 模型包必须存储在OBS中，且必须以“model”命名。“mode

查看更多 →

如果切分了数据集，需要删除推理代码中“Yolov3Service”类中的如下代码： self.model_inputs = {'images': 'images:0'} self.model_outputs = {'feat_1': 'feat_1:0',

查看更多 →

如何在Notebook中安装外部库？ 在Jupyter Notebook中安装 例如，通过Jupyter Notebook在“TensorFlow-1.8”的环境中安装Shapely。 打开一个Notebook实例。 在Jupyter控制面板中，选择“New”（新建），然后选择“TensorFlow-1

查看更多 →

采用ModelArts开发 ModelArts是面向AI开发者的一站式开发平台，您可以使用ModelArts开发一个用于HiLens平台的算法模型。 在使用ModelArts开发或训练的模型后，其模型将存储在ModelArts的模型列表中，详细操作指导请参见《ModelArts用户指南》。由于目前华为Hi

查看更多 →

矩阵乘，计算：tensor_c=alpha_num * trans_a(tensor_a) * trans_b(tensor_b) + beta_num * tensor_c。tensor_a与tensor_b的shape后两维(经过对应转置)需要满足矩阵乘(M, K) * (K, N) = (M, N)，且batch数只支持1。tens

查看更多 →

Tensor注册宏。该宏在ai_tensor.h中定义。

查看更多 →

推理前的权重合并转换 模型训练完成后，训练的产物包括模型的权重、优化器状态、loss等信息。这些内容可用于断点续训、模型评测或推理任务等。 在进行模型评测或推理任务前，需要将训练后生成的多个权重文件合并，并转换成Huggingface格式的权重文件。 权重文件的合并转换操作都要求

查看更多 →

脚本中预置的API AstroZero平台的脚本引擎采用TypeScript语言。脚本执行时，TypeScript语言会被翻译成JavaScript语言，由JavaScript引擎执行。 在JavaScript es5的官方标准库外，AstroZero还扩展了10+预置标准库（即

查看更多 →

采用ModelArts开发 ModelArts是面向AI开发者的一站式开发平台，您可以使用ModelArts开发一个用于HiLens平台的算法模型。 在使用ModelArts开发或训练的模型后，其模型将存储在ModelArts的模型列表中，详细操作指导请参见《ModelArts用户指南》。由于目前华为Hi

查看更多 →

engine_name String 引擎规格的名称。如“Caffe”。 engine_version String 引擎规格的版本。对一个引擎名称，有多个版本的引擎，如使用python2.7的"Caffe-1.0.0-python2.7"等。 v1_compatible Boolean 是否为v1兼容模式。

查看更多 →

将raw_tensor中每个元素乘上标量scalar，支持的类型：float16，float32。int8，uint8，int32会被转换为float16。如果scalar数据类型与raw_tensor数据类型不一致，计算中会转换为对应数据类型。该接口在elewise_compute.py中定义。raw_tensor：输入tensor，t

查看更多 →

对tensor中的每个元素做倒数运算 1 / x，支持的类型：float16，float32。int8，uint8，int32类型会被转换为float16。该接口在elewise_compute.py中定义。raw_tensor：输入tensor，tvm.tensor类型。res_tensor：表示1 / raw_tensor，tvm.t

查看更多 →

在Notebook中安装 例如，通过JupyterLab在“TensorFlow-1.8”的环境中安装Shapely。 打开一个Notebook实例，进入到Launcher界面。 在“Notebook”区域下，选择“TensorFlow-1.8”，新建一个ipynb文件。 在新建的Notobook中，在代码输入栏输入如下命令。

查看更多 →

运行完成后，会在output_dir下生成量化后的权重。量化后的权重包括原始权重和kvcache的scale系数。 Step2 抽取kv-cache量化系数 该步骤的目的是将Step1使用tensorRT量化工具进行模型量化中生成的scale系数提取到单独文件中，供推理时使用。 使用的抽取脚本由vllm社区提供：

查看更多 →

ModelArts平台提供了Tensorflow，PyTorch，MindSpore等常用深度学习任务的基础镜像，镜像里已经安装好运行任务所需软件。当基础镜像里的软件无法满足您的程序运行需求时，您可以基于这些基础镜像制作一个新的镜像并进行训练。 训练基础镜像列表 ModelArts中预置的训练基础镜像如下表所示。

查看更多 →

Tensor注册宏。该宏在ai_tensor.h中定义。

查看更多 →

将raw_tensor中每个元素乘上标量scalar，支持的类型：float16，float32。int8，uint8，int32会被转换为float16。如果scalar数据类型与raw_tensor数据类型不一致，计算中会转换为对应数据类型。该接口在elewise_compute.py中定义。raw_tensor：输入tensor，t

查看更多 →