模型推理代码编写说明 本章节介绍了在ModelArts中模型推理代码编写的通用方法及说明，针对常用AI引擎的自定义脚本代码示例（包含推理代码示例），请参见自定义脚本代码示例。本文在编写说明下方提供了一个TensorFlow引擎的推理代码示例以及一个在推理脚本中自定义推理逻辑的示例。

查看更多 →

规则引擎 配置数据转发规则 导入导出规则 父主题： 设备集成指导

查看更多 →

规则引擎 创建规则 查询规则 批量删除规则 调试规则 删除规则 查询规则详情 修改规则 添加目标数据源 查询目标数据源列表 删除目标数据源 添加源数据源 查询源数据源列表 删除源数据源 父主题： 设备集成API

查看更多 →

规则引擎 创建规则引擎源端 创建规则引擎目的端 父主题： 设备集成API（V1）

查看更多 →

规则引擎 规则引擎介绍 数据转发流程 SQL语句 连通性测试 数据转发至华为云服务 数据转发至第三方应用 查看数据转发通道详情 数据转发积压策略配置 数据转发流控策略配置 设备联动

查看更多 →

代码校验规则 代码验证规则可以在编译之前检测和纠正项目中的错误代码。当您输入代码时，检测到的问题会在代码编辑器中实时显示出来。有关CodeArts IDE中代码验证的更多详细信息，请参阅代码校验。 要启用或禁用验证规则，请使用其名称旁边的复选框。 要调整相应代码问题在代码编辑器中

查看更多 →

规则引擎介绍 规则引擎是指用户可以在物联网平台上对接入平台的设备设定相应的规则，在条件满足所设定的规则后，平台会触发相应的动作来满足用户需求。包含设备联动和数据转发两种类型。 设备联动 设备联动指通过条件触发，基于预设的规则，引发多设备的协同反应，实现设备联动、智能控制。目前物联

查看更多 →

自研代码检查引擎 自研代码检查引擎，全面评估代码质量七特征 代码检查服务的核心就是代码检查引擎，高效精准的代码检查引擎能够很好地帮助用户在开发早期快速、准确地发现代码问题，兼顾开发效率与产品质量。 代码检查引擎团队凝聚了国内40+博士、海外研究所50+专家、国内外10+老师合作成

查看更多 →

当从第三方推理框架迁移到使用ModelArts推理的AI应用管理和服务管理时，需要对原生第三方推理框架镜像的构建方式做一定的改造，以使用ModelArts推理平台的模型版本管理能力和动态加载模型的部署能力。本案例将指导用户完成原生第三方推理框架镜像到ModelArts推理自定义引擎的改造。自定义引擎的镜像制作完成

查看更多 →

是否必填 说明 app_id string 否 应用ID，当系统中规则不存在，则该参数为必选。 rule_name string 是 系统中已经创建好的规则名称，如果规则不存在，默认创建该规则。 level string 是 规则的级别，产品级填‘product’，设备级填‘device’。

查看更多 →

描述：描述信息。 单击“确定”，发布在线推理服务。 单击界面左上方的“模型训练”，从下拉框中选择“推理”，进入推理服务菜单页面，该界面展示已发布的所有推理服务。用户可以对推理服务进行查看详情、授权、启动/停止等一系列操作。 ：推理服务发布成功，单击图标可以跳转至推理服务的快速验证界面，用户可在

查看更多 →

脚本代码性能检查规则说明 使用说明 低代码平台支持对已开发好的脚本代码，进行性能检查和兼容性检查，本节将带您了解代码性能检查的规则。 在标准/高级页面编辑页面上方，单击“性能分析”，即可进入性能分析页面。在该页面中，可查看脚本代码的性能检查结果报告和兼容性检查结果报告。 图1 进入性能分析页面

查看更多 →

单击模型包所在行，对应“操作”列的图标，进入Webide代码编辑界面。 在左侧代码目录中展开与模型包同名的文件夹，然后单击“metadata.json”文件，将红框内名字改成实际推理文件文字，如图2所示。 图2 修改metadata.json 在Webide编辑界面左侧代码目录空白区域右键单击鼠标，选择“NAIE

查看更多 →

推理服务 云端推理框架提供模型云端运行框架环境，用户可以在线验证模型推理效果，无须从零准备计算资源、搭建推理框架，只需将模型包加载到云端推理框架，一键发布成云端Web Service推理服务，帮助用户高效低成本完成模型验证。 其中，“推理服务”主界面默认展示所有推理服务，用户可查

查看更多 →

模型推理 将数据输入模型进行推理，推理结束后将推理结果返回。 接口调用 virtual HiLensEC hilens::Model::Infer(const InferDataVec & inputs, InferDataVec & outputs) 参数说明 表1 参数说明 参数名

查看更多 →

模型推理 模型初始化成功后，调用infer接口进行模型推理。灌入一组数据，并得到推理结果。输入数据的类型不是uint8或float32数组组成的list将会抛出一个ValueError。 接口调用 hilens.Model.infer(inputs) 参数说明 表1 参数说明 参数名

查看更多 →

在模型训练工程详情页面上单击“”，进入训练任务配置页面。 硬盘检测模板已经预置训练代码及推理代码，故此处跳过代码文件创建及代码编辑操作。如果是用户手动创建训练项目，不包含推理代码文件，需要完成在训练代码目录中增加推理代码文件，编辑推理代码，在训练代码文件中编辑训练代码等操作。 使用默认配置，单击“开始训练”。 训练

查看更多 →

py”中。当学件模型打包发布成在线推理服务时，可以使用推理代码，完成快速在线推理验证。 单击“测试模型”左下方的“开发推理”。 等待推理代码生成完成后，可在左侧目录树中，看到生成的推理文件“learnware_predict.py”。 用户可以根据实际情况，编辑修改推理文件中的代码。 父主题： 模型训练

查看更多 →

推理部署 AI应用管理 服务部署 服务预测

查看更多 →

创建AI应用：把模型文件和推理文件导入到ModelArts的模型仓库中，进行版本化管理，并构建为可运行的AI应用。 部署服务：把AI应用在资源池中部署为容器实例，注册外部可访问的推理API。 推理：在您的应用中增加对推理API的调用，在业务流程中集成AI推理能力。 部署服务 在完成

查看更多 →

推理服务 推理服务 任务队列 父主题： 训练服务

查看更多 →