模型部署 ModelArts提供模型、服务管理能力，支持多厂商多框架多功能的镜像和模型统一纳管。 通常AI模型部署和规模化落地非常复杂。 例如，智慧交通项目中，在获得训练好的模型后，需要部署到云、边、端多种场景。如果在端侧部署，需要一次性部署到不同规格、不同厂商的摄像机上，这是一

查看更多 →

建模步骤 创建部署模型。 创建新的部署模型图或者在已有的部署模型图中进行画图设计，如果部署模型场景较多，可根据实际情况将内容进行拆分，按实际部署场景创建多个部署模型图。 建立交付元素与部署元素的部署关系。 从工具箱拖入部署元素创建到部署模型图中，描述部署场景，再将交付模型中定义的打包交付

查看更多 →

部署模型的基础构造型与自定义构造型元素才认定为部署元素）。 在部署模型图上创建出来的部署元素； 引用到部署模型中的部署元素（包含关联空间中的引用的部署元素）； 如何检查 查询部署模型图内元素类型为架构方案配置构造型的所有元素，查询基于模型图构出的部署模型架构树。 正确示例 每个部署元素都有连线关系和上下级关系（包含关系）。

查看更多 →

单击“模型”进入模型列表。 选择需要部署为推理服务的模型，单击模型名称进入模型详情页。 在模型详情页，选择“部署 > 推理服务”进入部署推理服务页面。 在部署推理服务页面完成参数配置。 表1 部署推理服务 参数 子参数 说明 推理服务设置 服务名称 必填项，自定义一个在线推理服务的名称。 支持1~30个字符。

查看更多 →

采用持续部署模型 当部署出问题时，通过使用持续部署模型来实现尽早发现问题，减少对最终用户的影响。 金丝雀部署是持续部署的常见模型，通过一小群内部或外部用户首先部署新功能，当新版本没有问题后，陆续部署到更大的组，直到所有用户群体都运行新版本。 另一种常见的部署模型是蓝绿部署，通过部

查看更多 →

部署AI Gallery模型为AI应用 AI Gallery支持将模型部署为AI应用，在线共享给其他用户使用。 前提条件 选择的模型必须是支持部署为AI应用的模型，否则模型详情页没有“部署 > AI应用”选项。 部署AI应用 登录AI Gallery。 单击“模型”进入模型列表。

查看更多 →

当用户使用自定义引擎时，默认开启动态加载，模型包与镜像分离，在服务部署时动态将模型加载到服务负载。 配置健康检查 大模型场景下导入的AI应用，要求配置健康检查，避免在部署时服务显示已启动但实际不可用。 图3 采用自定义引擎，开启动态加载并配置健康检查示例图 部署在线服务 部署服务时，需满足以下参数配置： 自定义部署超时时间

查看更多 →

模型使用CV2包部署在线服务报错 问题现象 使用CV2包部署在线服务报错 原因分析 使用OBS导入元模型，会用到服务侧的标准镜像，标准镜像里面没有CV2依赖的so的内容。所以ModelArts不支持从 对象存储服务 （OBS）导入CV2模型包。 处理方法 需要您把CV2包制作为自定义

查看更多 →

基于华为云资源部署 本页面介绍如何基于华为云资源创建华为云 区块链 引擎服务。 前提条件 如果您使用华为云帐号创建的IAM用户进行操作，IAM用户需要具备足够的权限才能操作并订购华为云区块链引擎服务。具体操作请参见：华为云区块链引擎权限管理。 您可以通过先创建用户组并授权再将用户加入

查看更多 →

基于华为云资源部署 创建华为云区块链引擎 创建Hyperledger Besu实例 父主题： 实例部署

查看更多 →

ModelArts支持将模型部署为哪些类型的服务？ 支持在线服务、批量服务和边缘服务。 父主题： 功能咨询

查看更多 →

自动学习中部署上线是将模型部署为什么类型的服务？ 自动学习中部署上线是将模型部署为在线服务，您可以添加图片或代码进行服务测试，也可以使用URL接口调用。 部署成功后，您也可以在ModelArts管理控制台的“部署上线 > 在线服务”页面中，查看到正在运行的服务。您也可以在此页面停止服务或删除服务。

查看更多 →

模型验证 模型验证服务是什么含义？ 父主题： 常见问题

查看更多 →

模型选择 目前，学件已经集成了几十维到上百维不同种类的特征库，源于历史各类Case和通用KPI异常检测的算法库。通过数据的特征画像，可以实现自动化的特征推荐和算法推荐。 单击“特征画像”左下方的“模型选择”。 新增“模型选择”内容，如图1所示。 图1 模型选择 单击“模型选择”代码框左侧的图标，运行代码。

查看更多 →

模型管理 在模型管理界面，可以将归档的模型，打包成模型包。 在菜单栏中，单击“模型管理”，进入“模型管理”界面。 单击界面右上角的“新建模型包”，弹出“新建模型包”对话框。 请根据实际情况，修改模型名称、模型版本、模型描述等信息，并勾选归档的学件模型“Learnware”。 单击

查看更多 →

模型验证 模型验证界面已经预置了模型验证服务，本次不使用，仅供参考。下面会提供端到端的操作流程，帮助用户快速熟悉模型验证界面操作。 单击菜单栏中的“模型验证”，进入模型验证界面。 可以看到预置的模型验证任务“hardisk-detect”。 单击“创建”，弹出如图1所示的对话框。

查看更多 →

其中“排行榜”展示所有训练出的模型列表，支持对模型进行如下操作： 单击模型所在行对应“操作”列的“详情”，查看模型超参取值和模型评分结果。 单击模型所在行对应“操作”列的“预测”，在新增的“AutoML模型预测”内容中，选择测试数据集test，运行代码框，查看模型预测结果，如图6所示。

查看更多 →

资产模型 创建资产模型 获取资产模型列表 获取资产模型详情 修改资产模型 删除资产模型 父主题： API列表

查看更多 →

模型训练 模型训练新建模型训练工程的时候，选择通用算法有什么作用？ 使用训练模型进行在线推理的推理入口函数在哪里编辑？ 通过数据集导入数据后，在开发代码中如何获取这些数据？ 如何在模型训练时，查看镜像中Python库的版本？ 如何在模型训练时，设置日志级别？ 如何自定义安装python第三方库？

查看更多 →

模型推理 将数据输入模型进行推理，推理结束后将推理结果返回。 接口调用 virtual HiLensEC hilens::Model::Infer(const InferDataVec & inputs, InferDataVec & outputs) 参数说明 表1 参数说明 参数名

查看更多 →

模型训练 模型训练简介 创建模型训练工程 创建联邦学习工程 创建训练服务 创建超参优化服务 创建Tensorboard 打包训练模型 父主题： 用户指南

查看更多 →