模型部署 ModelArts提供模型、服务管理能力，支持多厂商多框架多功能的镜像和模型统一纳管。 通常AI模型部署和规模化落地非常复杂。 例如，智慧交通项目中，在获得训练好的模型后，需要部署到云、边、端多种场景。如果在端侧部署，需要一次性部署到不同规格、不同厂商的摄像机上，这是一

查看更多 →

模型部署为推理服务 AI Gallery支持将训练的模型或创建的模型资产部署为在线推理服务，可供用户直接调用API完成推理业务。 约束限制 如果模型的“任务类型”是“文本问答”或“文本生成”，则支持在线推理。如果模型的“任务类型”是除“文本问答”和“文本生成”之外的类型（即自定义

查看更多 →

建模步骤 创建部署模型。 创建新的部署模型图或者在已有的部署模型图中进行画图设计，如果部署模型场景较多，可根据实际情况将内容进行拆分，按实际部署场景创建多个部署模型图。 建立交付元素与部署元素的部署关系。 从工具箱拖入部署元素创建到部署模型图中，描述部署场景，再将交付模型中定义的打包交付

查看更多 →

部署模型的基础构造型与自定义构造型元素才认定为部署元素）。 在部署模型图上创建出来的部署元素； 引用到部署模型中的部署元素（包含关联空间中的引用的部署元素）； 如何检查 查询部署模型图内元素类型为架构方案配置构造型的所有元素，查询基于模型图构出的部署模型架构树。 正确示例 每个部署元素都有连线关系和上下级关系（包含关系）。

查看更多 →

ModelArts支持将模型部署为哪些类型的服务？ 支持在线服务、批量服务和边缘服务。 父主题： 功能咨询

查看更多 →

自动学习中部署上线是将模型部署为什么类型的服务？ 自动学习中部署上线是将模型部署为在线服务，您可以添加图片或代码进行服务测试，也可以使用URL接口调用。 部署成功后，您也可以在ModelArts管理控制台的“部署上线 > 在线服务”页面中，查看到正在运行的服务。您也可以在此页面停止服务或删除服务。

查看更多 →

部署AI Gallery模型为AI应用 AI Gallery支持将模型部署为AI应用，在线共享给其他用户使用。 前提条件 选择的模型必须是支持部署为AI应用的模型，否则模型详情页没有“部署 > AI应用”选项。 部署AI应用 登录AI Gallery。 单击“模型”进入模型列表。

查看更多 →

自定义镜像 模型部署为在线服务时出现异常 问题现象 在部署在线服务时，部署失败。进入在线服务详情页面，“事件”页签，提示“failed to pull image, retry later”，同时在“日志”页签中，无任何信息。 图1 部署在线服务异常 解决方法 出现此问题现象，通常

查看更多 →

，当订阅模型的版本列表的状态显示为“就绪”时表示模型可以使用。 图4 进入“我的订阅” 步骤3：使用订阅模型部署在线服务 模型订阅成功后，可将此模型部署为在线服务 在“AI应用管理 > AI应用 > 我的订阅”页面，单击资产名称前面的单选按钮，在展开的版本列表中单击“部署 > 在线服务”跳转至部署页面。

查看更多 →

，当订阅模型的版本列表的状态显示为“就绪”时表示模型可以使用。 图4 进入“我的订阅” 步骤3：使用订阅模型部署在线服务 模型订阅成功后，可将此模型部署为在线服务 在“AI应用管理 > AI应用 > 我的订阅”页面，单击资产名称前面的单选按钮，在展开的版本列表中单击“部署 > 在线服务”跳转至部署页面。

查看更多 →

需要您把CV2包制作为自定义镜像，上传至 容器镜像服务 （SWR），选择从容器镜像中导入元模型，部署在线服务。如何制作自定义镜像请参考从0-1制作自定义镜像并创建AI应用。 父主题： 服务部署

查看更多 →

当用户使用自定义引擎时，默认开启动态加载，模型包与镜像分离，在服务部署时动态将模型加载到服务负载。 配置健康检查 大模型场景下导入的AI应用，要求配置健康检查，避免在部署时服务显示已启动但实际不可用。 图3 采用自定义引擎，开启动态加载并配置健康检查示例图 部署在线服务 部署服务时，需满足以下参数配置： 自定义部署超时时间

查看更多 →

订阅免费模型 在AI Gallery中，您可以查找并订阅免费的模型，包括ModelArts模型和HiLens技能。订阅成功的模型可以直接用于ModelArts模型部署和HiLens技能安装。 AI Gallery中分享的模型支持免费订阅，但在使用过程中如果消耗了硬件资源进行部署，管理

查看更多 →

智驾模型管理 智驾模型微调后，需要对模型进行评测，并把模型部署到环境上进行推理，方便用户使用自己的数据训练得到专属模型进行推理，及比对训练效果。 智驾模型 在线服务 父主题： 智驾模型服务

查看更多 →

部署视图 概述 交付模型 部署模型 父主题： 4+1视图建模

查看更多 →

部署上线 自动学习中部署上线是将模型部署为什么类型的服务？ 父主题： 自动学习

查看更多 →

单击界面左下角的“异常检测模型测试”，弹出“异常检测模型测试”代码框，如图3所示。 “是否绘图”请选择“是”，可以通过绘图查看模型的测试验证效果。 图3 异常检测模型测试 单击“异常检测模型测试”代码框左侧的图标。等待模型测试完成。 模型测试打印结果示例，如图4所示。截图仅为模型测试打印结果的一部分，具体以实际打印结果为准。

查看更多 →

对评分最高的模型再创建训练任务是为了在训练结束后，打包该最优模型包。模型训练任务在进行“超参配置”时，去勾选“超参优化”，三个超参值分别配置为此前记录的最优模型的三个对应超参值。 单击菜单栏的“模型训练”。 进入模型训练界面。 单击模型训练任务所在行。 进入模型训练任务详情界面。

查看更多 →

模型管理 模型管理简介 创建模型 模型推理

查看更多 →

测试模型 用测试数据测试模型的泛化能力。训练数据可以是带标签或者不带标签的数据，测试数据一定是带标签的数据，方便评估模型执行效果。 单击“训练模型”左下方的“测试模型”，新增“测试模型”内容。 参数配置均保持默认值。 单击“测试模型”代码框左侧的图标，进行模型评估。 模型测试效果会通过表格的形式在下方展示。

查看更多 →

训练模型 特征和算法确定后，可以开始训练模型。 训练模型 单击“模型选择”左下方的“训练模型”。 新增“训练模型”内容，如图1所示。 图1 训练模型 单击“训练模型”代码框左侧的图标，进行模型训练。 模型训练完成后，界面下方展示模型的评估效果。 第一列内容的含义如下所示： 0：标注为0的所有样本。可以理解为标签。

查看更多 →