从模板中选择元模型
相同功能的模型配置信息重复率高,将相同功能的配置整合成一个通用的模板,通过使用该模板,可以方便快捷的创建AI应用,而不用编写config.json配置文件。模板的详细说明请参见模型模板简介。
前提条件
- 确保您已按照相应模板的模型包规范要求将模型上传至OBS。
- 确保您使用的OBS与ModelArts在同一区域。
创建AI应用操作步骤
- 登录ModelArts管理控制台,在左侧导航栏中选择“AI应用”,进入AI应用列表页面。
- 单击左上角的“创建应用”,进入“创建应用”页面。
- 在“创建应用”页面,填写相关参数。
- 填写AI应用基本信息,详细参数说明请参见表1。
表1 AI应用基本信息参数说明 参数名称
说明
名称
AI应用名称。支持1~64位可见字符(含中文),名称可以包含字母、中文、数字、中划线、下划线。
版本
设置所创建AI应用的版本。第一次导入时,默认为0.0.1。
说明:AI应用创建完成后,可以通过创建新版本,导入不同的元模型进行调优。
描述
AI应用的简要描述。
- 填写元模型来源及其相关参数。当“元模型来源”选择“从模板中选择”时,其相关的参数配置请参见表2。
图1 从模板中选择元模型
表2 元模型来源参数说明 参数
说明
“模型模板”
从已有的ModelArts模板列表中选择模板。例如,“TensorFlow图像分类模板”。
ModelArts还提供“类型”、“引擎”、“环境”三个筛选条件,帮助您更快找到想要的模板。如果这个三个筛选条件不能满足您的要求,可以使用关键词搜索,找到目标模板。支持的模板请参见支持的模板。
“模型目录”
指定模型存储的OBS路径。请根据您选择的“模型模板”,按照模板的模型输入要求,选择对应的模型存储的OBS路径。
OBS路径不能含有空格,否则创建AI应用会失败。
说明:- 选择加密桶或者加密文件,会导入失败。
- 当训练作业执行多次时,将基于V001、V002等规则生成不同的版本目录,且生成的模型将存储在不同版本目录下的model文件夹。此处选择模型文件时,需指定对应版本目录下的model文件夹。
“动态加载”
用于实现快速部署和快速更新模型。若勾选“动态加载”,则模型文件和运行时依赖仅在实际部署时拉取。单个模型文件大小超过5GB,需要配置“动态加载”。
“输入输出模式”
如果您选择的模板允许覆盖其中的默认输入输出模式,您可以根据AI应用功能或业务场景在“输入输出模式”中,选择相应的输入输出模式。“输入输出模式”是对“config.json”中API(apis)的抽象,描述AI应用对外提供推理的接口。一个“输入输出模式”描述一个或多个API接口,每个模板对应于一个“输入输出模式”。
例如,“TensorFlow图像分类模板”,其支持的“输入输出模式”为“预置图像处理模式”,但该模板不允许修改其中的输入输出模式,所以您在页面上只能看到模板默认的输入输出模式,而不能选择其他模式。
支持的输入输出模式请参见支持的输入输出模式。
“AI应用说明”
为了帮助其他AI应用开发者更好的理解及使用您的AI应用,建议您提供AI应用的说明文档。单击“添加AI应用说明”,设置“文档名称”及其“URL”。AI应用说明支持增加3条。
“部署类型”
选择此AI应用支持部署服务的类型,部署上线时只支持部署为此处选择的部署类型,例如此处只选择在线服务导入后只能部署为在线服务。
- 确认信息填写无误,单击“立即创建”,完成AI应用导入。
在AI应用列表中,您可以查看刚创建的AI应用及其对应的版本。当AI应用状态变更为“正常”时,表示AI应用创建成功。在此页面,您还可以创建新版本、快速部署服务等操作。
- 填写AI应用基本信息,详细参数说明请参见表1。
后续操作
部署服务:在“AI应用列表”中,单击AI应用的操作列的“部署”,在对应版本所在行,单击“操作”列的部署按钮,可以将AI应用部署上线为创建AI应用时所选择的部署类型。