更新时间:2024-05-07 GMT+08:00
创建及管理模型
用户通过微调平台预置的模型生成微调的模型后,可进行部署、修改、删除的管理操作;对于我收藏的平台预置模型,也可进行体验、设置鉴权等。
创建模型
- 在AI原生应用引擎工作台的左侧导航栏选择“模型中心 > 模型管理”。
- 在“模型管理”页面,单击“创建模型”。
- 在“创建模型”页面,参照表1配置模型相关参数。
- 单击“创建模型”,新创建的模型显示在模型列表中。
管理我创建的模型
- 在AI原生应用引擎工作台的左侧导航栏选择“模型中心 > 模型管理”。
- 在“模型管理 > 我创建的”页面的模型列表中,可进行如表2所示模型管理相关操作。
表2 管理我微调的模型 操作
说明
自建服务接入
- 在模型列表“操作”列单击“修改”。
- 在“创建推理服务”页面,配置基础信息参数,包括服务名称、服务描述(可选)。
- 服务名称:自定义模型名称,支持中文、英文、数字、下划线(_),2-20个字符以内,不能以下划线为开头。
- 服务描述(可选):用户自定义的服务相关描述。
- 参照表2设置配置信息参数。
修改模型
- 在模型列表“操作”列单击“修改”。
- 在“编辑模型”页面,修改模型以下参数配置:
- 模型名称:模型的命名,支持中英文、数字、下划线(_),2-64个字符,不能以下划线为开头,数字开头。
- 模型类型:默认为“大语言模型”,无需配置。
- 模型版本:设置模型版本,格式为:模型名称-参数规模-类型。示例:model-14b-chat
- 标签:标签是用来描述或标记模型的关键词或短语,帮助用户快速地找到相关的模型信息或资源。
- 模型描述(可选):输入模型相关描述信息。
- 单击“保存”。
删除模型
- 在模型列表“操作”列单击“删除”。
- 单击“确认”。
部署模型
- 在模型列表“操作”列单击“部署”,进入“创建推理服务”页面。
- 参照创建推理服务的步骤,完成模型服务的创建。
管理我收藏的模型
- 在AI原生应用引擎工作台的左侧导航栏选择“模型中心 > 模型管理”。
- 在“模型管理 > 我收藏的”页面的模型列表中,可进行如表3所示操作。
表3 管理我收藏的模型 操作
说明
部署模型
- 在模型列表中,鼠标移至模型卡片单击“部署”,进入“创建推理服务”页面。
- 参照创建模型服务完成模型部署。
设置鉴权
在模型列表中,鼠标移至模型卡片单击“设置鉴权”,弹出“设置鉴权信息”对话框。- 如果未设置API Key,在“设置鉴权信息”对话框输入API Key,单击“保存”。
- 如果已设置API Key,在“设置鉴权信息”对话框单击“移除”可清除已存在的API Key;鼠标移至模型卡片再次单击“设置鉴权”,在“设置鉴权信息”对话框重新输入API Key,单击“保存”即可。
调优模型
- 在模型列表中,鼠标移至模型卡片单击“调优”,进入“创建微调任务”页面。
- 参照创建模型微调流水线进行操作生成调优后的新模型。
父主题: 模型中心