更新时间:2024-05-07 GMT+08:00
分享

创建及管理模型

用户通过微调平台预置的模型生成微调的模型后,可进行部署、修改、删除的管理操作;对于我收藏的平台预置模型,也可进行体验、设置鉴权等。

创建模型

  1. 在AI原生应用引擎工作台的左侧导航栏选择“模型中心 > 模型管理”。
  2. 在“模型管理”页面,单击“创建模型”。
  3. 在“创建模型”页面,参照表1配置模型相关参数。

    表1 模型配置参数说明

    参数名称

    参数说明

    模型名称

    支持中英文、数字、中划线(-)、下划线(_)、点(.),2~64个字符,仅支持中英文开头。

    模型类型

    可选模型类型包括:文本对话、文本向量化、文本生图、图像理解、语音识别。

    模型参数量

    模型参数的数量。计量单位可选以下两种:

    B:表示Billion,即十亿。

    M:表示Million,即一百万。

    上下文长度

    “模型类型”选择“文本对话”时,需配置此参数。

    对话文本输入和输出的总长度。

    标签(可选)

    用来描述或标记模型的关键词或短语,帮助用户快速地找到相关的模型信息或资源。

    模型描述(可选)

    自定义模型相关描述信息。

  4. 单击“创建模型”,新创建的模型显示在模型列表中。

管理我创建的模型

  1. 在AI原生应用引擎工作台的左侧导航栏选择“模型中心 > 模型管理”。
  2. 在“模型管理 > 我创建的”页面的模型列表中,可进行如表2所示模型管理相关操作。

    表2 管理我微调的模型

    操作

    说明

    自建服务接入

    1. 在模型列表“操作”列单击“修改”。
    2. 在“创建推理服务”页面,配置基础信息参数,包括服务名称、服务描述(可选)。
      • 服务名称:自定义模型名称,支持中文、英文、数字、下划线(_),2-20个字符以内,不能以下划线为开头。
      • 服务描述(可选):用户自定义的服务相关描述。
    3. 参照表2设置配置信息参数。

    修改模型

    1. 在模型列表“操作”列单击“修改”。
    2. 在“编辑模型”页面,修改模型以下参数配置:
      • 模型名称:模型的命名,支持中英文、数字、下划线(_),2-64个字符,不能以下划线为开头,数字开头。
      • 模型类型:默认为“大语言模型”,无需配置。
      • 模型版本:设置模型版本,格式为:模型名称-参数规模-类型。示例:model-14b-chat
      • 标签:标签是用来描述或标记模型的关键词或短语,帮助用户快速地找到相关的模型信息或资源。
      • 模型描述(可选):输入模型相关描述信息。
    3. 单击“保存”。

    删除模型

    1. 在模型列表“操作”列单击“删除”。
    2. 单击“确认”。

    部署模型

    1. 在模型列表“操作”列单击“部署”,进入“创建推理服务”页面。
    2. 参照创建推理服务的步骤,完成模型服务的创建。

管理我收藏的模型

  1. 在AI原生应用引擎工作台的左侧导航栏选择“模型中心 > 模型管理”。
  2. 在“模型管理 > 我收藏的”页面的模型列表中,可进行如表3所示操作。

    表3 管理我收藏的模型

    操作

    说明

    部署模型

    1. 在模型列表中,鼠标移至模型卡片单击“部署”,进入“创建推理服务”页面。
    2. 参照创建模型服务完成模型部署。

    设置鉴权

    在模型列表中,鼠标移至模型卡片单击“设置鉴权”,弹出“设置鉴权信息”对话框。
    • 如果未设置API Key,在“设置鉴权信息”对话框输入API Key,单击“保存”。
    • 如果已设置API Key,在“设置鉴权信息”对话框单击“移除”可清除已存在的API Key;鼠标移至模型卡片再次单击“设置鉴权”,在“设置鉴权信息”对话框重新输入API Key,单击“保存”即可。

    调优模型

    1. 在模型列表中,鼠标移至模型卡片单击“调优”,进入“创建微调任务”页面。
    2. 参照创建模型微调流水线进行操作生成调优后的新模型。

分享:

    相关文档

    相关产品