更新时间:2024-04-11 GMT+08:00
分享

托管模型资产

创建模型资产

  1. 登录AI Gallery,单击右上角“我的Gallery”进入我的Gallery页面
  2. 单击左上方“创建资产”,选择“模型”
  3. “创建模型”弹窗中配置参数,单击“创建”。
    表1 创建模型

    参数名称

    说明

    模型英文名称

    必填项,模型的英文名称。

    如果没有填写“模型中文名称”,则资产发布后,在模型页签上会显示该“模型英文名称”

    模型中文名称

    模型的中文名称。

    如果填写了“模型中文名称”,则资产发布后,在模型页签上会显示该“模型中文名称”

    许可证

    模型资产遵循的使用协议,根据业务需求选择合适的许可证类型。

    描述

    填写资产简介,模型发布后将作为副标题显示在模型页签上,方便用户快速了解资产。

    支持0~90个字符,请勿在描述中输入涉政、迷信、违禁等相关敏感词,否则发布审核无法通过。

    创建完成后,跳转至模型详情页。

上传模型文件

  1. 在模型详情页,选择“模型文件”页签。
  2. 单击“添加文件”,进入上传文件页面,选择本地的数据文件单击“点击上传”或拖动文件,单击“确认上传”启动上传。
    • 上传单个超过5GB的文件时,请使用Gallery CLI工具。CLI工具的获取和使用请参见Gallery CLI配置工具介绍
    • 文件合集大小不超过50GB。
    • 文件上传完成前,请不要刷新或关闭上传页面,防止意外终止上传任务,导致数据缺失。
    • 当模型的“任务类型”是除“文本问答”“文本生成”之外的类型(即自定义模型)时,上传的模型文件要满足自定义模型规范,否则该模型无法正常使用AI Gallery工具链服务(微调大师和在线推理服务)。
    • 当托管的是自定义镜像时,上传的模型文件要满足自定义镜像规范,否则该镜像无法正常使用AI Gallery工具链服务(微调大师和在线推理服务)。
  3. 当文件状态变成“上传成功”表示数据文件成功上传至AI Gallery仓库进行托管。单击“完成”返回模型文件页面。
    图1 上传成功

    文件上传过程中请耐心等待,不要关闭当前上传页面,关闭页面会中断上传进程。

编辑模型介绍

资产发布上架后,准确、完整的资产介绍有助于提升资产的排序位置和访问量,能更好的支撑用户使用该资产。

  1. 在模型详情页,选择“模型介绍”页签,单击右侧“编辑”。
  2. 编辑模型基础设置和模型描述。
    表2 模型介绍的参数说明

    参数名称

    说明

    基础设置

    模型名称

    显示模型的名称,不可编辑。

    许可证

    模型遵循的使用许可协议,根据业务需求选择合适的许可证类型。

    语言

    选择使用模型时支持的输入输出语言。

    框架

    选择构建模型使用的AI开发框架。

    任务类型

    选择模型支持的任务类型,不同任务类型支持的AI Gallery工具链服务请参见表3

    • 文本问答:从给定文本中检索问题的答案,适用于从文档中搜索答案的场景。
    • 文本生成:基于给定文本进行续写,生成新的文本。
    • 其他类型:基于实际场景选择合适的任务类型。
    说明:

    如果模型的“任务类型”是除“文本问答”“文本生成”之外的类型,则被定义为自定义模型。自定义模型必须要满足自定义模型规范,才支持使用AI Gallery工具链服务。

    硬件资源

    选择支持运行该模型的硬件类型。

    最低可运行规格

    设置能够运行该模型的最低计算规格。在AI Gallery工具链服务中使用该模型时,只能选取等同或高于该规格的算力资源进行任务下发。

    是否支持分布式训练/推理

    选择该模型资产是否支持在单机多卡的资源节点上进行并行训练或推理。

    README.md

    -

    资产的README内容,支持添加资产的简介、使用场景、使用方法等信息。

    当托管的是自定义镜像时,填写的内容要满足自定义镜像规范,否则该镜像无法正常使用AI Gallery工具链服务(微调大师和在线推理服务)。

    说明:

    建议写清楚模型的使用方法,方便使用者更好的完成训练、推理任务。

    表3 任务类型支持的AI Gallery工具链服务

    任务类型

    微调大师

    在线推理服务

    AI应用

    文本问答/文本生成

    支持

    支持

    支持

    其他类型

    支持

    支持

    不支持

  3. 编辑完成后,单击“确认”保存修改。

管理模型文件

  • 预览文件

    在模型详情页,选择“模型文件”页签。单击文件名称即可在线预览文件内容。

    仅支持预览大小不超过10MB、格式为文本类或图片类的文件。

  • 下载文件

    在模型详情页,选择“模型文件”页签。单击操作列的“下载”,即可下载文件到本地。

  • 删除文件

    在模型详情页,选择“模型文件”页签。单击操作列的“删除”,确认后即可将已经托管的文件从AI Gallery仓库中删除。

    文件删除后不可恢复,请谨慎操作。

分享:

    相关文档

    相关产品