文档首页 > > AI工程师用户指南> 部署模型> 边缘服务> 部署为边缘服务

部署为边缘服务

分享
更新时间:2020/09/02 GMT+08:00

模型准备完成后,您可以将模型部署为边缘服务。在“部署上线>边缘服务”界面,列举了用户所创建的边缘服务。您可以在右上方搜索框中输入服务名称,单击进行查询。边缘服务依赖智能边缘平台(IEF),部署前需要在智能边缘平台上创建边缘节点。

前提条件

  • 数据已完成准备:已在ModelArts中创建状态“正常”可用的模型。
  • 已在智能边缘平台上创建边缘节点。如果您未创建边缘节点,具体操作请参见创建边缘节点
  • 由于在线运行需消耗资源,确保账户未欠费。

背景信息

  • 边缘服务目前还处于限时免费阶段,运行中的边缘服务,并不会产生费用。
  • 用户最多可创建1000个边缘服务。

操作步骤

  1. 登录ModelArts管理控制台,在左侧导航栏中选择“部署上线>边缘服务”,默认进入“边缘服务”列表。
  2. 在边缘服务列表中,单击左上角“部署”,进入“部署”页面。
  3. 在部署页面,填写边缘服务相关参数,然后单击下一步。
    1. 填写基本信息。基本信息包含“名称”“描述”。其中“名称”默认生成。例如:service-bc0d,您也可以根据实际情况填写“名称”“描述”信息。
    2. 填写服务参数。包含资源池、模型配置等关键信息,详情请参见表1
      表1 参数说明

      参数名称

      说明

      “选择模型及配置”

      选择状态“正常”的模型及版本。

      “计算节点规格”

      支持如下几种规格。

      • “CPU:2核 8GiB”:适合纯CPU类型的负载运行的模型。
      • “CPU:2核 8GiB GPU:1*P4”:适合CPU+GPU类型模型的运行,带有1个Nvidia P4卡。
      • “自定义规格”,如果选择自定义规格,可以在参数下方设置您所需的“CPU”“内存配额”“GPU”“Ascend”。其中,“GPU”“Ascend”只能二选一。

      “环境变量”

      设置环境变量,注入环境变量到容器实例。

      “选择边缘节点”

      边缘节点是您自己的边缘计算设备,用于运行边缘应用,处理您的数据,并安全、便捷地和云端应用进行协同。

      单击选择边缘节点“添加”,在弹出的“添加节点”对话框中选择节点。选择您已创建的节点后,单击“确定”

  4. 完成参数填写后,单击“立即创建”,完成边缘服务的部署。部署服务一般需要运行一段时间,根据您选择的数据量和资源不同,部署时间将耗时几分钟到几十分钟不等。

    您可以前往边缘服务列表,查看边缘服务的基本情况。在边缘服务列表中,刚部署的服务“状态”“部署中”,当边缘服务的“状态”变为“运行中”时,表示服务部署完成。

分享:

    相关文档

    相关产品

文档是否有解决您的问题?

提交成功!

非常感谢您的反馈,我们会继续努力做到更好!

反馈提交失败,请稍后再试!

*必选

请至少选择或填写一项反馈信息

字符长度不能超过200

提交反馈 取消

如您有其它疑问,您也可以通过华为云社区问答频道来与我们联系探讨

智能客服提问云社区提问