更新时间:2022-03-30 GMT+08:00
分享

AI应用开发介绍

模型封装是将模型封装成一个AI应用,也称之为AI应用开发。AI应用开发是指将训练好的一个或多个模型编排开发成推理应用以满足具体业务场景下的推理需求,比如视频质量检测、交通拥堵诊断等。AI应用开发在整个AI开发流程的位置大致如图1所示。

图1 AI开发流程

通常为了降低开发难度、提升AI应用的性能,开发者会基于深度学习推理框架开发AI应用,例如Google开源的MediaPipe、腾讯开源的TNN等。ModelArts提供了基于华为云ModelBox推理框架的开发环境,它具备如下优点:

  • 提供开箱即用的云上AI应用开发环境,预置高性能推理框架ModelBox、GPU/NPU推理加速卡、以及TensorRT、LibTorch、MindSpore等AI引擎。
  • 提供Visual Studio Code(简称VSCode)插件,方便开发者在本地连接云端环境远程开发。
  • 提供应用工程模板和样例,方便开发者快速了解AI应用开发,降低开发上手难度。
  • 提供脚手架命令行工具和VSCode图形化命令,方便开发者进行AI应用开发、构建、本地调试以及真实业务调试。
  • 和ModelArts推理对接,开发好的AI应用可以直接发布至ModelArts的AI应用管理模块。

AI应用开发流程

AI应用开发的流程主要包括以下几个步骤:

  1. 准备开发环境

    使用华为云账号创建云上的AI应用开发环境,并使用本地VSCode插件进行远程连接。

  2. 创建并运行第一个应用

    开发环境提供云上的ModelArts VSCode插件,可以通过插件创建一个应用工程,该工程包含一个可以直接运行的应用样例。开发者可以通过查看工程结构、运行样例,初步了解应用工程组成及运行方法。

  3. 应用开发、调试

    开发者可以参考当前的工程样例开发自己的AI应用,并在当前环境中进行代码调试、包括使用环境内的测试文件调试,以及接入云上真实业务数据的调试。当进行AI应用开发时,开发者需要学习ModelBox框架的相关概念和接口,以便基于框架开发出更高性能的AI应用。

  4. 将应用发布到ModelArts模型管理

    开发好的AI应用可以发布到ModelArts推理的AI应用管理,用户可以进一步在推理控制台界面上执行生产部署等操作。

分享:

    相关文档

    相关产品

close