模型推理代码编写说明 本章节介绍了在ModelArts中模型推理代码编写的通用方法及说明，针对常用AI引擎的自定义脚本代码示例（包含推理代码示例），请参见自定义脚本代码示例。本文在编写说明下方提供了一个TensorFlow引擎的推理代码示例以及一个在推理脚本中自定义推理逻辑的示例。

查看更多 →

ModelArts训练和推理分别对应哪些功能？ ModelArts训练包括自动学习、训练管理、专属资源池-训练/开发环境功能。 ModelArts推理包括AI应用管理、部署上线功能。 父主题： 一般性问题

查看更多 →

运行第一条Workflow 开发一条Workflow 开发工具 在 AI 开发过程中搭建开发环境、选择AI框架、选择算法、调试代码、安装相应软件或者硬件加速驱动库都不是容易的事情，使得学习 AI 开发上手慢门槛高。为了解决这些问题，ModelArts开发工具Notebook简化了整个开发过程，以降低开发门槛。

查看更多 →

云容器引擎-成长地图 | 华为云 推荐系统 推荐系统（Recommender System），基于华为大数据和人工智能技术，提供推荐平台和算法服务，并帮助企业构建个性化推荐应用，助力提升网站/APP的点击率、留存率和用户体验。 免费体验 图说E CS 售前咨询 立即使用 成长地图 由浅入深，带您玩转RES

查看更多 →

数据标注 自动训练 部署上线 07 AI Gallery使用指南 AI Gallery是一个AI资产共享平台，为高校科研机构、AI应用开发商、解决方案集成商、企业级/个人开发者等群体，提供安全、开放的共享环境。 AI Gallery简介 AI Gallery简介 使用指导 买家（订阅模型、算法或技能）

查看更多 →

开发推理 目前“专家经验注入”是为Gpr数据集定制，如果用户使用Gpr数据集体验KPI异常检测学件的操作流程，可以先执行“专家经验注入”，再执行“开发推理”，那么专家经验会自动转成代码并关联到模型推理函数里面。 “开发推理”用于生成推理代码至推理文件“learnware_predict

查看更多 →

为什么需要云上AI开发 视频介绍 06:30 为什么需要云上AI开发 云上AI开发-调试代码 操作指导 23:43 云上AI开发-Notebook调试代码 云上AI开发-运行训练作业 操作指导 16:08 云上AI开发-运行训练作业 云上AI开发总结 操作指导 02:29 云上AI开发总结

查看更多 →

请参考创建AI应用的 自定义镜像 规范和从0-1制作自定义镜像并创建AI应用，制作自定义镜像。 推荐在开发环境Notebook中调试模型包，制作自定义镜像。请参考在开发环境中构建并调试推理镜像和无需构建直接在开发环境中调试并保存镜像用于推理。 更多的自定义脚本代码示例，请参考自定义脚本代码示例。 模型包里面必须包含“m

查看更多 →

神经网络完成推理过程。 在线推理 在线推理是对每一个推理请求同步给出推理结果的在线服务（Web Service）。 批量推理 批量推理是对批量数据进行推理的批量作业。 Ascend芯片 Ascend芯片是华为设计的高计算力低功耗的AI芯片。 资源池 ModelArts提供的大规模

查看更多 →

描述：描述信息。 单击“确定”，发布在线推理服务。 单击界面左上方的“模型训练”，从下拉框中选择“推理”，进入推理服务菜单页面，该界面展示已发布的所有推理服务。用户可以对推理服务进行查看详情、授权、启动/停止等一系列操作。 ：推理服务发布成功，单击图标可以跳转至推理服务的快速验证界面，用户可在

查看更多 →

请求超时返回Timeout 出现Modelart.XXXX类型的报错，表示请求在Dispatcher出现问题而被拦截。 常见报错： 在线服务预测报错ModelArts.4302 在线服务预测报错ModelArts.4206 在线服务预测报错ModelArts.4503 当使用推理的镜像并且出现MR

查看更多 →

请求报错：{"error_code":"ModelArts.4503","error_msg":"Failed to respond due to backend service not found or failed to respond"} 基于高性能考虑，ModelArts会复用同模型服务的连接。

查看更多 →

迁移测试报告。 推理迁移验收表。 ModelArts开发环境 ModelArts作为华为云上的 AI开发平台 ，提供交互式云上开发环境，包含标准化昇腾算力资源和完整的迁移工具链，帮助用户完成昇腾迁移的调测过程，进一步可在平台上将迁移的模型一键部署成为在线服务向外提供推理服务，或者运行到自己的运行环境中。

查看更多 →

AI应用开发介绍 模型封装是将模型封装成一个AI应用，也称之为AI应用开发。AI应用开发是指将训练好的一个或多个模型编排开发成推理应用以满足具体业务场景下的推理需求，比如视频质量检测、交通拥堵诊断等。AI应用开发在整个AI开发流程的位置大致如图1所示。 图1 AI开发流程 通常为

查看更多 →

使用习惯。 ModelArts的理念就是让AI开发变得更简单、更方便。 面向不同经验的AI开发者，提供便捷易用的使用流程。例如，面向业务开发者，不需关注模型或编码，可使用自动学习流程快速构建AI应用；面向AI初学者，不需关注模型开发，使用预置算法构建AI应用；面向AI工程师，提供

查看更多 →

线上Notebook入口 克隆ModelArts Ascend代码库。 新建Terminal，执行下述命令将对应的repo克隆到Notebook实例。 git clone https://gitee.com/ModelArts/modelarts-ascend.git 图5 下载示例代码 昇腾迁移案

查看更多 →

推理简介 AI模型开发完成后，在ModelArts服务中可以将AI模型创建为AI应用，将AI应用快速部署为推理服务，您可以通过调用API的方式把AI推理能力集成到自己的IT平台。 图1 推理简介 开发模型：模型开发可以在ModelArts服务中进行，也可以在您的本地开发环境进行，

查看更多 →

导入/转换ModelArts开发模型 技能可以抽象地理解为算法模型+逻辑代码。算法模型负责关键的AI推理，逻辑代码负责处理模型推理的结果。因此在HiLens Studio开发技能时，需要将模型导入HiLens Studio。 本章节介绍如何将在ModelArts开发的模型导入HiLens

查看更多 →

华为HiLens和ModelArts的关系 ModelArts是面向AI开发者的一站式开发平台，核心功能是模型训练。华为HiLens偏AI应用开发，并实现端云协同推理和管理。 您可以使用ModelArts训练算法模型，然后在ModelArts或者华为HiLens中转换成华为HiL

查看更多 →

在模型训练工程详情页面上单击“”，进入训练任务配置页面。 硬盘检测模板已经预置训练代码及推理代码，故此处跳过代码文件创建及代码编辑操作。如果是用户手动创建训练项目，不包含推理代码文件，需要完成在训练代码目录中增加推理代码文件，编辑推理代码，在训练代码文件中编辑训练代码等操作。 使用默认配置，单击“开始训练”。 训练

查看更多 →

推理部署 AI应用管理 服务部署 服务预测

查看更多 →