华为HiLens和ModelArts的关系 ModelArts是面向AI开发者的一站式开发平台，核心功能是模型训练。华为HiLens偏AI应用开发，并实现端云协同推理和管理。 您可以使用ModelArts训练算法模型，然后在ModelArts或者华为HiLens中转换成华为HiL

查看更多 →

迁移测试报告。 推理迁移验收表。 ModelArts开发环境 ModelArts作为华为云上的 AI开发平台 ，提供交互式云上开发环境，包含标准化昇腾算力资源和完整的迁移工具链，帮助用户完成昇腾迁移的调测过程，进一步可在平台上将迁移的模型一键部署成为在线服务向外提供推理服务，或者运行到自己的运行环境中。

查看更多 →

如果使用容器命令行方式构建，参考命令为docker commit {container-id} new_image:1.0 本地镜像构建完成后，需要将镜像上传到八爪鱼平台镜像仓库。 推理服务 推理服务镜像同训练任务镜像一样，必须内置一个用户名为“ma-user”，组名为“ma-group”的普

查看更多 →

署。 ModelArts Standard同时提供了自动学习功能，帮助用户零代码构建AI模型，详细介绍请参见使用ModelArts Standard自动学习实现垃圾分类。 面向AI工程师，熟悉代码编写和调测，您可以使用ModelArts Standard提供的在线代码开发环境，编写训练代码进行AI模型的开发。

查看更多 →

com/ModelArts/modelarts-ascend.git 图1 下载示例代码 昇腾迁移案例在“~/work/modelarts-ascend/notebooks/”路径下，打开对应的“.ipynb”案例后运行即可。 ResNet50模型迁移到Ascend上进行推理：通过使用MindSpore

查看更多 →

ModelArts Train 功能 通过编排ModelArts Train算子，实现在 DataArts Studio 中调度ModelArts工作流。 前提条件 已在ModelArts平台中完成工作空间的创建，具体请参考创建工作空间。 已在ModelArts平台中完成工作流的创建，具体请参考创建工作流。

查看更多 →

运行第一条Workflow 开发一条Workflow 开发工具 在 AI 开发过程中搭建开发环境、选择AI框架、选择算法、调试代码、安装相应软件或者硬件加速驱动库都不是容易的事情，使得学习 AI 开发上手慢门槛高。为了解决这些问题，ModelArts开发工具Notebook简化了整个开发过程，以降低开发门槛。

查看更多 →

使用VPC直连的高速访问通道，用户的业务请求不需要经过推理平台，而是直接经VPC对等连接发送到实例处理，访问速度更快。 由于请求不经过推理平台，所以会丢失以下功能： 认证鉴权 流量按配置分发 负载均衡 告警、监控和统计 图1 VPC直连的高速访问通道示意图 约束限制 调用API访问在线服务时，对预测请求体大小和预测时间有限制：

查看更多 →

Lite Server适配MindIE推理部署指导 BF16推理、Int8量化推理 介绍DeepSeek R1和DeepSeek V3模型基于ModelArts Lite Server的推理部署过程，推理使用MindeIE框架和昇腾NPU计算资源。 LLM大语言模型训练推理场景 样例

查看更多 →

初识ModelArts 父主题： 图解ModelArts

查看更多 →

推理服务测试 推理服务在线测试支持文件、图片、json三种格式。通过部署为在线服务Predictor可以完成在线推理预测。 示例代码 在ModelArts notebook平台，Session鉴权无需输入鉴权参数。其它平台的Session鉴权请参见Session鉴权。 场景：部署在线服务Predictor的推理预测

查看更多 →

推理部署使用场景 AI模型开发完成后，在ModelArts服务中可以将AI模型创建为模型，将模型快速部署为推理服务，您可以通过调用API的方式把AI推理能力集成到自己的IT平台，或者批量生成推理结果。 图1 推理简介 训练模型：可以在ModelArts服务中进行，也可以在您的本地

查看更多 →

下载好模型后，需要编写推理脚本。为了便于操作，本指导中所需的代码已发布在ModelArts代码仓，可以使用如下命令下载推理脚本样例代码： cd /home_host/work git clone https://gitee.com/ModelArts/modelarts-ascend.git

查看更多 →

ModelArts与ModelArts Pro的区别 ModelArts是一站式AI开发管理平台，提供领先算法技术，保证AI应用开发的高效和推理结果的准确，同时减少人力投入。ModelArts致力于底层模型专业开发、调参等。 ModelArts Pro根据预置工作流生成指定场景模

查看更多 →

在推理生产环境中部署推理服务 本章节介绍如何在ModelArts的推理生产环境（ModelArts控制台的在线服务功能）中部署推理服务。 Step1 准备模型文件和权重文件 在OBS桶中，创建文件夹，准备ascend_vllm代码包、模型权重文件、推理启动脚本run_vllm.s

查看更多 →

Step9 构建推理代码 提前在E CS 中构建推理代码，用于后续在推理生产环境中部署推理服务。 执行GIT安装命令。 sudo yum update sudo yum install git 解压AscendCloud-3rdLLM-6.3.905-xxx.zip代码包。 unzip

查看更多 →

def train(args, model, device, train_loader, optimizer, epoch): model.train() for batch_idx, (data, target) in enumerate(train_loader):

查看更多 →

（可选）安全组，默认为空 transformer = model_instance.deploy_transformer( service_name="service_transformer_name", infer_type="batch",

查看更多 →

ime。 示例代码 在ModelArts notebook平台，Session鉴权无需输入鉴权参数。其它平台的Session鉴权请参见Session鉴权。 TensorFlow1.8本地推理示例代码 需要在环境中配置“tensorflow_model_server”，可调用SDK接口快速配置，请参考如下示例代码。

查看更多 →

DeepSeek模型基于ModelArts Lite Server适配MindIE推理部署指导 方案概述 准备权重 Lite Server部署推理服务 附录：rank_table_file.json文件 附录：config.json文件 父主题： DeepSeek系列模型推理

查看更多 →

按需（时长）计费、包年/包月 训练资源 ModelArts Studio-训练单元 按需（时长）计费、包年/包月 推理资源 ModelArts Studio-推理单元（NLP、多模态、专业） 包年/包月 ModelArts Studio-推理单元（CV） 包年/包月 ModelArts Studio-模型实例（预测）

查看更多 →