Lite详细介绍可参考MindSpore Lite文档。在使用MindSpore Lite过程中遇到问题时，可参考MindSpore Lite官网提供的问题定位指南进行问题定位。 迁移路线介绍 当前推理迁移时，不同的模型类型可能会采取不同的迁移技术路线。主要分为以下几类： 1. CV类小模型例如yolov5，

查看更多 →

文档以Agent Lite Android Demo为例，指导开发者使用Agent Lite SDK中的接口，实现“直连设备登录”、“数据上报”和“命令下发”等功能。 开发者可以基于Agent Lite Android Demo开发，也可参考Agent Lite Android Demo，自行集成Agent

查看更多 →

绑定配置 接口功能 配置Agent Lite相关参数。 接口描述 1 2 HW_INT IOTA_ConfigSetStr(HW_INT iItem, HW_CHAR *pValue) HW_INT IOTA_ConfigSetUint(HW_INT iItem, HW_UINT

查看更多 →

（可选）配置镜像预热 Lite Cluster资源池支持镜像预热功能，镜像预热可实现将镜像提前在资源池节点上拉取好，在推理及大规模分布式训练时有效缩短镜像拉取时间。本文将介绍如何配置镜像预热功能。 操作步骤 在ModelArts控制台左侧导航栏中找到“资源管理 > AI专属资源池

查看更多 →

Lite以SDK的形式嵌入第三方软件中。本文档以Agent Lite Java Demo为例，指导开发者使用Agent Lite SDK中的接口，实现“直连设备登录”、“数据上报”和“命令下发”等功能。 开发者可以基于Agent Lite Java Demo开发，也可参考Agent Lite Java Demo，自行集成Agent

查看更多 →

配额项说明 使用ModelArts Lite Cluster或Lite Server时，所需的E CS 实例数、内存大小、CPU核数和EVS硬盘大小等等资源会超出华为云默认提供的资源配额，因此需要申请扩大配额。具体配额项如下。 表1 ModelArts Lite涉及的资源配额 服务 资源类型

查看更多 →

NPU推理指导（6.3.910） 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.910） 主流开源大模型基于Lite Cluster适配PyTorch NPU推理指导（6.3.910） 主流开源大模型基于DevServer适配ModelLink PyTorch

查看更多 →

deepseek-v2-lite-16b √ x √ x x https://huggingface.co/deepseek-ai/DeepSeek-V2-Lite 各模型支持的卡数请参见附录：基于vLLM不同模型推理支持最小卡数和最大序列说明章节。 父主题： 主流开源大模型基于Lite Cluster适配PyTorch

查看更多 →

华为云帮助中心，为用户提供产品简介、价格说明、购买指南、用户指南、API参考、最佳实践、常见问题、视频帮助等技术文档，帮助您快速上手使用华为云服务。

查看更多 →

请参见Agent Lite SDK 使用指南（C）、Agent Lite SDK 使用指南（JAVA）、Agent Lite SDK 使用指南（Android）。 如果设备是网关，网关下有子设备，则当网关接入物联网平台后，用户在网关上通过调用Agent Lite的“添加非直连设备”接口，完成子设备的接入。

查看更多 →

广播机制 Agent Lite提供了一套广播机制给第三方开发者，用来接收Agent Lite上报的消息。 订阅广播 1 HW_BroadCastReg(HW_CHAR *pcTopic ,PFN_HW_BROADCAST_RECV pfnReceiver); 广播接收处理函数原型：

查看更多 →

分布式训练时，则需要用户购买可挂载的存储硬盘资源，以实现多机共同访问同一存储硬盘资源。ModelArts Lite DevServer 支持配置的存储方案请参考配置Lite Server存储。其中访问方式中，可支持在 裸金属服务器 中挂载的有弹性文件服务SFS和云硬盘EVS。 父主题：

查看更多 →

pore Lite模型，运行得到的结果再与标杆数据做对比，如果没有差异则说明pipeline的差异不是由当前替换的MindSpore Lite模型引入。 如果有差异，则说明当前模型与原始onnx的结果存在差异。依次单独替换onnx模型为对应的MindSpore Lite模型，从而

查看更多 →

分布式训练时，则需要用户购买可挂载的存储硬盘资源，以实现多机共同访问同一存储硬盘资源。ModelArts Lite DevServer 支持配置的存储方案请参考配置Lite Server存储。其中访问方式中，可支持在裸金属 服务器 中挂载的有弹性文件服务SFS和云硬盘EVS。 父主题：

查看更多 →

分布式训练时，则需要用户购买可挂载的存储硬盘资源，以实现多机共同访问同一存储硬盘资源。ModelArts Lite DevServer 支持配置的存储方案请参考配置Lite Server存储。其中访问方式中，可支持在裸金属服务器中挂载的有弹性文件服务SFS和云硬盘EVS。 父主题：

查看更多 →

https://www.mindspore.cn/lite/docs/zh-CN/r2.3.0/use/cloud_infer/converter_tool_ascend.html 使用如下转换命令： converter_lite --fmk=ONNX --modelFile=bert_model

查看更多 →

Torch NPU推理指导（6.3.906） SDXL&SD1.5 ComfyUI基于Lite Cluster适配NPU推理指导（6.3.906） SDXL&SD1.5 WebUI基于Lite Cluster适配NPU推理指导（6.3.906） LLaVA模型基于DevServer适配PyTorch

查看更多 →

观察者模式 Java版本Agent Lite采用了观察者模式，用来实现Agent Lite上报的消息。 第三方通过实现Agent Lite提供的public void update (IotaMessage arg0)接口来接收数据。 通过registerObserver(MyObserver

查看更多 →

NB-IoT Compatible 使用NB-IoT通信技术的设备 测试指导请参考OpenLab现场测试。 Agent Lite Compatible 集成Agent Lite SDK的设备 Agent Tiny Compatible 集成LiteOS SDK的设备 如需申请技术认证请联

查看更多 →

模型适配 基于MindSpore Lite的模型转换 动态shape 父主题： GPU推理业务迁移至昇腾的通用指导

查看更多 →

准备工作 准备环境 准备代码 准备镜像 父主题： 主流开源大模型基于Lite Cluster适配PyTorch NPU推理指导（6.3.910）

查看更多 →