准备Notebook ModelArts Notebook云上云下，无缝协同，更多关于ModelArts Notebook的详细资料请查看开发环境介绍。本案例中使用ModelArts的开发环境Notebook部署推理服务进行调试，请按照以下步骤完成Notebook的创建。 登录M

查看更多 →

Matrix框架提供AIModelManager类，实现模型加载和推理功能，详情请参考《Matrix API参考》。Matrix框架定义IAITensor类，用于管理模型推理的输入与输出矩阵。为了便于使用，Matrix框架基于IAITensor，派生出了AISimpleTensor和AINeuralNetworkBuffer。模型推理的输

查看更多 →

Matrix框架提供AIModelManager类，实现模型加载和推理功能，详情请参考《Matrix API参考》。Matrix框架定义IAITensor类，用于管理模型推理的输入与输出矩阵。为了便于使用，Matrix框架基于IAITensor，派生出了AISimpleTensor和AINeuralNetworkBuffer。模型推理的输

查看更多 →

部署到推理调试 在开发环境容器内调试完成后，开发者可以将自己开发好的AI应用和ModelBox runtime镜像打包成新的运行镜像，并发布到ModelArts推理服务，直接测试部署的服务并查看日志，以确保开发好的AI应用可以在ModelArts推理平台正常运行。具体调试步骤如下：

查看更多 →

查询推理服务标签 功能介绍 查询当前项目下的推理服务标签，默认查询所有工作空间，无权限不返回标签数据。 调试 您可以在 API Explorer 中调试该接口，支持自动认证鉴权。API Explorer可以自动生成SDK代码示例，并提供SDK代码示例调试功能。 URI GET /v1

查看更多 →

推理部署计费项 计费说明 在ModelArts进行服务部署时，会产生计算资源和存储资源的累计值计费。计算资源为运行推理服务的费用。存储资源包括数据存储到OBS的计费。具体内容如表1所示。 表1 计费项 计费项 计费项说明 适用的计费模式 计费公式 计算资源 公共资源池 使用计算资源的用量。

查看更多 →

推理服务访问公网 本章节提供了推理服务访问公网的方法。 应用场景 推理服务访问公网地址的场景，如： 输入图片，先进行公网OCR服务调用，然后进行NLP处理； 进行公网文件下载，然后进行分析； 分析结果回调给公网服务终端。 方案设计 从推理服务的算法实例内部，访问公网服务地址的方案。如下图所示：

查看更多 →

s将Ascend 310芯片的计算加速能力在云平台上开放出来，方便用户快速简捷地使用Ascend 310芯片强大的处理能力。 鲲鹏AI推理加速型实例kAi1s基于Atlas 300I加速卡设计，更多详细信息请参考昇腾社区。 鲲鹏AI推理加速型 云服务器 可用于机器视觉、 语音识别 、自然

查看更多 →

IoT边缘（IoTEdge）聚焦现场边缘，通过多引擎架构实现云边端协同，加速企业应用创新。IoT边缘平台作为云边协同管理平台，提供统一边缘管理中心和云边端协同引擎，支持纳管Kubernetes边缘集群与监控运维异构的边缘基础设施，为您提供低成本、本地自闭环、边缘智能、云边协同的软硬一体化方案。

查看更多 →

IoT边缘 IoTEdge 创建IoT边缘节点 0:59 创建IoT边缘节点 IoT边缘 IoT Edge 边缘应用管理 01:18 边缘应用管理 IoT边缘 IoTEdge 边缘数据采集 01:18 边缘数据采集 IoT边缘 IoTEdge 边缘数据转发 01:14 边缘数据转发

查看更多 →

激活设备（购买端云协同AI运行服务） 注册设备后，需购买HiLens端云协同AI运行服务，并在设备管理页面对设备进行权限激活，该设备方能部署技能。 注册的第一台设备不需要购买HiLens端云协同AI运行服务，也不需要激活权限，可直接安装基础技能至该台设备上。 激活方式 激活需购买

查看更多 →

华为HiLens和ModelArts的关系 ModelArts是面向AI开发者的一站式开发平台，核心功能是模型训练。华为HiLens偏AI应用开发，并实现端云协同推理和管理。 您可以使用ModelArts训练算法模型，然后在ModelArts或者华为HiLens中转换成华为HiLens支持的“om”格

查看更多 →

如下图所示，IEF通过纳管您的边缘节点，将云上应用延伸到边缘，可以实时处理终端设备的数据，同时在云端提供设备/应用监控、日志采集等功能，以及边云消息通道功能用于边缘上传数据到云端或者数据从云端发到边缘。提供完整的边云协同的解决方案。 图1 边缘云计算 首先使用IEF进行边缘节点注册，以及摄像

查看更多 →

IEF与IoT边缘有什么区别？ IEF为用户提供完整的边缘和云协同的一体化服务，拥有强大的应用管理、边云协同能力，能够统一从云端下发应用到边缘，帮助用户在云端统一对边缘应用进行管理、监控和运维。 IoT边缘主要是边缘的终端设备管理，拥有强大的多终端设备多协议接入能力，且提供边缘数据清洗功能，在边缘清洗数据。

查看更多 →

准实时推理场景 本章节介绍什么是准实时推理场景，以及如何使用GPU按量实例和如何基于GPU按量实例构建使用成本较低的准实时推理服务。 特征 在准实时推理应用场景中，工作负载具有以下一个或多个特征： 调用稀疏 日均调用几次到几万次，日均GPU实际使用时长远低于6~10小时，GPU存在大量闲置。

查看更多 →

推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.906）

查看更多 →

人类社会将进入智能社会，万物感知、万物互联和万物智能已成为必然的趋势。从智能汽车发展看，高端汽车已经装备20多个摄像头和传感器，已经初步实现了智能化和网联化，预计2025年全球有超过7400万辆智能汽车联网。从交通的发展看，随着经济和社会快速发展，交通进入一个快速发展阶段，人、车、路的协调，已经成为了交通建设和管理部门需要解决的首要问题。

查看更多 →

协同下游项目配置 该操作提供研发需求协同下游项目的配置。 操作步骤 进入项目，单击“设置 > 工作配置 > 协同下游项目配置”。 单击“添加协同下游项目”，弹出“添加协同下游项目”窗口。 搜索并选中要添加的项目。 单击“添加”，添加成功。 添加成功后，在“研发需求”中执行需求协同

查看更多 →

缺陷跨组织高效协同 大型产品开发往往涉及到多个团队、多个模块，彼此互相依赖，其中一环存在的缺陷，可能导致整个产品的失败。基于大型企业跨部门协作开发理念与实践，CodeArts Defect提供跨项目、跨团队的缺陷提单与跟踪，实现精确高效协同，加速缺陷闭环。 支持将缺陷下发至其他项目，缺陷跨组织协同效果图如下：

查看更多 →

确认用户，订阅费用，单击“确认”，跳转至“云服务订单”页面。 检查“云订单服务”和“所需支付费用”。 选择以下支付方式： 余额支付 在线支付，支持多种平台在线支付方式。 选定支付方式并成功付款后，订阅完成。 父主题： 用户管理

查看更多 →

IoT边缘（IoTEdge）聚焦现场边缘，通过多引擎架构实现云边端协同，加速企业应用创新。IoTEdge作为云边协同管理平台，提供统一边缘管理中心和云边端协同引擎，支持纳管Kubernetes边缘集群与监控运维异构的边缘基础设施。 IoT边缘是一组软件产品和服务，软件包含云侧和边

查看更多 →