# 在每个实例节点上运行此命令可以看到NPU卡状态 npu-smi info -l | grep Total # 在每个实例节点上运行此命令可以看到总卡数 如出现错误，可能是机器上的NPU设备没有正常安装，或者NPU镜像被其他容器挂载。请先正常安装NPU设备和驱动，或释放被挂载的NPU。

查看更多 →

基础版：原轻量版，部署基础版引擎，适用于在Linux 、OpenHarmony等OS上运行，支持无Docker环境的工业轻网关。 专业版：原标准版，部署专业版引擎，适用于在Docker、KubeEdge等容器环境上运行，支持智能网关、单 服务器 。 企业版：部署企业版引擎，适用于在

查看更多 →

功能、不同的资源要求、不同的场景等。规格支持单独上架、发布及升级。 应用镜像 镜像文件，支持：VM镜像和Docker镜像，客户需要把应用系统制作成镜像，否则无法通过IoTStage完成应用对接上线 华为云节点 应用部署依赖的华为云IaaS或PaaS资源，如： 弹性云服务器 E CS 、云数据库（RDS

查看更多 →

NFS服务安装与配置 NFS服务是ModelArts边缘资源池提供的数据存储卷服务，创建部署时可通过NFS挂载的方式访问共享数据，比如obs的模型文件。 涉及以下场景时，必须为资源池配置NFS服务： 创建AI应用时，元模型来源选择“从 对象存储服务 （OBS）中选择”，且AI引擎选择“Custom”。

查看更多 →

minio，对象存储服务。 redis，Redis缓存服务。 操作流程 将应用部署到华为云服务器的docker中，APM监控当前只支持华为云服务器，所以需要将应用部署到华为云服务器上。 修改启动参数，以确保APM可以监控应用。 在APM上管理应用，例如通过拓扑查看应用情况、通过调用链性能情况、通过前端监控了解用户体验情况等。

查看更多 →

# 在每个实例节点上运行此命令可以看到NPU卡状态 npu-smi info -l | grep Total # 在每个实例节点上运行此命令可以看到总卡数 如出现错误，可能是机器上的NPU设备没有正常安装，或者NPU镜像被其他容器挂载。请先正常安装NPU设备和驱动，或释放被挂载的NPU。

查看更多 →

自定义引擎的规范可以在安装有docker的本地机器上通过以下步骤提前验证： 将自定义引擎镜像下载至本地机器，假设镜像名为custom_engine:v1。 将模型包文件夹复制到本地机器，假设模型包文件夹名字为model。 在模型包文件夹的同级目录下验证如下命令拉起服务： docker run --user

查看更多 →

请参考跨云Harbor同步镜像至华为云SWR。否则，您可以按以下操作手动完成容器镜像的迁移。 远程登录原集群中任意一个节点，使用docker pull命令拉取所有镜像到本地。 登录SWR控制台，单击页面右上角的“登录指令”并复制。 在节点上执行上一步复制的登录指令。 登录成功会显示“Login

查看更多 →

CD对接CCE完成不同测试、生产环境业务部署 为帮助企业高效上云，华为云Solution as Code萃取丰富上云成功实践，提供一系列基于华为云可快速部署的解决方案，帮助用户降低上云门槛。同时开放完整源码，支持个性化配置，解决方案开箱即用，所见即所得。 表3 Solution as Code一键式部署类最佳实践汇总

查看更多 →

部署到CCI CCI部署前进行Docker相关配置 这里主要配置Docker所在的机器相关信息，Docker相关配置流程： 在IntelliJ IDEA顶部菜单栏中选择File> Setting > Huawei Cloud Toolkit Settings > Docker >

查看更多 →

# 在每个实例节点上运行此命令可以看到NPU卡状态 npu-smi info -l | grep Total # 在每个实例节点上运行此命令可以看到总卡数 如出现错误，可能是机器上的NPU设备没有正常安装，或者NPU镜像被其他容器挂载。请先正常安装NPU设备和驱动，或释放被挂载的NPU。

查看更多 →

AI应用发布成功后，进入“部署上线>在线服务”模块进行部署操作，部署时选择发布的AI应用进行部署即可。控制台上提供了比开发环境的命令行更为丰富的部署选项，例如服务流量限制、服务自动停止等，用户可以根据需要进行配置，具体可参考部署为在线服务。

查看更多 →

据预处理及半自动化标注、大规模分布式训练、自动化模型生成及模型部署能力，帮助用户快速创建和部署模型，管理全周期AI工作流。 “一站式”是指AI开发的各个环节，包括数据处理、模型训练、模型部署都可以在ModelArts上完成。从技术上看，ModelArts底层支持各种异构计算资源，

查看更多 →

$edge_omagent应用 负责边缘节点远程监控和运维，提供日志上报、远程SSH、CPU等指标上报、文件上传下载能力。 日志配置 系统日志：边缘节点上已部署的系统应用产生的日志。 应用日志：边缘节点上已部署的用户定义应用所产生的日志。 云端日志级别：on, off, trace, debug, info,

查看更多 →

$edge_omagent应用 负责边缘节点远程监控和运维，提供日志上报、远程SSH、CPU等指标上报、文件上传下载能力。 日志配置 系统日志：边缘节点上已部署的系统应用产生的日志。 应用日志：边缘节点上已部署的用户定义应用所产生的日志。 云端日志级别：on, off, trace, debug, info,

查看更多 →

$edge_omagent应用 负责边缘节点远程监控和运维，提供日志上报、远程SSH、CPU等指标上报、文件上传下载能力。 日志配置 系统日志：边缘节点上已部署的系统应用产生的日志。 应用日志：边缘节点上已部署的用户定义应用所产生的日志。 云端日志级别：on, off, trace, debug, info,

查看更多 →

$edge_omagent应用 负责边缘节点远程监控和运维，提供日志上报、远程SSH、CPU等指标上报、文件上传下载能力。 日志配置 系统日志：边缘节点上已部署的系统应用产生的日志。 应用日志：边缘节点上已部署的用户定义应用所产生的日志。 云端日志级别：on, off, trace, debug, info,

查看更多 →

P则作为边缘服务器的节点IP地址。 在IoTEdge上注册节点：在购买的ECS上执行安装脚本命令，即自动部署好2个系统应用，agent用于节点应用管理，hub用于数据通信。 业务应用需要集成边缘SDK，才能够接受云端下发的配置，集成SDK方式见插件侧开发。 进程包插件：是集成了边

查看更多 →

v2搭建的Docker镜像仓库中的镜像迁移到华为云SWR中。 跨云harbor同步镜像至华为云SWR 部分客户存在多云场景，并且使用某一家云上的自建Harbor作为镜像仓库 仅支持 Harbor V1.10.5 及以上版本 父主题： 容器镜像迁移

查看更多 →

使用大模型创建AI应用部署在线服务 背景说明 目前大模型的参数量已经达到千亿甚至万亿，随之大模型的体积也越来越大。千亿参数大模型的体积超过200G，在版本管理、生产部署上对平台系统产生了新的要求。例如：导入AI应用管理时，需要支持动态调整租户存储配额；模型加载、启动慢，部署时需要

查看更多 →

journalctl -u docker -b 以上步骤将使Docker能够访问NVIDIA GPU资源。在Kubernetes集群中，容器将能够使用GPU进行加速计算。如果您有多个GPU节点，请确保在每个节点上都完成以上步骤。 父主题： 实施步骤

查看更多 →