部署推理服务 非分离部署推理服务 分离部署推理服务 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.910）

查看更多 →

如出现错误，可能是机器上的NPU设备没有正常安装，或者NPU镜像被其他容器挂载。请先正常安装固件和驱动，或释放被挂载的NPU。 检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。 yum install -y

查看更多 →

勾选设备处于“在线”状态的设备，然后单击技能名称右侧的“开始安装”，就开始安装技能。 设备列表的进度列会显示安装技能的进度，安装完成后，会显示“已安装”。 图1 服务部署 调试/部署 此功能暂未开放，敬请期待。 后续步骤 安装技能至设备后，您可以查看应用详情。 父主题： HiLens安全帽检测技能

查看更多 →

账户未欠费。 操作步骤 在“服务部署”页面，按表1填写服务的相关参数，然后单击“部署”。 图1 服务部署 表1 服务部署参数说明 参数 说明 服务名称 待部署的服务名称，单击可修改服务默认服务名称。 描述 待部署服务的简要说明。 资源池 用于服务部署的资源池和资源类型，可选“公共资源池”和“专属资源池”。

查看更多 →

欠费。 如果部署服务使用专属资源池，需要在ModelArts创建专属资源池。 操作步骤 在“服务部署”页面，按表1填写服务的相关参数，然后单击“部署”。 图1 服务部署 表1 服务部署参数说明 参数 说明 服务名称 待部署的服务名称，首次部署服务请单击可修改默认服务名称。 如果在

查看更多 →

操作步骤 在“服务部署”页面，按表1填写服务的相关参数，然后单击“部署”。 图1 服务部署 表1 服务部署参数说明 参数 说明 服务名称 待部署的服务名称，首次部署服务请单击可修改默认服务名称。 如果在不同版本非首次部署服务，服务名称不支持修改。 描述 待部署服务的简要说明。 资源池

查看更多 →

刹车盘识别工作流支持将服务一键部署至边缘设备，如果将服务部署至边缘设备，请提前在华为HiLens控制台注册Atlas 500设备，详细注册方式请前往华为云论坛参与讨论。 操作步骤 在“服务部署”页面，按表1填写服务的相关参数，然后单击“部署”。 图1 服务部署 表1 服务部署参数说明 参数

查看更多 →

。 如果部署服务使用专属资源池，需要在ModelArts创建专属资源池。 操作步骤 在“服务部署”页面，按表1填写服务的相关参数，然后单击右下角的“部署”。 图1 服务部署 表1 服务部署参数说明 参数 说明 服务名称 待部署的服务名称，首次部署服务请单击可修改默认服务名称。 如

查看更多 →

服务部署 配置修改 /app/appdeploy/portal/ser-portal/config/application-dev.yml 图1 配置修改1 图2 配置修改2 图3 配置修改3 图4 配置修改4 图5 配置修改5 图6 配置修改6 /app/appdeploy/p

查看更多 →

# CAS服务器内网地址，用于服务端对服务端调用，例如验证ticket等（在办公环境可能和 client2-server相同） server-2-server: http://192.168.32.61:8001/cas # CAS对用户访问地址，用于配置用户在客户端跳转的登录登出目的地址

查看更多 →

部署在线服务 部署在线服务包括： 已部署为在线服务的初始化。 部署在线服务predictor。 部署批量服务transformer。 部署服务返回服务对象Predictor，其属性包括服务管理章节下的所有功能。 示例代码 在ModelArts notebook平台，Session

查看更多 →

Schedule objects 服务调度配置，仅在线服务可配置，默认不使用，服务长期运行。 cluster_id 否 String 可选，部署服务时使用的资源池ID。对于rel-time和batch服务类型，为旧版专属资源池ID，配置此参数后，则使用集群的网络配置，vpc_id参数不生效

查看更多 →

如出现错误，可能是机器上的NPU设备没有正常安装，或者NPU镜像被其他容器挂载。请先正常安装固件和驱动，或释放被挂载的NPU。 驱动版本要求是23.0.6。如果不符合要求请参考安装固件和驱动章节升级驱动。 检查docker是否安装。 docker -v #检查docker是否安装 如尚未安装，运行以下命令安装docker。

查看更多 →

部署推理服务 非分离部署推理服务 分离部署推理服务 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.909）

查看更多 →

在目标证书所在行的“操作”列，单击“部署证书”，系统从右面弹出证书部署详细页面，如图4所示。 图4 部署证书 在部署证书页面的“部署详情”下，选择“CDN”页签。 图5 选择CDN 选择当前证书中需要部署的 域名 ，并单击“操作”列的“部署”或“重新部署”。 如需部署 多个域名 ，则从域名列表中勾选所有待部署的域名，并单击列表左上角的“批量更新”。

查看更多 →

CDN预热 功能介绍 媒资发布后，可通过指定媒资ID或URL向CDN预热。用户初次请求时，将由CDN节点提供请求媒资，加快用户下载缓存时间，提高用户体验。单租户每天最多预热1000个。 调试 您可以在 API Explorer 中调试该接口，支持自动认证鉴权。API Explorer

查看更多 →

CDN下载 CDN下载简介 配置CDN下载

查看更多 →

配置CDN下载 操作步骤 登录OBS Browser。 选中待操作的桶，在桶列表上方单击“更多>配置CDN下载”，系统弹出“配置CDN下载”对话框。 在待配置的用户域名所在行后面，勾选“启用CDN下载”。 单击“确定”。 在弹出的消息窗口中，单击“确定”关闭消息窗口。 父主题： CDN下载

查看更多 →

。 图1 服务部署流程 操作步骤 查找服务。 登录OSC控制台，可以使用服务目录页面顶部的搜索框，按照服务名称查询所需的服务。 如果不确定服务名，在服务目录页面单击“更多服务”，按照服务类型、应用场景等条件来筛选。OSC提供以下筛选条件，帮助用户快速获取所需服务。 表1 筛选条件

查看更多 →

。 部署算法服务 华为自研的边缘算法、非华为自研的云上、边缘算法在使用前均需进行部署，当算法的部署状态为“运行中”时，才能下任务进行使用。 进入“算法服务”，单击目标算法服务“操作”列的“部署”，进入“部署算法”页面。 参考表1填写相关参数。 表1 部署算法参数说明 参数名称 参数说明

查看更多 →

安全组入方向已放开80、8001、8002端口。 操作步骤 安装Nginx服务。 执行以下命令Nginx。 dnf install nginx 执行以下命令启动Nginx服务。 systemctl start nginx 执行以下命令查看Nginx服务状态。 systemctl status nginx

查看更多 →