自动化部署ADHub环境 准备工作 获取AK/SK，可参考《获取AK/SK》 开始部署 联系供应商获取license，下载【ADHub 部署脚本】 进入采买脚本根路径，执行脚本，开始采买 # 华为云Provider 认证 export HW_REGION_NAME="cn-north-4"

查看更多 →

下载【DMHub 部署脚本】 进入部署脚本根路径，执行脚本，开始部署 # 登录helm repo，账号请联系供应商 helm registry login -u Username -p Password convertlab.tencentcloudcr.com # 开始安装, helm

查看更多 →

区级管理平台环境部署（含数据中心部署） 区级管理平台环境部署 配置要求： 硬件配置要求 服务器 标准16C/32G内存，磁盘空间要求300G以上的存储空间。 内部服务器需要互通，防火墙关闭，SElinux关闭。 网络设备配置要求 内部服务器之间所有端口要求互通,带宽百兆以上，接入服务器需要有ELB或VIP。

查看更多 →

教育应用市场RomaExchange环境部署 购买部署基线RomaExchange 配置RomaExchange 切换教育环境 父主题： 实施步骤

查看更多 →

在Notebook调试环境中部署推理服务 在ModelArts的开发环境Notebook中可以部署推理服务进行调试。 Step1 准备Notebook 参考准备Notebook完成Notebook的创建，并打开Notebook。 Step2 准备权重文件 将OBS中的模型权重上传

查看更多 →

单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“部署上线 > 在线服务 > 部署”，开始部署在线服务。 图5 部署在线服务 设置部署服务名称，选择Step2 部署模型中创建的AI应用。

查看更多 →

Step6 推理服务的高阶配置（可选） 如需开启以下高阶配置，请在Step3 配置NPU环境时增加需要开启的高阶配置参数。 词表切分 在分布式场景下，默认不使用词表切分能提升推理性能，同时也会增加单卡的显存占用。不建议开启词表并行，如确需使用词表切分，配置以下环境变量。 export

查看更多 →

G，请提工单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“模型部署 > 在线服务 > 部署”，开始部署在线服务。 设置部署服务名称，选择Step2 部署模型中创建的AI应用。选择专属资

查看更多 →

prefix-caching特性则不配置该环境变量。 若要开启图模式，请配置以下5个环境变量，并且启动服务时不要添加enforce-eager参数。 export INFER_MODE=PTA # 开启PTA模式，若不使用图模式，请关闭该环境变量 export PTA_TORC

查看更多 →

单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“部署上线 > 在线服务 > 部署”，开始部署在线服务。 图5 部署在线服务 设置部署服务名称，选择Step2 部署模型中创建的AI应用。

查看更多 →

单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“部署上线 > 在线服务 > 部署”，开始部署在线服务。 图5 部署在线服务 设置部署服务名称，选择Step2 部署模型中创建的AI应用。

查看更多 →

在Notebook调试环境中部署推理服务 在ModelArts的开发环境Notebook中可以部署推理服务进行调试。 Step1 准备Notebook 参考准备Notebook完成Notebook的创建，并打开Notebook。 Step2 准备权重文件 将OBS中的模型权重上传

查看更多 →

G，请提工单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“模型部署 > 在线服务 > 部署”，开始部署在线服务。 设置部署服务名称，选择Step2 部署模型中创建的AI应用。选择专属资

查看更多 →

在Notebook调试环境中部署推理服务 在ModelArts的开发环境Notebook中可以部署推理服务进行调试。 Step1 准备Notebook 参考准备Notebook完成Notebook的创建，并打开Notebook。 Step2 准备权重文件 将OBS中的模型权重上传

查看更多 →

G，请提工单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“模型部署 > 在线服务 > 部署”，开始部署在线服务。 设置部署服务名称，选择Step2 部署模型中创建的AI应用。选择专属资

查看更多 →

在Notebook调试环境中部署推理服务 在ModelArts的开发环境Notebook中可以部署推理服务进行调试。 Step1 准备Notebook 参考准备Notebook完成Notebook的创建，并打开Notebook。 Step2 准备权重文件 将OBS中的模型权重上传

查看更多 →

refix-caching特性则不配置该环境变量。 如果要开启图模式，请配置以下5个环境变量，并且启动服务时不要添加enforce-eager参数。 export INFER_MODE=PTA # 开启PTA模式，如果不使用图模式，请关闭该环境变量 export PTA_TOR

查看更多 →

单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“部署上线 > 在线服务 > 部署”，开始部署在线服务。 图5 部署在线服务 设置部署服务名称，选择Step2 部署模型中创建的AI应用。

查看更多 →

部署弹性 云服务器 配置JAVA环境 登录弹性云服务器。 运行如下命令查看是否已安装jdk-1.8.0。 java -version 如果显示如下示例内容，则表示已安装jdk-1.8.0，可以跳过该环境配置流程，如果不 是则执行下一步。 [root@server ~]# java -version

查看更多 →

相关操作 操作 说明 删除环境配置 单击环境配置列表操作列的“删除”，删除环境配置。 父主题： 在微服务平台管理及配置部署环境

查看更多 →

台。 新增环境配置 进入AppStage运维中心。 在顶部导航栏选择服务。 单击，选择“微服务开发 > 微服务平台”。 选择左侧导航栏的“环境管理 > 环境配置管理”。 在环境配置页面，单击“新增”。 在“选择电子流”弹框中，选择电子流，单击“提交”。 在弹出窗口中配置相关参数，参数说明如表1所示。

查看更多 →