在Notebook调试环境中部署推理服务 在ModelArts的开发环境Notebook中可以部署推理服务进行调试。 Step1 准备Notebook 参考准备Notebook完成Notebook的创建，并打开Notebook。 Step2 准备模型代码包和权重文件 将OBS中的

查看更多 →

在推理生产环境中部署推理服务 本章节介绍如何在ModelArts的推理生产环境（ModelArts控制台的在线服务功能）中部署推理服务。 Step1 准备模型文件和权重文件 在OBS桶中，创建文件夹，准备ascend_vllm代码包、模型权重文件、推理启动脚本run_vllm.s

查看更多 →

的问题，不会在云上部署业务。 ERP业务需要服务少量出差员工和高层领导在公司外使用业务的需求。 ERP业务需要较高的可靠性，无论是内部使用还是外部使用，除节假日外不能频繁停机。 自有数据中心的网络和安全防护体系相对成熟，可满足ERP部署需要。 组网规划说明 针对上述用户业务场景的

查看更多 →

ion的block大小，推荐设置为128。 --host=${docker_ip}：服务部署的IP，${docker_ip}替换为宿主机实际的IP地址。 --port：服务部署的端口。 --gpu-memory-utilization：NPU使用的显存比例，复用原vLLM的入参名称，默认为0

查看更多 →

设置创建AI应用的相应参数。此处仅介绍关键参数，设置AI应用的详细参数解释请参见从OBS中选择元模型。 根据需要自定义应用的名称和版本。 模型来源选择“从 对象存储服务 （OBS）中选择”，元模型选择转换后模型的存储路径，AI引擎选择“Custom”，引擎包选择准备镜像中上传的推理镜像。 系统运行架构选择“ARM”。

查看更多 →

ion的block大小，推荐设置为128。 --host=${docker_ip}：服务部署的IP，${docker_ip}替换为宿主机实际的IP地址。 --port：服务部署的端口。 --gpu-memory-utilization：NPU使用的显存比例，复用原vLLM的入参名称，默认为0

查看更多 →

在推理生产环境中部署推理服务 本章节介绍如何在ModelArts的推理生产环境（ModelArts控制台的在线服务功能）中部署推理服务。 Step1 准备模型文件和权重文件 在OBS桶中，创建文件夹，准备模型权重文件、推理启动脚本run_vllm.sh及SSL证书。此处以chatglm3-6b为例。

查看更多 →

设置创建AI应用的相应参数。此处仅介绍关键参数，设置AI应用的详细参数解释请参见从OBS中选择元模型。 根据需要自定义应用的名称和版本。 模型来源选择“从对象存储服务（OBS）中选择”，元模型选择转换后模型的存储路径，AI引擎选择“Custom”，引擎包选择准备镜像中上传的推理镜像。 系统运行架构选择“ARM”。

查看更多 →

选择一个已有的APM应用。 子应用 输入APM子应用，该参数为选填。 接入密钥 将会自动获取APM服务的密钥信息，详情参见前提条件。 CCE新版UI为部署在CCE容器中的JAVA应用安装Agent的详细操作，请参考《用户指南》。 父主题： 开始监控JAVA应用

查看更多 →

如果一个 域名 有多个 服务器 ，则每一个服务器上都要部署。 待安装证书的服务器上需要运行的域名，必须与证书的域名一一对应，即申请的是哪个域名的证书，则用于哪个域名。否则安装部署后，浏览器将提示不安全。 操作步骤 在CentOS 7操作系统中的Nginx 1.7.8服务器上安装私有证书的流程如下所示： ①获取文件 → ②创建目录

查看更多 →

如果一个域名有多个服务器，则每一个服务器上都要部署。 待安装证书的服务器上需要运行的域名，必须与证书的域名一一对应，即申请的是哪个域名的证书，则用于哪个域名。否则安装部署后，浏览器将提示不安全。 操作步骤 在CentOS 7操作系统中的Apache 2.4.6服务器上安装私有证书的流程如下所示： ①获取文件 →

查看更多 →

如果一个域名有多个服务器，则每一个服务器上都要部署。 待安装证书的服务器上需要运行的域名，必须与证书的域名一一对应，即申请的是哪个域名的证书，则用于哪个域名。否则安装部署后，浏览器将提示不安全。 操作步骤 在Tomcat7服务器上安装私有证书的流程如下所示： ①获取文件 → ②创建目录 → ③修改配置文件 → ④重启Tomcat

查看更多 →

即申请的是哪个域名的证书，则用于哪个域名。否则安装部署后，浏览器将提示不安全。 操作步骤 在IIS服务器上安装私有证书的流程如下所示： ①获取文件 → ②配置IIS → ③效果验证 步骤一：获取文件 在本地解压已下载的证书文件。 获得证书文件“server.pfx”和密码文件“keystorePass

查看更多 →

部署在VPC下的应用是否可以调用API？ 默认部署在VPC下的应用可以调用API。如果域名解析失败，则参考配置内网DNS，在当前终端节点上配置DNS服务器。配置完成后，部署在VPC下的应用可以调用API。 配置内网DNS 配置DNS需要配置“/etc”目录下的resolv.conf文件，指定DNS服务器的IP地址。

查看更多 →

为部署在CCE容器中的JAVA应用安装Agent AOM提供应用接入功能，可以为部署在CCE容器中的JAVA应用安装Agent。 CCE容器安装Agent建议使用自有探针。 前提说明 部署APM Agent时，必须确保接入APM的机器与APM服务网络连通，Agent才能正常工作。

查看更多 →

部署在VPC下的应用是否可以调用API？ 默认部署在VPC下的应用可以调用API。如果域名解析失败，则参考怎样切换内网DNS，在当前终端节点上配置DNS服务器。配置完成后，部署在VPC下的应用可以调用API。 父主题： 服务集成

查看更多 →

部署在H CS 底座的主机连通性测试失败。 部署在HCS底座的主机，解决方案工作台的扫描工具是没有办法访问的，只能访问hc底座的主机。 父主题： 验证中心

查看更多 →

在微服务平台配置部署环境 在微服务容器化部署前，需要先为环境绑定CCE集群，用于在环境下部署和运行微服务。 前提条件 需要提前创建好变更电子流，具体请参见变更电子流管理。 需要具备AppStage服务运维岗位权限或运维管理员权限，权限申请操作请参见申请权限。 在微服务平台中，有已

查看更多 →

因此需要手动切回至OSC的“我的服务->服务订阅”界面。 部署服务。 在“我的服务->我的订阅”界面查找已订阅目标服务，单击“创建实例”。 根据业务诉求，选择需要的服务版本。 根据业务诉求，选择实例的部署场景、区域、容器集群、命名空间，再选择所需要部署的服务实体。勾选左下角“我已知晓”复选框。

查看更多 →

conf文件中user和password的值，修改为与步骤4.c中设置的用户名密码一致。 vim /ELK/logstash/logstash.conf 执行以下命令修改kibana.yml文件中elasticsearch.username和elasticsearch.password的值，修改为与步骤4

查看更多 →

部署和使用SVN 简介 Subversion(SVN) 是一个开源的版本控制系统，管理着随时间改变的数据。这些数据放置在一个中央资料档案库(repository) 中。这个档案库很像一个普通的文件服务器, 不过它会记住每一次文件的变动。这样您就可以把档案恢复到旧的版本, 或是浏览文件的变动历史。

查看更多 →