Step6 推理服务的高阶配置（可选） 如需开启以下高阶配置，请在Step3 配置NPU环境时增加需要开启的高阶配置参数。 词表切分 在分布式场景下，默认不使用词表切分能提升推理性能，同时也会增加单卡的显存占用。不建议开启词表并行，如确需使用词表切分，配置以下环境变量。 export

查看更多 →

G，请提工单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“模型部署 > 在线服务 > 部署”，开始部署在线服务。 设置部署服务名称，选择Step2 部署模型中创建的AI应用。选择专属资

查看更多 →

G，请提工单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“模型部署 > 在线服务 > 部署”，开始部署在线服务。 设置部署服务名称，选择Step2 部署模型中创建的AI应用。选择专属资

查看更多 →

在Notebook调试环境中部署推理服务 在ModelArts的开发环境Notebook中可以部署推理服务进行调试。 Step1 准备Notebook 参考准备Notebook完成Notebook的创建，并打开Notebook。 Step2 准备权重文件 将OBS中的模型权重上传

查看更多 →

G，请提工单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“模型部署 > 在线服务 > 部署”，开始部署在线服务。 设置部署服务名称，选择Step2 部署模型中创建的AI应用。选择专属资

查看更多 →

在Notebook调试环境中部署推理服务 在ModelArts的开发环境Notebook中可以部署推理服务进行调试。 Step1 准备Notebook 参考准备Notebook完成Notebook的创建，并打开Notebook。 Step2 准备权重文件 将OBS中的模型权重上传

查看更多 →

单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“部署上线 > 在线服务 > 部署”，开始部署在线服务。 图5 部署在线服务 设置部署服务名称，选择Step2 部署模型中创建的AI应用。

查看更多 →

native driver port.”，说明网络互通。 在弹性 云服务器 上安装Python以及第三方安装包pymongo。推荐使用pymongo2.8版本。 如果开启SSL，需要在界面上下载根证书，并上传到弹性云 服务器 。 连接代码 SSL开启 import ssl from pymongo

查看更多 →

Python文件 可以使用该配置来运行任意Python文件。 要在没有手动创建启动配置的时候快速运行Python文件，可以在资源管理器右键单击该文件或其代码编辑器中右键单击，从上下文菜单中选择“在终端中运行 Python 文件“。CodeArts IDE会自动为此文件创建Python

查看更多 →

Python模块 您可以使用该配置来运行任意Python模块。 启动配置属性 启动配置示例 父主题： 启动配置

查看更多 →

Python类型 APM支持的Python类型 APM支持Python类应用，目前已支持多种主流框架、web服务器、通讯协议、数据库等，可实现应用轻松接入。 表1 skywalking探针Python组件和框架 探针类型 组件 版本 skywalking探针 aiohttp 3.7+

查看更多 →

native driver port.”，说明网络互通。 在弹性云服务器上安装Python以及第三方安装包pymongo。推荐使用pymongo2.8版本。 如果开启SSL，需要在界面上下载根证书，并上传到弹性云服务器。 连接代码 SSL开启 import ssl from pymongo

查看更多 →

在Notebook调试环境中部署推理服务 在ModelArts的开发环境Notebook中可以部署推理服务进行调试。 Step1 准备Notebook 参考准备Notebook完成Notebook的创建，并打开Notebook。 Step2 准备权重文件 将OBS中的模型权重上传

查看更多 →

部署弹性云服务器 配置JAVA环境 登录弹性云服务器。 运行如下命令查看是否已安装jdk-1.8.0。 java -version 如果显示如下示例内容，则表示已安装jdk-1.8.0，可以跳过该环境配置流程，如果不 是则执行下一步。 [root@server ~]# java -version

查看更多 →

安装Python 3.9.9 预备环境 使用华为云开源镜像配置yum源。 请按照以下顺序执行，否则安装Python3.9.9可能会有部分失败（SSL组件依赖失败），导致后续无法安装PoWA-collector、PoWA-web。 yum install readline* -y yum

查看更多 →

服务 显示当前服务 环境 选择需要配置的环境。 分组 在环境下创建分组，将同一业务相关的CCE集群添加到同一分组中。 默认 选择是否开启默认。 开启时，将当前环境配置设置为默认。在执行IaC部署时，未指定部署环境的微服务会被部署到默认环境。 微服务 选择在该环境中部署的微服务。 架构

查看更多 →

python模板 # -*- coding:utf-8 -*- import json def handler (event, context): return { "statusCode": 200, "isBase64Encoded":

查看更多 →

Python语言 √表示支持，×表示不支持 语言版本 是否支持 开发指导 Python 2.7 √ 接口定义、有关SDK接口说明和函数开发指导请参见Python函数开发指南。 Python 3.6 √ Python 3.9 √ Python 3.10 √ 父主题： 支持的编程语言

查看更多 →

native driver port.”，说明网络互通。 在弹性云服务器上安装Python以及第三方安装包pymongo。推荐使用pymongo2.8版本。 如果开启SSL，需要在界面上下载根证书，并上传到弹性云服务器。 连接代码 SSL开启 import ssl from pymongo

查看更多 →

native driver port.”，说明网络互通。 在弹性云服务器上安装Python以及第三方安装包pymongo。推荐使用pymongo2.8版本。 如果开启SSL，需要在界面上下载根证书，并上传到弹性云服务器。 连接代码 SSL开启 import ssl from pymongo

查看更多 →

是否需要事先将运行环境（Tomcat、python等）安装到用户主机中，再部署应用？ 不需要。模板部署只需要安装python，其他运行环境都可以通过添加应用步骤完成，如：Tomcat、JDK等。 父主题： 公共问题

查看更多 →