推理性能测试 本章节介绍如何进行推理性能测试，建议在Notebook的JupyterLab中另起一个Terminal，执行benchmark脚本进行性能测试。如果需要在生产环境中进行推理性能测试，请通过调用接口的方式进行测试。 约束限制 创建在线服务时，每秒服务流量限制默认为10

查看更多 →

推理性能测试 语言模型推理性能测试 多模态模型推理性能测试 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.910）

查看更多 →

推理性能测试 语言模型推理性能测试 多模态模型推理性能测试 父主题： 主流开源大模型基于Server适配PyTorch NPU推理指导（6.3.911）

查看更多 →

推理性能测试 benchmark方法介绍 性能benchmark包括两部分。 静态性能测试：评估在固定输入、固定输出和固定并发下，模型的吞吐与首token延迟。该方式实现简单，能比较清楚的看出模型的性能和输入输出长度、以及并发的关系。 动态性能测试：评估在请求并发在一定范围内波动

查看更多 →

推理性能测试 本章节介绍如何进行推理性能测试，建议在Notebook的JupyterLab中另起一个Terminal，执行benchmark脚本进行性能测试。如果需要在生产环境中进行推理性能测试，请通过调用接口的方式进行测试。 约束限制 创建在线服务时，每秒服务流量限制默认为10

查看更多 →

查看fio版本。 fio --version 通用测试配置样例 以下提供的预估值为单台 弹性云服务器 E CS 测试的结果。建议使用多台ECS测试，以达到弹性文件服务的性能指标。 本文以SFS Turbo性能型， 云服务器 规格如下为例说明。 规格：通用计算增强型 | c3.xlarge.4 | 4vCPUs

查看更多 →

为JMeter设置智能分析 智能分析为创建成功的JMeter测试工程创建分析对象。 当前性能测试服务已对接APM2.0，性能测试服务上APM1.0的配置已失效，设置智能分析时请使用APM2.0。 前提条件 已开通 应用性能管理 （APM），并部署APM探针，生成APM应用节点。APM探针部署请参考开始监控JAVA应用。

查看更多 →

容器服务访问虚拟机服务 启动ASM-PROXY后，容器内的服务可以访问虚拟机上的服务，如下图所示。 验证流程如下： 部署虚拟机服务：在虚拟机中部署httptest应用。 部署容器服务：在CCE集群中部署容器服务tomcat。 添加虚拟机服务到网格：不同于容器服务有自动注册能力，当

查看更多 →

务访问虚拟机服务时，50%的请求将由v1版本响应，50%的请求由v2版本响应。 实现灰度发布的流程如下： 部署虚拟机服务灰度版本：在虚拟机2上部署httptest-canary应用，作为虚拟机服务灰度版本v2。 添加虚拟机服务灰度版本到网格：创建v2版本的WorkloadEntr

查看更多 →

虚拟机部署场景接入指南 虚机部署的应用可通过Sermant Agent接入到ServiceComb引擎。 前置条件 已创建ECS实例， 创建ECS请参考自定义购买ECS。 已安装JDK ( 版本为1.8及以上版本 ) 并配置环境变量，详情请参考Java Downloads。 已创

查看更多 →

管理虚拟机部署组件配置 虚拟机部署组件绑定微服务引擎 设置虚拟机配置 管理虚拟机部署组件应用配置 设置虚拟机部署组件应用性能管理 父主题： 组件管理

查看更多 →

使用部署包部署虚拟机 在部署服务创建部署模板 在部署服务创建部署任务 父主题： 使用部署服务进行自动化变更

查看更多 →

创建并安装虚拟机（Windows） 使用virt-manager创建虚拟机，以Windows Server 2012 R2虚拟机操作系统为例，其他操作系统类似。以下步骤图示仅供参考，视实际情况而定。 登录镜像制作 服务器 ，将ISO镜像合成中保存的ISO文件上传到服务器系统中,并启动virt-manager。

查看更多 →

配置虚拟机异常告警 AppStage支持定义服务的监控模板，然后通过为主机绑定监控模板，采集主机监控数据，并通过模板告警功能对虚拟机监控数据配置告警，及时掌握虚拟机状态。 限制条件 绑定监控模板进行虚拟机监控，支持的主机的操作系统版本包括EulerOS 2.X、HCE、CentO

查看更多 →

虚拟机服务访问容器服务 启动ASM-PROXY后，虚拟机服务可以访问容器内的服务，如下图所示。 验证流程如下： 部署容器服务：在CCE集群中部署容器服务tomcat。 容器服务加入网格：将tomcat服务加入网格，确保服务诊断状态为正常。 访问容器服务：编辑虚拟机的/etc/ho

查看更多 →

关闭虚拟机并获取镜像 关闭虚拟机 可以在虚拟机操作系统中执行sudo poweroff进行关机。如果无效则在virt-manager中关闭虚拟机，单击“Virtual Machine Manager”，选中正在运行的虚拟机，右键单击“Shut Down”即可关闭虚拟机。 如果不能正常关闭，建议单击“Force

查看更多 →

应用性能编程规范 PERF02 如何进行性能规划？ 定义性能目标 容量规划 PERF03 如何进行性能建模？ 选择合适类型的计算云服务 选择合适规格的虚拟机和容器节点 使用弹性伸缩 选择合适类型的网络云服务 选择合适类型的存储云服务 选择合适的消息队列 选择合适规格的Kafka 选择合适规格的RocketMQ

查看更多 →

虚拟机服务添加网关和路由 网关（Gateway）定义了在网格出入口操作的负载均衡器，用于接收传入或传出的HTTP/TCP连接。 前提条件 已执行添加虚拟机服务到网格，即已创建v1版本的WorkloadEntry、ServiceEntry，已创建VirtualService、DestinationRule。

查看更多 →

虚拟机日志接入监控服务 本章节介绍如何通过filebeat采集虚拟机日志。 监控服务安装filebeat是使用子用户sudo权限进行安装，SUSE15系统没有自带sudo命令。如果需要采集的虚拟机操作系统为SUSE15，需要使用root用户登录主机，并执行zypper install

查看更多 →

SAP应用层性能测试 通过Client Copy操作在SDRS容灾服务开启与关闭场景下所需要的时长来测试SDRS的性能。 开启SDRS容灾服务。 按照第三章节使用ddic用户登录SAP系统 新建client 点击SAP Menu/Tools/Administration/Administration/Client

查看更多 →

释放资源（删除Windows虚拟机） 启用虚拟机服务管理界面，执行sudo virt-manager(该命令不能在root用户下使用)指令，然后会弹出kvm虚拟机管理界面（该界面显示服务器里存在的虚拟机，并且在该界面可对虚拟机进行管理操作）选择不需要的虚拟机，右击点击Delete删除操作即可。

查看更多 →