单模型性能测试工具Mindspore lite benchmark 在模型精度对齐后，针对SD模型性能调优，可以通过AOE工具进行自助性能调优，进一步可以通过profiling工具对于性能瓶颈进行分析，并针对性的做一些调优操作。 可以直接使用benchmark命令测试mindir

查看更多 →

释放Agent Lite资源 接口功能 释放Agent Lite申请的所有资源（内存，线程等等）。 接口描述 1 public static boolean destroy(); 接口所属类 BaseService 接口返回值 返回值 描述 true 成功。 false 失败。

查看更多 →

释放Agent Lite资源 接口功能 调用此接口，Agent Lite会释放申请的所有动态资源（内存、线程等等）。 接口描述 1 public static void destroy(); 接口所属类 BaseService 接口返回值 返回值 描述 true 成功。 false

查看更多 →

释放Agent Lite资源 接口功能 调用此函数，Agent Lite会释放申请的所有动态资源（内存、线程等等）。 接口描述 1 IOTA_VOID IOTA_Destroy(); 接口返回值 参见函数标准返回值 示例 1 2 // 开发者调用该接口销毁Agent Lite资源 IOTA_Destroy();

查看更多 →

性能测试 测试方法 测试结果 父主题： 并行查询（PQ）

查看更多 →

count(*) from sbtest1 where id/k in (... ...); 性能对比如下表所示： 表1 性能数据 测试方法 开启转换 关闭转换（不适用range_opt） 性能对比 带索引 0.09 2.48 提升26.5倍 父主题： IN谓词转子查询

查看更多 →

sec) ​ 基于TPCH 10 scale的数据，针对上述的查询示例Q1、Q2、Q3。开启与关闭LIMIT OFFSET下推功能的性能对比如下。 图1 性能对比 父主题： LIMIT OFFSET下推

查看更多 →

MindSpore Lite问题定位指南 在使用MindSpore Lite过程中遇到问题时，可参考MindSpore Lite官网提供的问题定位指南进行问题定位。 父主题： 常见问题

查看更多 →

性能调优 单模型性能测试工具Mindspore lite benchmark 单模型性能调优AOE 父主题： AIGC推理业务昇腾迁移指导

查看更多 →

pool-6e8a 描述 对创建的资源池进行说明。 - 使用场景 分为Standard弹性集群与Lite弹性集群，联邦学习对接MA需要选择Lite弹性集群。 ModelArts Lite 计费模式 选择Lite弹性集群目前默认包年/包月计费模式。 包年/包月 CCE集群 选择创建完成的CCE集

查看更多 →

初始化Agent Lite资源 接口功能 初始化Agent Lite资源。 接口描述 1 HW_INT IOTA_Init(const HW_CHAR *pcWorkPath, const HW_CHAR *pcLogPath); 参数说明 字段 必选/可选 类型 描述 pcWorkPath

查看更多 →

认证类型 认证对象 认证测试指导 Enabled Enabled 业务应用 测试指导请参考自助测试（联通用户专用）。 Compatible NB-IoT Compatible 使用NB-IoT通信技术的设备 测试指导请参考OpenLab现场测试。 Agent Lite Compatible

查看更多 →

tailor是AIGC场景下用于模型转换（onnx到mindir）和性能分析的辅助工具，当前支持以下功能。 表1 功能总览 功能大类 具体功能 模型转换 固定shape转模型 动态shape传入指定档位转模型 支持fp32 支持AOE优化 benchmark 支持测试性能 支持精度测试 profiling 支持分析算子的profiling

查看更多 →

请求的P9999时延，是非常严格的时延指标，表示99.99%的请求执行时间小于该值，仅少量尾部请求超过该值。 测试步骤 注入测试数据 测试前，生成并注入数据库测试数据。基于测试模型三种类型的分布，对三种数据类型进行如下配置： hash类型 key：34位字符，使用字符串前缀+9位数字

查看更多 →

初始化Agent Lite资源 接口功能 初始化Agent Lite资源。 接口描述 1 public static boolean init(String workPath, String logPath, Context context); 接口所属类 BaseService

查看更多 →

初始化Agent Lite资源 接口功能 初始化Agent Lite资源。 接口描述 1 public static boolean init(String workPath, String logPath); 接口所属类 BaseService 参数说明 字段 必选/可选 类型

查看更多 →

基于MindSpore Lite的模型转换 迁移推理业务的整体流程如下： 模型准备 转换关键参数准备 模型转换 推理应用适配 主要通过MindSpore Lite（简称MSLite）进行模型的转换，进一步通过MindSpore Runtime支持昇腾后端的能力来将推理业务运行到昇腾设备上。

查看更多 →

性能测试方法 本章基于GeminiDB Influx实例，进行性能测试，具体包括测试环境，测试步骤，以及测试结果。 测试环境 区域：华北-北京四 可用区：可用区一 弹性云服务器 （Elastic Cloud Server，简称E CS ）：规格选择内存优化型m6.2xlarge.8，8

查看更多 →

性能测试方法 本章介绍GeminiDB Redis性能测试的方法，具体包括测试环境，测试工具，测试指标，测试模型，以及测试步骤。 测试环境 区域：华北-北京四 可用区：可用区1 弹性 云服务器 （Elastic Cloud Server，简称ECS）：规格选择c6.4xlarge.2

查看更多 →

性能测试结果 基于上述样本，预先注入1TB+数据并进行压力测试，测试结果如下： 数据压缩率： 写入1.1TB数据(约38亿条)，压缩后数据占用约为155GB，数据压缩比约为13.8%； 性能表现： 维持业务总QPS达到约160w，此时读请求总流量约为1.5Gb/s，实例CPU利用率在60%-70%。

查看更多 →

性能调优 性能测试 benchmark工具也可用于性能测试，其主要的测试指标为模型单次前向推理的耗时。在性能测试任务中，与精度测试不同，并不需要用户指定对应的输入（inDataFile）和输出的标杆数据（benchmarkDataFile），benchmark工具会随机生成一个输

查看更多 →