hierarchy策略。可以通过调整expthresh值的大小改变策略，比如expthresh为0的时候就会跳过Explicit模式而直接进入Sparse模式。当显式指定expthresh的取值为1-7之间时，该函数得到的是 2expthresh。 返回值类型：record 示例：

查看更多 →

在某些场景下，比如算子溢出、误差累积等都可能会导致模型转换前后的模型存在误差，通过精度测试节的精度校验工具可以度量模型输出的精度误差的大小。当误差较大时，可以使用精度对比工具对比转换前后的ONNX模型和OM模型。其中OM模型在使用converter_lite工具进行模型转换时会同步生成。 # shell

查看更多 →

script可以保证这块GPU和NPU dump的数据对齐。 compare表中Cosine列第一个出现偏差的位置，为einsum算子的输入。 图8 Cosine列的偏差 查看堆栈信息发现是self.inv_freq的值存在精度偏差，再追溯到self.inv_freq的定义片段。 图9 inv_freq的定义片段 通

查看更多 →

hierarchy策略。可以通过调整expthresh值的大小改变策略，比如expthresh为0的时候就会跳过Explicit模式而直接进入Sparse模式。当显式指定expthresh的取值为1-7之间时，该函数得到的是 2expthresh。 返回值类型：record 示例：

查看更多 →

数据精度 原始成本的数据精度和账单金额一致。 摊销成本需要按照四舍五入进行保留小数，因此摊销成本会存在微小的精度差异： 成本中心页面上展示的金额，均按照四舍五入规则，保留2位小数； 导出的成本明细数据，会根据成本数据的原始精度，保留8位小数。 需要进行分摊的数据包括： 包年/包月的订单金额。

查看更多 →

service_url：成功部署推理服务后的服务预测地址，示例：http://${docker_ip}:8080/generate。此处的${docker_ip}替换为宿主机实际的IP地址，端口号8080来自前面配置的服务端口。 few_shot：开启少量样本测试后添加示例样本的个数。默认为3，取值范围为0~5整数。

查看更多 →

精度问题处理 设置高精度并重新转换模型 在转换模型时，默认采用的精度模式是fp16，如果转换得到的模型和标杆数据的精度差异比较大，可以使用fp32精度模式提升模型的精度（这块无需全换成fp32，fp32相对于fp16性能较差，所以一般检测出来哪个模型精度有问题时，再尝试是否用fp

查看更多 →

service_url：成功部署推理服务后的服务预测地址，示例：http://${docker_ip}:8080/generate。此处的${docker_ip}替换为宿主机实际的IP地址，端口号8080来自前面配置的服务端口。 few_shot：开启少量样本测试后添加示例样本的个数。默认为3，取值范围为0~5整数。

查看更多 →

evaluation_accuracy.xlsx # 测试的评分结果，包含各个学科数据集的评分和总和评分。 ├── infer_info │ ├── xxx1.csv # 单个数据集的评测结果 │ ├── ...... │ ├── xxxn.csv # 单个数据集的评测结果 ├── summary_result

查看更多 →

时间精度（time_confidence） 数值 含义 0 不具备或不可用 1 100 2 50 3 20 4 10 5 2 6 1 7 0.5 8 0.2 9 0.1 10 0.05 11 0.02 12 0.01 13 0.005 14 0.002 15 0.001 16 0

查看更多 →

output_path: 要保存的结果路径。 Step2 查看精度测试结果 默认情况下，评测结果会按照result/{model_name}/的目录结果保存到对应的测试工程。执行多少次，则会在{model_name}下生成多少次结果。benchmark_eval下生成的log中记录了客户端产

查看更多 →

精度问题诊断 逐个替换模型，检测有问题的模型 该方式主要是通过模型替换，先定位出具体哪个模型引入的误差，进一步诊断具体的模型中哪个算子或者操作导致效果问题，模型替换原理如下图所示。通过设置开关选项（是否使用onnx模型），控制模型推理时，模型使用的是onnx模型或是mindir的模型。

查看更多 →

output_path: 要保存的结果路径。 Step2 查看精度测试结果 默认情况下，评测结果会按照result/{model_name}/的目录结果保存到对应的测试工程。执行多少次，则会在{model_name}下生成多少次结果。benchmark_eval下生成的log中记录了客户端产

查看更多 →

位置精度（position_confidence） 数值 含义 0 不具备或不可用 1 500米 2 200米 3 100米 4 50米 5 20米 6 10米 7 5米 8 2米 9 1米 10 0.5米 11 0.2米 12 0.1米 13 0.05米 14 0.02米 15

查看更多 →

为什么有时候用浮点数做等值比较查不到数据 原因分析 浮点数的等值比较问题是一种常见的浮点数问题。因为在计算机中，浮点数存储的是近似值而不是精确值，所以等值比较、数学运算等场景很容易出现预期外的情况。 MySQL中涉及浮点数的类型有float和double。如下示例中遇到的问题： 解决方案

查看更多 →

为什么有时候用浮点数做等值比较查不到数据 原因分析 浮点数的等值比较问题是一种常见的浮点数问题。因为在计算机中，浮点数存储的是近似值而不是精确值，所以等值比较、数学运算等场景很容易出现预期外的情况。 MySQL中涉及浮点数的类型有float和double。如下示例中遇到的问题： 解决方案

查看更多 →

车辆高程精度（ele_confidence） 数值 含义 0 不具备或不可用 1 500米 2 200米 3 100米 4 50米 5 20米 6 10米 7 5米 8 2米 9 1米 10 50厘米 11 20厘米 12 10厘米 13 5厘米 14 2厘米 15 1厘米 父主题：

查看更多 →

如何提高识别精度 尽量使用文字清晰度高、无反光的图片。进行图片采集时，尽量提高待识别文字区域占比，减少无关背景占比，保持图片内文字清晰人眼可辨认。 若图片有旋转角度，算法支持自动修正，建议图片不要过度倾斜。 图片尺寸方面，建议最长边不超过8192像素，最短边不小于15像素，图像长宽比例维持常见水平

查看更多 →

模型精度调优 场景介绍 精度问题诊断 精度问题处理 父主题： AIGC推理业务昇腾迁移指导

查看更多 →

IoTDB支持的数据类型和编码 IoTDB支持如下几种数据类型和编码方式，参见表1。 表1 IoTDB支持的数据类型和编码 类型 说明 支持的编码 BOOLEAN 布尔值 PLAIN、RLE INT32 整型 PLAIN、RLE、TS_2DIFF、GORILLA、FREQ、ZIGZAG

查看更多 →

GaussDB数据库 差异 1 log2() 支持 小数位显示与MySQL存在差异，受GaussDB浮点数据类型限制，可通过参数extra_float_digits控制小数位个数显示。 由于输入精度内部处理差异，GaussDB与MySQL会存在结果计算差异。 支持数据类型有： bigint、int16、int、smallint

查看更多 →