38位时，Hive按38位创建，s小于0时，按0创建，受Hive数据类型限制，此场景可能会导致数据写入后精度丢失。 表1 MySQL->Hive自动建表时的字段映射 数据类型（MySQL） 数据类型（Hive） 说明 数值类型 tinyint(1)，bit(1) BOOLEAN - TINYINT

查看更多 →

Msprobe精度比对 精度比对功能主要针对两类场景的问题： 同一模型，从CPU或GPU移植到NPU中存在精度下降问题，对比NPU芯片中的API计算数值与CPU或GPU芯片中的API计算数值，进行问题定位。 同一模型，进行迭代（模型、框架版本升级或设备硬件升级）时存在的精度下降问题，

查看更多 →

日期与时间数据类型 表1 日期与时间数据类型 MySQL数据库 GaussDB 数据库 差异 DATE 支持，存在差异 GaussDB支持date数据类型，与MySQL相比规格上存在如下差异： 反斜杠\在MySQL和GaussDB中都视为转义，但MySQL支持\0，GaussDB暂不支持，因

查看更多 →

38位时，Hive按38位创建，s小于0时，按0创建，受Hive数据类型限制，此场景可能会导致数据写入后精度丢失。 表1 MySQL->Hive自动建表时的字段映射 数据类型（MySQL） 数据类型（Hive） 说明 数值类型 tinyint(1)，bit(1) BOOLEAN - TINYINT

查看更多 →

GaussDB(for MySQL)库表设计规范 所有创建的MySQL表必须为InnoDB引擎，适配MySQL的其它引擎不支持事务。 小数类型建议使用DECIMAL，禁止使用FLOAT和DOUBLE。 FLOAT和DOUBLE在存储的时候，存在精度损失的问题，很可能在值比较的时候

查看更多 →

系统函数兼容性概述 GaussDB数据库兼容绝大多数MySQL的系统函数，但存在部分差异。 除特别说明外，MySQL兼容性MySQL模式中的函数行为默认为GaussDB原生行为。 GaussDB MySQL兼容性的绝大部分系统函数目前均存在返回值与MySQL精度不一致（结果后面0的位数）

查看更多 →

该类型映射为双精度浮点数FLOAT8，使用场景参考FLOAT8。 8字节。 -1.79E+308~+1.79E+308，15位十进制数字精度。 DOUBLE(p,s) 精度p取值范围为[1,1000]，标度s取值范围为[0,p]。 未指定精度和标度的情况下，默认精度p为10，标度s为0。

查看更多 →

parameters参数说明 参数 是否必选 类型 说明 alpha 否 Double 权重系数(又称阻尼系数)，取值范围为（0,1），默认值为0.85。 convergence 否 Double 收敛精度。取值范围(0,1)，默认值为0.00001。 max_iterations 否 Integer

查看更多 →

系统函数兼容性概述 GaussDB数据库兼容绝大多数MySQL的系统函数，但存在部分差异。 除特别说明外，MySQL兼容性B模式中的函数行为默认为GaussDB原生行为。 GaussDB MySQL兼容性的绝大部分系统函数目前均存在返回值与MySQL精度不一致（结果后面0的位数）的问

查看更多 →

另外，PBE与用户自定义变量一起使用的场景。如果满足上述条件，MySQL会按照30位精度输出；否则，MySQL会按照原数据精度输出，而GaussDB始终按照30位精度输出，例如： MySQL的行为： -- 满足上述条件： mysql> SET @var6=12.1234567891; Query

查看更多 →

日期与时间数据类型 表1 日期与时间数据类型 MySQL数据库 GaussDB数据库 差异 DATE 支持，存在差异 GaussDB支持date数据类型，与MySQL相比规格上存在如下差异： 反斜杠\在MySQL和GaussDB中都视为转义，但MySQL支持\0，GaussDB暂不支持，因

查看更多 →

BY子句时，不对结果进行排序，MySQL会进行排序。当参数为非表字段时，MAX函数返回值类型和MySQL 5.7不一致。 开启精度传递时，MAX函数嵌套time、date、datetime、timestamp类型的时间间隔运算，返回值及返回类型与MySQL 8.0保持一致。 开启精度传递时，MAX

查看更多 →

位置精度（position_confidence） 数值 含义 0 不具备或不可用 1 500米 2 200米 3 100米 4 50米 5 20米 6 10米 7 5米 8 2米 9 1米 10 0.5米 11 0.2米 12 0.1米 13 0.05米 14 0.02米 15

查看更多 →

固定精度型 名称 描述 存储空间 取值范围 字面量 DECIMAL 固定精度的十进制数。精度最高支持到38位，但精度小于18位能保障性能最好。 Decimal有两个输入参数： precision：总位数，默认38 scale：小数部分的位数，默认0 说明： 如果小数位为零，即十进制（38

查看更多 →

推理精度测试 本章节介绍如何进行推理精度测试，请在Notebook的JupyterLab中另起一个Terminal，进行推理精度测试。 Step1 配置精度测试环境 获取精度测试代码。精度测试代码存放在代码包AscendCloud-LLM的llm_tools/llm_evaluation目录中，代码目录结构如下。

查看更多 →

推理精度测试 本章节介绍如何进行推理精度测试，数据集是ceval_gen、mmlu_gen、math_gen、gsm8k_gen、humaneval_gen。 前提条件 确保容器可以访问公网。 Step1 配置精度测试环境 获取精度测试代码。精度测试代码存放在代码包AscendC

查看更多 →

模态模型的精度验证。多模态模型的精度验证，建议使用开源MME数据集和工具（GitHub - BradyFU/Awesome-Multimodal-Large-Language-Models at Evaluation）。 步骤一：配置精度测试环境 获取精度测试代码。精度测试代码存

查看更多 →

推理精度测试 本章节介绍如何进行推理精度测试，请在Notebook的JupyterLab中另起一个Terminal，进行推理精度测试。 Step1 配置精度测试环境 获取精度测试代码。精度测试代码存放在代码包AscendCloud-LLM的llm_tools/llm_evalua

查看更多 →

推理精度测试 本章节介绍两个精度测评工具。如何使用opencompass工具开展语言模型的推理精度测试，数据集是ceval_gen、mmlu_gen、math_gen、gsm8k_gen、humaneval_gen；以及使用lm-eval工具开展语言模型的推理精度测试，数据集包含

查看更多 →

推理精度测试 本章节介绍如何使用lm-eval工具开展语言模型的推理精度测试，数据集包含mmlu、ARC_Challenge、GSM_8k、Hellaswag、Winogrande、TruthfulQA等。 约束限制 确保容器可以访问公网。 当前的精度测试仅适用于语言模型精度验证

查看更多 →

推理精度测试 本章节介绍如何使用lm-eval工具开展语言模型的推理精度测试，数据集包含mmlu、ARC_Challenge、GSM_8k、Hellaswag、Winogrande、TruthfulQA等。 约束限制 确保容器可以访问公网。 当前的精度测试仅适用于语言模型精度验证

查看更多 →