下会产生差异。MySQL会完整显示数字（并且当数字长度超过82时，MySQL会给出错误的结果。）， GaussDB 依然将超长数字解析为一个double精度的值。考虑到超长数字内部都是使用浮点数进行储存，进行运算时无论GaussDB还是MySQL都会有精度丢失，建议您使用字符串来储存超长数字。

查看更多 →

精度函数 HLL（HyperLogLog）主要存在三种模式Explicit，Sparse，Full。当数据规模比较小的时候会使用Explicit模式和Sparse模式， 这两种模式在计算结果上基本上没有误差。 随着distinct值越来越多，就会转换成Full模式，但结果也会存在

查看更多 →

下会产生差异。MySQL会完整显示数字（并且当数字长度超过82时，MySQL会给出错误的结果。），GaussDB依然将超长数字解析为一个double精度的值。考虑到超长数字内部都是使用浮点数进行储存，进行运算时无论GaussDB还是MySQL都会有精度丢失，建议您使用字符串来储存超长数字。

查看更多 →

79E+308，15位十进制数字精度。 DOUBLE(p,s) 精度p取值范围为[1,1000]，标度s取值范围为[0,p]。 未指定精度和标度的情况下，默认精度p为10，标度s为0。 该类型映射为NUMERIC，使用场景参考NUMERIC。 用户声明精度。每四位（十进制位）占用两个

查看更多 →

请参见Elasticsearch/ 云搜索服务 （ CSS ）数据库迁移时支持的数据类型。 MySQL数据库迁移时支持的数据类型 源端为MySQL数据库，目的端为Hive、DWS时，支持的数据类型如下： 表2 开源MySQL数据库作为源端时支持的数据类型 类别 类型 简要释义 存储格式示例

查看更多 →

请参见Elasticsearch/ 云搜索 服务（ CS S）数据库迁移时支持的数据类型。 MySQL数据库迁移时支持的数据类型 源端为MySQL数据库，目的端为Hive、DWS时，支持的数据类型如下： 表2 开源MySQL数据库作为源端时支持的数据类型 类别 类型 简要释义 存储格式示例

查看更多 →

请参见Elasticsearch/云搜索服务（CSS）数据库迁移时支持的数据类型。 MySQL数据库迁移时支持的数据类型 源端为MySQL数据库，目的端为Hive、DWS时，支持的数据类型如下： 表2 开源MySQL数据库作为源端时支持的数据类型 类别 类型 简要释义 存储格式示例

查看更多 →

作为函数/存储过程出入参、返回值时，MySQL支持功能、GaussDB语法不报错功能不支持。 表2 任意精度类型 序号 MySQL数据库 GaussDB数据库 差异 1 DECIMAL[(M[,D])] 支持 操作符：GaussDB中“^”表示指数运算，如需使用异或运算符，使用“#”替换；MySQL中“^”表示异或。

查看更多 →

作为函数/存储过程出入参、返回值时，MySQL支持功能、GaussDB语法不报错功能不支持。 表2 任意精度类型 序号 MySQL数据库 GaussDB数据库 差异 1 DECIMAL[(M[,D])] 支持 操作符：GaussDB中“^”表示指数运算，如需使用异或运算符，使用“#”替换；MySQL中“^”表示异或。

查看更多 →

数值数据类型 表1 整数类型 序号 MySQL数据库 GaussDB数据库 差异 1 BOOL 支持，存在差异 输出格式：GaussDB中SELECT TRUE/FALSE输出结果为t/f，MySQL为1/0。 MySQL：BOOL/BOOLEAN类型实际映射为TINYINT类型。

查看更多 →

。 图1 benchmark对接结果输出示例图 自动精度对比 在某些场景下，比如算子溢出、误差累积等都可能会导致模型转换前后的模型存在误差，通过精度测试节的精度校验工具可以度量模型输出的精度误差的大小。当误差较大时，可以使用精度对比工具对比转换前后的ONNX模型和OM模型。其中O

查看更多 →

数据精度 原始成本的数据精度和账单金额一致。 摊销成本需要按照四舍五入进行保留小数，因此摊销成本会存在微小的精度差异： 成本中心页面上展示的金额，均按照四舍五入规则，保留2位小数； 导出的成本明细数据，会根据成本数据的原始精度，保留8位小数。 需要进行分摊的数据包括： 包年/包月的订单金额。

查看更多 →

精度函数 HLL（HyperLogLog）主要存在三种模式Explicit，Sparse，Full。当数据规模比较小的时候会使用Explicit模式和Sparse模式， 这两种模式在计算结果上基本上没有误差。 随着distinct值越来越多，就会转换成Full模式，但结果也会存在

查看更多 →

精度对齐 精度问题是指模型从GPU设备迁移到昇腾NPU设备之后由于软硬件差异引入的精度问题。根据是否在单卡环境下，可分为单卡精度问题与多卡精度问题。多卡相对于单卡，会有卡与卡之间的通信，这可能也是精度偏差的一种来源。所以多卡的精度对齐问题相对于单卡会更复杂。不过针对多卡的精度问题

查看更多 →

unsigned最大值范围内的数字，存在不兼容。 函数入参为浮点型float(m, d)、double(m, d)、real(m, d)时精度更高，存在不兼容。 6 FIND_IN_SET() 支持 当数据库encoding = 'SQL_ASCII'时，不支持默认的大小写判断规则，即在用户不指定字符集规则的情况下，大写与小写区分判断。

查看更多 →

unsigned最大值范围内的数字，存在不兼容。 函数入参为浮点型float(m, d)、double(m, d)、real(m, d)时精度更高，存在不兼容。 6 FIND_IN_SET() 支持 当数据库encoding = 'SQL_ASCII'时，不支持默认的大小写判断规则，即在用户不指定字符集规则的情况下，大写与小写区分判断。

查看更多 →

推理精度测试 本章节介绍如何进行推理精度测试。 Step1 准备数据集 精度测试需要数据集进行测试。推荐公共数据集mmlu和ceval。下载地址： 表1 精度测试数据集 数据集名称 下载地址 下载说明 mmlu https://huggingface.co/datasets/cais/mmlu

查看更多 →

精度问题处理 设置高精度并重新转换模型 在转换模型时，默认采用的精度模式是fp16，如果转换得到的模型和标杆数据的精度差异比较大，可以使用fp32精度模式提升模型的精度（这块无需全换成fp32，fp32相对于fp16性能较差，所以一般检测出来哪个模型精度有问题时，再尝试是否用fp

查看更多 →

BINARY_FLOAT - FLOAT 支持 BINARY_DOUBLE - DOUBLE 支持 DATE - DATETIME 支持 TIMESTAMP - DATETIME 支持 TIMESTAMP WITH TIME ZONE 精度支持6位 TIMESTAMP 支持 TIMESTAMP

查看更多 →

BINARY_FLOAT - FLOAT 支持 BINARY_DOUBLE - DOUBLE 支持 DATE - DATETIME 支持 TIMESTAMP - DATETIME 支持 TIMESTAMP WITH TIME ZONE 精度支持6位 TIMESTAMP 支持 TIMESTAMP

查看更多 →

将INTEGER数据类型转换为INTEGER，SMALLINT等类型。 根据整型类型的精度，将转换成对应的INTEGER、SMALLINT等类型。 numeric 将INTEGER数据类型转换为NUMERIC类型（默认值）。 根据整型类型的精度，将转换成对应对应精度的NUMERIC类型。 parser_gauss_sql_support

查看更多 →