DECIMAL(M,D) 可选择精度的精确数字 NUMERIC(M,D) NUMERIC(M,D) 与NUMERIC等效 REAL REAL 单精度浮点数（4字节） DOUBLE DOUBLE 即DOUBLE PRECISION，也可用没有精度的FLOAT表示，双精度浮点数（8字节） 位 BIT(M)

查看更多 →

如何提高识别精度 尽量使用文字清晰度高、无反光的图片。进行图片采集时，尽量提高待识别文字区域占比，减少无关背景占比，保持图片内文字清晰人眼可辨认。 若图片有旋转角度，算法支持自动修正，建议图片不要过度倾斜。 图片尺寸方面，建议最长边不超过8192像素，最短边不小于15像素，图像长宽比例维持常见水平

查看更多 →

模型精度调优 场景介绍 精度问题诊断 精度问题处理 父主题： 基于AIGC模型的GPU推理业务迁移至昇腾指导

查看更多 →

不能使用无符号的浮点数字。可以定义显示长度（M）和小数位数（D）。这不是必需的，并且默认为10，2。其中2是小数的位数，10是数字（包括小数）的总数。小数精度可以到24个浮点。 52.36 FLOAT FLOAT4 DOUBLE（M，D） 不能使用无符号的双精度浮点数。可以定义显示长度（M）和小数位数（D）。

查看更多 →

4 bigint 大范围的整数，别名为INT8。 8 decimal 任意精度型。 可变长度 numeric 任意精度型。 可变长度 real 单精度浮点数。 4 double precision 双精度浮点数。 8 smallserial 二字节序列整型。 2 serial 四字节序列整型。

查看更多 →

34'::float8::numeric::money; 这种用法是不推荐使用的。浮点数不应该用来处理货币类型，因为小数点的位数可能会导致错误。 money类型的值可以转换为numeric类型而不丢失精度。转换为其他类型可能丢失精度，并且必须通过以下两步来完成： 1 SELECT '52093.8

查看更多 →

不能使用无符号的浮点数字。可以定义显示长度（M）和小数位数（D）。这不是必需的，并且默认为10，2。其中2是小数的位数，10是数字（包括小数）的总数。小数精度可以到24个浮点。 52.36 FLOAT FLOAT4 DOUBLE（M，D） 不能使用无符号的双精度浮点数。可以定义显示长度（M）和小数位数（D）。

查看更多 →

-------- $12.34 (1 row) 这种用法是不推荐使用的。浮点数不应该用来处理货币类型，因为小数点的位数可能会导致错误。 money类型的值可以转换为numeric类型而不丢失精度。转换为其他类型可能丢失精度，并且必须通过以下两步来完成： 1 2 3 4 5 openGauss=#

查看更多 →

-------- $12.34 (1 row) 这种用法是不推荐使用的。浮点数不应该用来处理货币类型，因为小数点的位数可能会导致错误。 money类型的值可以转换为numeric类型而不丢失精度。转换为其他类型可能丢失精度，并且必须通过以下两步来完成： 1 2 3 4 5 gaussdb=#

查看更多 →

-------- $12.34 (1 row) 这种用法是不推荐使用的。浮点数不应该用来处理货币类型，因为小数点的位数可能会导致错误。 money类型的值可以转换为numeric类型而不丢失精度。转换为其他类型可能丢失精度，并且必须通过以下两步来完成： 1 2 3 4 5 gaussdb=#

查看更多 →

-------- $12.34 (1 row) 这种用法是不推荐使用的。浮点数不应该用来处理货币类型，因为小数点的位数可能会导致错误。 money类型的值可以转换为numeric类型而不丢失精度。转换为其他类型可能丢失精度，并且必须通过以下两步来完成： 1 2 3 4 5 openGauss=#

查看更多 →

-------- $12.34 (1 row) 这种用法是不推荐使用的。浮点数不应该用来处理货币类型，因为小数点的位数可能会导致错误。 money类型的值可以转换为numeric类型而不丢失精度。转换为其他类型可能丢失精度，并且必须通过以下两步来完成： 1 2 3 4 5 gaussdb=#

查看更多 →

-------- $12.34 (1 row) 这种用法是不推荐使用的。浮点数不应该用来处理货币类型，因为小数点的位数可能会导致错误。 money类型的值可以转换为numeric类型而不丢失精度。转换为其他类型可能丢失精度，并且必须通过以下两步来完成： 1 2 3 4 5 gaussdb=#

查看更多 →

DIS SDK能做什么 DIS概述 数据接入服务 （Data Ingestion Service）为处理或分析流数据的自定义应用程序构建数据流管道，主要解决云服务外的数据实时传输到云服务内的问题。数据接入服务每小时可从数十万种数据源（如日志和定位追踪事件、网站点击流、社交媒体源等）中连续捕获、传送和存储数TB数据。

查看更多 →

PyTorch迁移精度调优 引言 精度校验 精度调优总体思路 准备工作 问题复现 Msprobe工具使用指导 父主题： GPU训练业务迁移至昇腾的通用指导

查看更多 →

将模型转为单机训练等，这样会大大降低后续定位的难度。 根据精度问题现象可以选择合适的定位方式，Msprobe是MindStudio Training Tools工具链下精度调试部分的工具包，主要包括精度预检、溢出检测和精度比对等功能，通过采集和对比标杆（GPU/CPU）环境和昇腾

查看更多 →

34'::float8::numeric::money; 这种用法是不推荐使用的。浮点数不应该用来处理货币类型，因为小数点的位数可能会导致错误。 money类型的值可以转换为numeric类型而不丢失精度。转换为其他类型可能丢失精度，并且必须通过以下两步来完成： 1 SELECT '52093.8

查看更多 →

。 需要进行转换进制的数。 参数num格式为浮点数格式、整数格式、字符串格式。 from_base 是 DOUBLE、BIGINT、DECIMAL、STRING类型。 被转换的进制from_base。 参数from_base格式为浮点数格式、整数格式、字符串格式。 to_base

查看更多 →

8字节整数 BIGINT BIGINT 单精度浮点数 FLOAT4 (REAL) FLOAT 双精度浮点型 FLOAT8(DOUBLE PRECISION) DOUBLE 科学数据类型 DECIMAL[p (,s)] 最大支持38位精度 DECIMAL最大支持38位（HIVE 0

查看更多 →

402E+38，6位十进制数字精度。 DOUBLE PRECISION, FLOAT8 双精度浮点数，不精准。 8字节。 -1.79E+308~+1.79E+308，15位十进制数字精度。 FLOAT[(p)] 浮点数，不精准。精度p取值范围为[1,53]。 说明： p为精度，表示二进制总位数。

查看更多 →

- 是 是 FLOAT 单精度浮点型 4字节 - 是 是 DOUBLE 双精度浮点型 8字节 - 是 是 DECIMAL(precision,scale) 10进制精确数字类型。固定有效位数和小数位数的数据类型，例如：3.5 precision：表示最多可以表示多少位的数字。 scale：表示小数部分的位数。

查看更多 →