模型精度调优 场景介绍 精度问题诊断 精度问题处理 父主题： 基于AIGC模型的GPU推理业务迁移至昇腾指导

查看更多 →

r1/保持一致。 使用MME精度测评工具进行多模态模型精度评测 MME数据集获取。 请用户自行获取MME评估集，将MME评估集上传至llm_tools/llm_evaluation/mme_eval/data/eval/目录中。 获取精度测试代码。精度测试代码存放在代码包Asce

查看更多 →

ter1/保持一致。 使用MME精度测评工具进行精度评测 MME数据集获取。 请用户自行获取MME评估集，将MME评估集上传至llm_tools/llm_evaluation/mme_eval/data/eval/目录中。 获取精度测试代码。精度测试代码存放在代码包AscendC

查看更多 →

FLOAT4 单精度浮点数，不精准。 4字节。 -3.402E+38~+3.402E+38，6位十进制数字精度。 DOUBLE PRECISION, FLOAT8 双精度浮点数，不精准。 8字节。 -1.79E+308~+1.79E+308，15位十进制数字精度。 FLOAT[(p)]

查看更多 →

DECIMAL(M,D) 可选择精度的精确数字。 NUMERIC(M,D) NUMERIC(M,D) 与NUMERIC等效。 REAL REAL 单精度浮点数（4字节）。 DOUBLE DOUBLE 即DOUBLE PRECISION，也可用没有精度的FLOAT表示，双精度浮点数（8字节）。 日期时间

查看更多 →

DECIMAL(M,D) 可选择精度的精确数字。 NUMERIC(M,D) NUMERIC(M,D) 与NUMERIC等效。 REAL REAL 单精度浮点数（4字节）。 DOUBLE DOUBLE 即DOUBLE PRECISION，也可用没有精度的FLOAT表示，双精度浮点数（8字节）。 日期时间

查看更多 →

372036854775807】 浮点类型 Float32 单精度浮点数 同C语言Float类型，单精度浮点数在机内占4个字节，用32位二进制描述。 Float64 双精度浮点数 同C语言Double类型，双精度浮点数在机内占8个字节，用64位二进制描述。 Decimal类型 Decimal

查看更多 →

。 在精度和标度指定最大的情况下，小数点前最大131,072位，小数点后最大16,383位。 DOUBLE PRECISION, FLOAT8 双精度浮点数，不精准。 8字节。 -1.79E+308~+1.79E+308，15位十进制数字精度。 DOUBLE 双精度浮点数，不精准。

查看更多 →

PyTorch迁移精度调优 精度问题概述 精度调优总体思路 精度调优前准备工作 msprobe精度分析工具使用指导 父主题： GPU训练业务迁移至昇腾的通用指导

查看更多 →

精度达标，然后再恢复层数拉起多机训练。 若单机精度正常但多机精度异常，有可能是多机通信造成的精度问题，此时可以用精度工具的通信精度检测功能进行定位。部分集合通信算子要求通信域内各rank结果一致，如AllReduce、AllGather等，利用这一特性，工具将多机模型训练中产生的

查看更多 →

否 Integer 参数说明：定义用椭圆模型表示的GNSS系统精度中半长轴的大小,单位为0.05米。 最小值：0 最大值：255 semiMinor 否 Integer 参数说明：定义用椭圆模型表示的GNSS系统精度中半短轴的大小,单位为0.05米。 最小值：0 最大值：255 orientation

查看更多 →

4字节 6位十进制数字精度。 DOUBLE PRECISION, FLOAT8 双精度浮点数，不精准。 8字节 1E-307~1E+308， 15位十进制数字精度。 FLOAT[(p)] 浮点数，不精准。精度p取值范围为[1,53]。 说明： p为精度，表示总位数。 4字节或8字节

查看更多 →

4字节 6位十进制数字精度。 DOUBLE PRECISION, FLOAT8 双精度浮点数，不精准。 8字节 1E-307~1E+308， 15位十进制数字精度。 FLOAT[(p)] 浮点数，不精准。精度p取值范围为[1,53]。 说明： p为精度，表示总位数。 4字节或8字节

查看更多 →

修改响应保护： 在“协议配置 > CMP配置”页面，选择“响应保护配置”页签，单击右侧的“修改”，修改该响应保护配置信息。 修改响应保护配置信息时，名称不可变更。 删除响应保护： 在“协议配置 > CMP配置”页面，选择“响应保护配置”页签，单击右侧的“删除”，删除该响应保护。

查看更多 →

5xx： 服务器 端错误，服务器未能实现合法的请求。 Reason-Phrase：表示状态代码的文本描述。 响应报头 响应的消息报头在大多数情况下含如公共响应消息头参数所示的响应报头。 响应正文 响应正文为JSON格式的文本。 父主题： 接口使用方法

查看更多 →

公共响应参数 公共响应参数如表 公共响应参数所示。 表1 公共响应参数 参数名 说明 Content-Length 响应消息体的字节长度，单位为Byte。 Date 系统响应的时间。 Content-type 发送的实体的MIME类型。 Upgrade 发送WebSocket握手

查看更多 →

识别结果响应 服务端在收到客户端发送的连续音频数据后， 当服务端识别出结果后会实时向客户端按句推送识别结果响应消息， 以json字符串形式放置在text message中。 响应消息 表1 响应参数 参数名 参数类型 说明 resp_type String 响应类型。参数值为RESULT，表示识别结果响应。

查看更多 →

任务异常错误信息编码。 响应示例 正常响应： { "job_id": "ff80808288d41e1b018990260955686a" } 异常响应： { "error": {"message": "", "code": XXX，""} } 包含错误详情的异常响应： {

查看更多 →

。 需要进行转换进制的数。 参数num格式为浮点数格式、整数格式、字符串格式。 from_base 是 DOUBLE、BIGINT、DECIMAL、STRING类型。 被转换的进制from_base。 参数from_base格式为浮点数格式、整数格式、字符串格式。 to_base

查看更多 →

5次方-1范围内的所有整数。 INT 用于存储有符号整数，精度为10，标度为0。 DECIMAL 带固定精度和小数位数的数值数据类型。 FLOAT 用于存储带二进制精度的浮点数。 DOUBLE 用于存储指明双精度的浮点数。 日期时间 DATE 用于存储年、月、日信息。 TIMESTAMP

查看更多 →

5xx：服务器端错误，服务器未能实现合法的请求。 Reason-Phrase：表示状态代码的文本描述。 响应报头 响应的消息报头在大多数情况下含如表1所示的响应报头。 响应正文 响应正文为JSON格式的文本。 父主题： 接口使用方法

查看更多 →