推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 使用GPTQ量化 使用llm-compressor工具量化 父主题： 主流开源大模型基于Lite Server适配PyTorch NPU推理指导（6.3.910）

查看更多 →

--per-token：激活值量化方法，若指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，若指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考步骤六 启

查看更多 →

内容数据量化 SOW中搬迁资源量以及工作内容描述补充说明内容需数据量化。 父主题： SOW（项目工作说明书）注意事项

查看更多 →

。 单击“保存”。 使用轻量化模型卡片 已添加“轻量化模型”卡片到角色桌面，并且已上传文件进行轻量化转换。如果您还没有进行轻量化转换，卡片内容为空。 您可以参见轻量化模型转换API，调用相应的API上传待轻量化转换的文件，查询轻量化转换的任务和下载轻量化文件。 在卡片左侧的列表中

查看更多 →

轻量化模型转换API 开发概述 上传图纸文件 查询轻量化任务状态 父主题： IPDCenter基础服务API

查看更多 →

向量化执行引擎 GS_232010001 错误码： [SonicHashJoin]: The memory of the current statement is not controlled. 解决方案：请设置hashjoin_spill_strategy为0-2。 level：

查看更多 →

ight-activation量化和kvcache量化。 量化的一般步骤是：1、对浮点类型的权重镜像量化并保存量化完的权重；2、使用量化完的权重进行推理部署。 什么是W4A16量化 W4A16量化方案能显著降低模型显存以及需要部署的卡数（约75%）。大幅降低小batch下的增量推理时延。

查看更多 →

查询轻量化任务状态 功能介绍 查询轻量化任务状态 图纸上传完成后，即可调用该接口获取图纸轻量化转换状态，该接口可能需要调用多次，直到返回的数据轻量化状态为SUCCESS或FAILED，即代表轻量化转换结束。 如果轻量化状态为SUCCESS，则代表图纸轻量化转换成功，此时可通过li

查看更多 →

ight-activation量化和kvcache量化。 量化的一般步骤是：1、对浮点类型的权重镜像量化并保存量化完的权重；2、使用量化完的权重进行推理部署。 什么是W4A16量化 W4A16量化方案能显著降低模型显存以及需要部署的卡数（约75%）。大幅降低小batch下的增量推理时延。

查看更多 →

对称量化。 权重量化支持per-channel，支持非对称量化。 Deepseek-v2系列模型的W8A8量化需要使用llm-compressor工具。 SmoothQuant量化模型 本章节介绍如何使用SmoothQuant量化工具实现推理量化。 SmoothQuant量化工具

查看更多 →

查询数据分析状态 功能介绍 根据数据集ID查询数据集的分析任务状态。 URI URI格式 GET /softcomai/datalake/v1.0/datasStatistics/status/{datasetId} 参数说明 参数名 是否必选 参数类型 备注 datasetId

查看更多 →

W8A16量化 什么是W8A16量化 使用W8A16的量化不仅可以保证精度在可接受的范围内，同时也有一定的性能收益。 约束限制 只支持GPTQ W8A16 perchannel量化，只支持desc_act=false。 GPTQ W8A16量化支持的模型请参见支持的模型列表。 步骤一：量化模型权重

查看更多 →

查询数据分析状态 功能介绍 根据数据集ID查询数据集的分析任务状态。 URI URI格式 GET /softcomai/datalake/v1.0/datasStatistics/status/{datasetId} 参数说明 参数名 是否必选 参数类型 备注 datasetId

查看更多 →

提交数据分析请求 功能介绍 管理员在数据集详情页面数据分析分页，提交数据分析请求。 URI URI格式 PUT /softcomai/datalake/v1.0/datasStatistics 参数说明 无。 请求 请求样例 PUT https://console.ulanqab

查看更多 →

数据分析仪 数据分析仪提供简单快捷的数据提取与操作方式，对数据进行智能化加工，同时预置多种常用的图表类型，用户可根据数据的类型和实际需求自主选择，便于直观的获取相关数据。数据分析仪不仅支持数值的表格和图表分析，还支持对图数据库的资产进行可视化图谱分析。 使用场景 自助数据分析，查看并导出分析结果。

查看更多 →

实时OLAP数据分析 实时OLAP场景介绍 离线数据加载：通过 CDM 将Hive外表数据迁移到Doris 离线数据加载：通过Doris Catalog读取Hive外表数据并写入Doris 离线数据加载：通过Doris Catalog读取RDS-MySQL数据并写入Doris 离线数

查看更多 →

网站数据分析场景 使用Superset从MySQL中获取数据进行分析 父主题： 搭建应用

查看更多 →

责统计数据的人员，您希望他们拥有IoT数据分析服务的查看权限，但是不希望他们拥有增删或者改动IoT数据分析服务资源等高危操作的权限，那么您可以使用IAM为开发人员创建用户，通过授予仅能使用IoT数据分析服务的查看操作，控制他们对IoT数据分析服务资源的使用范围。 如果华为云账号已

查看更多 →

对称量化。 权重量化支持per-channel，支持非对称量化。 Deepseek-v2系列模型的W8A8量化需要使用llm-compressor工具。 SmoothQuant量化模型 本章节介绍如何使用SmoothQuant量化工具实现推理量化。 SmoothQuant量化工具

查看更多 →

W8A16量化 什么是W8A16量化 使用W8A16的量化不仅可以保证精度在可接受的范围内，同时也有一定的性能收益。 约束限制 只支持GPTQ W8A16 perchannel量化，只支持desc_act=false。 GPTQ W8A16量化支持的模型请参见支持的模型列表。 步骤一：量化模型权重

查看更多 →

支持kv-cache-int8量化和FP16、BF16、AWQ、SmoothQuant的组合。 kv-cache-int8量化支持的模型请参见支持的模型列表。 per-token动态量化场景 使用该场景量化方法，无需提前生成量化权重。推理前向会自动计算kv-cache量化系数，并进行kv的量化。 在启

查看更多 →