使用llm-compressor工具量化 当前版本使用llm-compressor工具量化仅支持Deepseek-v2系列模型的W8A8量化。 本章节介绍如何在GPU的机器上使用开源量化工具llm-compressor量化模型权重，然后在NPU的机器上实现推理量化。 具体操作如下：

查看更多 →

使用AWQ量化工具转换权重 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见支持的模型列表和权重文件。 本章节介绍如何在Notebook使用AWQ量化工具实现推理量化，量化方法为per-group。

查看更多 →

过autoAWQ工具进行量化。 方式一：从开源社区下载发布的AWQ量化模型。 https://huggingface.co/models?sort=trending&search=QWEN+AWQ 方式二：使用AutoAWQ量化工具进行量化。 1、使用该量化工具，需要切换conda环境。

查看更多 →

第三方工具使用 OBS使用指南 VLC使用指南

查看更多 →

息的方式，第一种通过配置文件获取，具体配置项请参考开源sqoop-shell工具使用示例（SFTP - HDFS）、开源sqoop-shell工具使用示例（Oracle - HBase）；第二种方式则使用参数直接提供认证信息，这个方式有两种模式：密码模式和Kerberos认证模式。

查看更多 →

使用BulkLoad工具批量导入HBase数据 操作场景 您可以按照自定义的方式，通过命令批量导入数据到HBase中并创建索引。 您可以在“configuration.xml”文件中定义多个方式来批量导入数据。导入数据时可不创建索引。 列的名称不能包含特殊字符，只能由字母、数字和下划线组成。

查看更多 →

使用BulkLoad工具批量更新HBase数据 操作场景 HBase BulkLoad工具支持根据RowKey的命名规则、RowKey的范围、字段名以及字段值进行批量更新数据。 使用BulkLoad工具批量更新HBase数据 执行如下命令更新从“row_start”到“row_s

查看更多 →

使用BI工具连接 DLI 分析数据 BI工具连接DLI方案概述 配置DBeaver连接DLI进行数据查询和分析 配置DBT连接DLI进行数据调度和分析 配置YongHong BI连接DLI进行数据查询和分析 配置PowerBI通过Kyuubi连接DLI进行数据查询和分析 配置Fine

查看更多 →

使用CLI工具，如何配置网络代理？ 问题描述 使用CLI工具，在上传程序zip包时，是否可以设置代理 服务器 和身份认证信息，通过内部网络的代理网关认证。 问题解决 设置网络代理命令如下： export HTTP_PROXY="http://user:password@proxyIp:proxyPort"

查看更多 →

使用客户端工具连接DLI 使用JDBC提交SQL作业 使用Spark-submit提交Spark Jar作业 使用Livy提交Spark Jar作业

查看更多 →

使用Hive异常文件定位定界工具 操作场景 由于某些异常操作或者磁盘损坏等原因导致Hive存储的数据文件出现异常，异常的数据文件会导致任务运行失败或者数据结果不正确。 该工具用于对常见的非文本类的数据文件格式进行异常排查。 该章节内容仅适用 MRS 3.2.0及之后版本。 操作步骤

查看更多 →

使用AWQ量化工具转换权重 AWQ(W4A16/W8A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见支持的模型列表和权重文件。 本章节介绍如何在Notebook使用AWQ量化工具实现推理量化。 量化方法：W4A16

查看更多 →

使用AWQ量化工具转换权重 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见表1。 本章节介绍如何在Notebook使用AWQ量化工具实现推理量化，量化方法为per-group。 Step1 模型量化

查看更多 →

AIGC工具tailor使用指导 tailor简介 tailor是AIGC场景下用于模型转换（onnx到mindir）和性能分析的辅助工具，当前支持以下功能。 表1 功能总览 功能大类 具体功能 模型转换 固定shape转模型 动态shape传入指定档位转模型 支持fp32 支持AOE优化

查看更多 →

iling采集工具集成到同一个工具中，极大简化了用户的使用流程。建议在迁移过程中使用Tailor工具替代下面列举的原始工具MS Convertor、Benchmark和msprof。使用指导详见AIGC工具tailor使用指导。 模型转换工具 离线转换模型功能的工具MSLite

查看更多 →

使用BulkLoad工具批量删除HBase数据 操作场景 BulkLoad工具支持根据rowkey的取值模式、范围、字段名、字段值对HBase数据做批量删除。 使用BulkLoad工具批量删除HBase数据 执行如下命令删除从“row_start”到“row_stop”的行，并且

查看更多 →

为什么函数实际使用内存大于预估内存，甚至触发OOM？ 函数调用过程中，运行时会解析和缓存传入的event事件, 这部分操作会消耗额外的内存。 函数调用结束后，回收的内存首先会放入内部内存池中，并不一定归还给操作系统，导致内存偏高，在高并发场景下这种现象会更加明显。 父主题： 函数执行

查看更多 →

资源监控使用说明 满足内置发现规则的服务，安装ICAgent后该服务会自动被发现；对于不满足内置应用发现规则的服务，您则需配置应用发现规则。 资源监控使用说明如下： 图1 资源监控使用说明 父主题： 资源监控

查看更多 →

使用CES监控云专线 监控云专线 支持的基础监控指标 支持的网络质量监控指标（安装Agent） 设置告警规则 查看监控指标

查看更多 →

使用CES监控云备份 查询云备份基础监控数据 创建告警规则

查看更多 →

方式通知您。 配置监控对象：为集群或集群中某个节点配置监控指标。 查看集群的监控信息：您可以选择不同的监控时间周期，查看监控指标数据变化情况。 推荐配置的监控指标 集群的日常监控，推荐重点配置如下监控指标：磁盘使用率、集群健康状态。 监控集群的cpu、jvm使用情况，推荐重点配置

查看更多 →