华为云帮助中心，为用户提供产品简介、价格说明、购买指南、用户指南、API参考、最佳实践、常见问题、视频帮助等技术文档，帮助您快速上手使用华为云服务。

查看更多 →

华为云帮助中心，为用户提供产品简介、价格说明、购买指南、用户指南、API参考、最佳实践、常见问题、视频帮助等技术文档，帮助您快速上手使用华为云服务。

查看更多 →

使用AWQ量化 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见表3。 本章节介绍如何使用AWQ量化工具实现推理量化。 量化方法：per-group Step1 模型量化 可以在Huggingfac

查看更多 →

推理模型量化 使用AWQ量化工具转换权重 使用SmoothQuant量化工具转换权重 使用kv-cache-int8量化 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.906）

查看更多 →

单击“保存”。 使用轻量化模型卡片 已添加“轻量化模型”卡片到角色桌面，并且已上传文件进行轻量化转换。如果您还没有进行轻量化转换，卡片内容为空。 您可以参见轻量化模型转换API，调用相应的API上传待轻量化转换的文件，查询轻量化转换的任务和下载轻量化文件。 在卡片左侧的列表中选

查看更多 →

推理模型量化 使用AWQ量化 使用SmoothQuant量化 使用kv-cache-int8量化 父主题： 主流开源大模型基于DevServer适配PyTorch NPU推理指导（6.3.906）

查看更多 →

--per-token：激活值量化方法，若指定则为per-token粒度量化，否则为per-tensor粒度量化。 --per-channel：权重量化方法，若指定则为per-channel粒度量化，否则为per-tensor粒度量化。 启动smoothQuant量化服务。 参考Step6

查看更多 →

下载轻量化文件 功能介绍 下载轻量化文件 文件轻量化完成后，会以目录文件夹的形式存储在系统中，通过查询轻量化任务状态能够获取到轻量化文件的存储目录，即属性lightweight_file_path的值。该目录下会存在大量的轻量化文件，这些文件信息会存储在该目录下的Configurations

查看更多 →

内容数据量化 SOW中搬迁资源量以及工作内容描述补充说明内容需数据量化。 父主题： SOW（项目工作说明书）注意事项

查看更多 →

监控安全风险 使用场景 用户在使用ROMA Exchange的过程中会不断发送PUT、GET类的请求，可能会遇到服务端返回的错误响应。 为使用户更好地掌握ROMA Exchange的状态，华为云提供了 云监控服务 （Cloud Eye）。用户可使用该服务监控自己的ROMA Excha

查看更多 →

监控安全风险 企业路由器服务提供基于云监控服务的资源和操作监控能力，帮助用户监控账号下的企业路由器资源，执行自动实时监控、告警和通知操作，帮助您更好地了解企业路由器的各项性能指标。 关于企业路由器服务支持的监控指标，以及如何创建监控告警规则等内容，请参见监控。 父主题： 安全

查看更多 →

监控安全风险 全球加速服务提供基于云监控服务的资源和操作监控能力，帮助用户监控账号下的全球加速资源，执行自动实时监控、告警和通知操作，帮助您更好地了解全球加速的各项性能指标。 关于全球加速服务支持的监控指标，以及如何创建监控告警规则等内容，请参见监控。 父主题： 安全

查看更多 →

监控安全风险 云监控服务为用户提供一个针对云数据库、 云服务器 等资源的立体化监控平台。使您全面了解云上的资源使用情况、业务的运行状况，并及时收到异常告警做出反应，保证业务顺畅运行。 DRS提供基于云监控服务的资源和操作监控能力，例如CPU使用率、网络吞吐量的等。通过设置 数据复制服务

查看更多 →

监控安全风险 GaussDB (DWS)提供基于云监控服务CES的监控能力，帮助用户监控账号下的DWS服务，执行自动实时监控、告警和通知操作。用户可以实时掌握DWS集群的各项指标、健康度。 了解更多请参见Cloud Eye监控集群。 父主题： 安全

查看更多 →

监控安全风险 云监控（Cloud Eye）服务是面向华为云资源的监控平台，提供了实时监控、及时告警、资源分组、站点监控等能力，使您全面了解云上资源的使用情况和业务的运行状况。 监控是保持NAT网关服务可靠性、可用性和性能的重要部分。通过云监控服务，可以按时间轴查看连接数、PPS、

查看更多 →

监控安全风险 通过云监控，可以按时间轴查看ELB的网络流量，错误日志相关情况，动态告警分析潜在风险。 通过 云审计 可以实时监控ELB资源更新日志，针对风险动作实时告警，动态监控云上资源安全。 父主题： 安全

查看更多 →

监控安全风险 DDoS通过多种方式提供监控数据。 查看DDoS数据报表 DDoS控制台提供防护监控数据。用户可以通过DDoS控制台查看防护资源的监控信息。详细如下： 子服务 监控对象 监控内容 详细 DDoS原生基础防护 公网IP 包括当前防护状态、当前防护配置参数、24小时的流量情况、24小时的异常事件等。

查看更多 →

监控安全风险 OBS提供基于云监控服务CES的资源和操作监控能力，帮助用户监控账号下的OBS桶，执行自动实时监控、告警和通知操作。用户可以实时掌握桶中所产生的各类请求、流量、带宽、错误响应和存储用量等信息。 关于OBS支持的监控指标，以及如何创建监控告警规则等内容，请参见监控。

查看更多 →

监控安全风险 监控指标 云数据库 GeminiDB提供基于云监控服务CES的资源和操作监控能力，帮助用户监控账号下的GeminiDB实例，执行自动实时监控、告警和通知操作。用户可以实时掌握实例运行过程中产生的运行指标和存储用量等信息。 关于GeminiDB Redis支持的监控指

查看更多 →

监控安全风险 云监控服务为用户提供一个针对云数据库、云 服务器 等资源的立体化监控平台。使您全面了解云上的资源使用情况、业务的运行状况，并及时收到异常告警做出反应，保证业务顺畅运行。 监控指标 GaussDB提供基于云监控服务的资源和操作监控能力，例如CPU使用率、网络吞吐量等。支持

查看更多 →

监控安全风险 MRS 的Manager界面提供集群级别的监控能力，帮助用户监控集群中大数据组件和节点的健康状态，同时提供告警通知能力，用户可以实时掌握MRS集群的各项指标、健康度。 更多详情请参见查看和定制集群监控指标和管理组件和主机监控。 父主题： 安全

查看更多 →