文本向量化 功能介绍 将用户输入的文本转化成数字向量，多用于从向量化知识库中查询相似的文本。 URI POST https://aiae.appstage.myhuaweicloud.com/v1/embeddings 请求参数 表1 请求Header参数 参数 是否必选 参数类型

查看更多 →

使用AWQ量化 AWQ(W4A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见表3。 本章节介绍如何使用AWQ量化工具实现推理量化。 量化方法：per-group Step1 模型量化 可以在Huggingfac

查看更多 →

使用GPTQ量化 当前版本使用GPTQ量化仅支持W8A16 perchannel的量化形式，使用W8A16的量化不仅可以保证精度在可接受的范围内，同时也有一定的性能收益。 GPTQ W8A16量化支持的模型请参见表1。 本章节介绍如何在GPU的机器上使用开源GPTQ量化工具GPTQ

查看更多 →

使用GPTQ量化 当前版本使用GPTQ量化仅支持W8A16 perchannel的量化形式，使用W8A16的量化不仅可以保证精度在可接受的范围内，同时也有一定的性能收益。 GPTQ W8A16量化支持的模型请参见表3。 本章节介绍如何在GPU的机器上使用开源GPTQ量化工具GPTQ

查看更多 →

使用GPTQ量化 当前版本使用GPTQ量化仅支持W8A16 perchannel的量化形式，使用W8A16的量化不仅可以保证精度在可接受的范围内，同时也有一定的性能收益。 GPTQ W8A16量化支持的模型请参见支持的模型列表和权重文件。 本章节介绍如何在GPU的机器上使用开源GPTQ量化工具GPTQ

查看更多 →

使用AWQ量化 AWQ(W4A16/W8A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见表3。 本章节介绍如何使用AWQ量化工具实现推理量化。 量化方法：W4A16 per-group/per-channel，W8A16

查看更多 →

使用GPTQ量化 当前版本使用GPTQ量化仅支持W8A16 perchannel的量化形式，使用W8A16的量化不仅可以保证精度在可接受的范围内，同时也有一定的性能收益。 GPTQ W8A16量化支持的模型请参见支持的模型列表和权重文件。 本章节介绍如何在GPU的机器上使用开源GPTQ量化工具GPTQ

查看更多 →

使用AWQ量化 AWQ(W4A16/W8A16)量化方案能显著降低模型显存以及需要部署的卡数。降低小batch下的增量推理时延。支持AWQ量化的模型列表请参见表3。 本章节介绍如何使用AWQ量化工具实现推理量化。 量化方法：W4A16 per-group/per-channel，W8A16

查看更多 →

监控安全风险 使用场景 用户在使用ROMA Exchange的过程中会不断发送PUT、GET类的请求，可能会遇到服务端返回的错误响应。 为使用户更好地掌握ROMA Exchange的状态，华为云提供了 云监控服务 （Cloud Eye）。用户可使用该服务监控自己的ROMA Excha

查看更多 →

监控安全风险 监控指标 云数据库 GeminiDB提供基于云监控服务CES的资源和操作监控能力，帮助用户监控账号下的GeminiDB实例，执行自动实时监控、告警和通知操作。用户可以实时掌握实例运行过程中产生的运行指标和存储用量等信息。 关于GeminiDB Redis支持的监控指

查看更多 →

监控安全风险 监控是保持云连接可靠性、可用性和性能的重要部分，通过监控，用户可以观察云连接资源。为使用户更好地掌握自己的云连接运行状态，公有云平台提供了云监控。您可以使用该服务监控您的云连接，执行自动实时监控、告警和通知操作，帮助您更好地了解云连接的各项性能指标。 关于云连接服务

查看更多 →

监控安全风险 云监控服务，为用户提供一个针对CloudPond内资源的立体化监控平台。使用户全面了解CloudPond上的资源使用情况、业务的运行状况，并及时收到异常告警做出反应，保证业务顺畅运行。 用户开通云监控后，CES可以查看小站内 云服务器 、带宽、弹性公网IP等资源的使用情

查看更多 →

监控安全风险 云桌面（Workspace）提供基于云监控服务CES的资源和操作监控能力，帮助用户对每个云桌面实例进行自动实时监控、告警和通知操作。用户可以实时掌握实例的资源占用、接入网络、接入统计、异常事件等监控等关键信息。 关于云桌面支持的监控指标，以及如何创建监控告警规则等内

查看更多 →

监控安全风险 企业路由器服务提供基于云监控服务的资源和操作监控能力，帮助用户监控账号下的企业路由器资源，执行自动实时监控、告警和通知操作，帮助您更好地了解企业路由器的各项性能指标。 关于企业路由器服务支持的监控指标，以及如何创建监控告警规则等内容，请参见监控。 父主题： 安全

查看更多 →

监控安全风险 OBS提供基于云监控服务CES的资源和操作监控能力，帮助用户监控账号下的OBS桶，执行自动实时监控、告警和通知操作。用户可以实时掌握桶中所产生的各类请求、流量、带宽、错误响应和存储用量等信息。 关于OBS支持的监控指标，以及如何创建监控告警规则等内容，请参见监控。

查看更多 →

监控安全风险 EdgeSec已对接云监控服务（Cloud Eye，CES），可以通过管理控制台，查看EdgeSec的相关指标，及时了解EdgeSec防护状况，并通过指标设置防护策略。CES服务是华为云为用户提供一个针对各种云上资源的立体化监控平台，用户通过云监控服务可以全面了解云

查看更多 →

监控安全风险 云监控服务为用户提供一个针对云数据库、云 服务器 等资源的立体化监控平台。使您全面了解云上的资源使用情况、业务的运行状况，并及时收到异常告警做出反应，保证业务顺畅运行。 DRS提供基于云监控服务的资源和操作监控能力，例如CPU使用率、网络吞吐量的等。通过设置 数据复制服务

查看更多 →

监控安全风险 全球加速服务提供基于云监控服务的资源和操作监控能力，帮助用户监控账号下的全球加速资源，执行自动实时监控、告警和通知操作，帮助您更好地了解全球加速的各项性能指标。 关于全球加速服务支持的监控指标，以及如何创建监控告警规则等内容，请参见监控。 父主题： 安全

查看更多 →

监控安全风险 DDoS通过多种方式提供监控数据。 查看DDoS数据报表 DDoS控制台提供防护监控数据。用户可以通过DDoS控制台查看防护资源的监控信息。详细如下： 子服务 监控对象 监控内容 详细 DDoS原生基础防护 公网IP 包括当前防护状态、当前防护配置参数、24小时的流量情况、24小时的异常事件等。

查看更多 →

监控安全风险 CTS 通过关键操作通知监控安全风险，保障数据安全可靠。 表1 CTS的监控安全风险 监控安全风险 简要说明 详细介绍 关键操作通知 云审计 服务在记录某些特定关键操作时，支持对这些关键操作通过消息通知服务实时向相关订阅者发送通知，该功能由云审计服务触发，消息通知服务（SMN）完成通知发送。

查看更多 →

监控安全风险 云监控服务为用户提供一个针对云数据库、云服务器等资源的立体化监控平台。使您全面了解云上的资源使用情况、业务的运行状况，并及时收到异常告警做出反应，保证业务顺畅运行。 监控指标 GaussDB 提供基于云监控服务的资源和操作监控能力，例如CPU使用率、网络吞吐量等。支持

查看更多 →