安装插件，这一步安装插件受网络影响安装时间可能比较长，建议普通用户选择推荐安装； 右侧灰色背景框是插件可选框，可以理解为插件自定义选择安装，建议有一些经验的用户使用；本演示教程已经典安装模式为例。 图4 插件安装2 开始安装插件包，在右侧可以看到事实的安装日志。绿色对勾表示安装成功 创建Admin用户

查看更多 →

安装配置Agent 修改DNS与添加安全组（Linux） 修改DNS与添加安全组（Windows） 手动配置Agent（Linux，可选） 手动配置Agent（Windows，可选） 父主题： 云监控插件（Agent）

查看更多 →

网络下。 Sermant Agent开源版本要求1.0.3及以上。 接入流程 基于E CS 将应用接入ServiceComb引擎流程如下： 虚机部署的应用通过Sermant Agent接入到ServiceComb引擎 安装Sermant Agent。 登录Linux 弹性云服务器 。 请

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

启动smoothQuant量化服务。 参考部署推理服务，使用量化后权重部署AWQ量化服务。 注：Step3 创建服务启动脚本启动脚本中，服务启动命令需添加如下命令。 -q smoothquant 或者 --quantization smoothquant --dtype=float16

查看更多 →

启动smoothQuant量化服务。 参考部署推理服务，使用量化后权重部署AWQ量化服务。 注：Step3 创建服务启动脚本启动脚本中，服务启动命令需添加如下命令。 -q smoothquant 或者 --quantization smoothquant --dtype=float16

查看更多 →

TenantProject 表1 TenantProject参数 参数 位于 参数类型 描述 tenant body String 租户名称 projectId body String id 父主题： 公共响应参数

查看更多 →

容器安装与配置 为集群安装Agent 修改集群Agent安装信息 管理集群Agent 查看集群节点列表和权限列表 管理非集群节点Agent 接入三方镜像仓

查看更多 →

主机安装与配置 Agent管理

查看更多 →

UniAgent 安装与配置 安装UniAgent 批量操作UniAgent 批量操作其他插件 其他相关操作 父主题： 采集设置

查看更多 →

安装配置Grafana 在Windows上安装配置Grafana 在Linux上安装配置Grafana 在Notebook上安装配置Grafana 父主题： 使用Grafana查看AOM中的监控指标

查看更多 →

网络下。 Sermant Agent开源版本要求1.0.3及以上。 接入流程 基于ECS将应用接入ServiceComb引擎流程如下： 虚机部署的应用通过Sermant Agent接入到ServiceComb引擎 安装Sermant Agent。 登录Linux弹性 云服务器 。 请

查看更多 →

“迁移阶段/实时状态”列，单击“设置目的端”，进入迁移配置页面。 在“迁移配置”页面的基本配置页签，展开“特殊迁移路径（可选）”。 根据参数配置说明，配置数据是否压缩、压缩进程数量以及缓冲节点大小等特殊配置信息。 参数 配置说明 迁移过程数据是否压缩 选择“是”，迁移时，进行数据压缩，可以设置“压缩线程个数”。

查看更多 →

配置漏洞管理服务Linux主机授权 操作场景 该任务指导用户通过漏洞管理服务对已添加的Linux主机授权信息进行编辑。 前提条件 已获取管理控制台的登录账号与密码。 已添加Linux主机。 操作步骤 登录管理控制台。 在左侧导航树中，单击，选择“服务列表 > 开发与运维 > 漏洞管理服务”，进入漏洞管理服务页面。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

Linux中安装客户端时提交Storm拓扑 操作场景 在Linux环境下可以使用storm命令行完成拓扑的提交。 前提条件 已安装Storm客户端。 当客户端所在主机不是集群中的节点时，需要在客户端所在节点的hosts文件中设置主机名和IP地址映射。主机名和IP地址请保持一一对应。

查看更多 →

Linux中安装客户端时提交Storm拓扑 操作场景 在Linux环境下可以使用storm命令行完成拓扑的提交。 前提条件 已安装Storm客户端。 当客户端所在主机不是集群中的节点时，需要在客户端所在节点的hosts文件中设置主机名和IP地址映射。主机名和IP地址请保持一一对应。

查看更多 →

安装步骤，您可针对需要安装的软件查看对应的内容： 安装NVIDIA驱动 安装CUDA驱动 安装Docker 安装nvidia-fabricmanager 以下提供常见的配置场景，您可查看相关文档方便您快速配置： GP Vnt1 裸金属服务器 EulerOS 2.9安装NVIDIA 515+CUDA

查看更多 →

60软件版本已经修改该问题。） 安装方法: Docker安装方法请参见https://docs.docker.com/install/overview/。 或使用华为云开源安装方法：https://mirrors.huaweicloud.com/home中搜索Docker-CE; docker安装的依赖包过多，推荐参照华为云开源安装。

查看更多 →