导入云主机的访问密钥AK/SK是什么？如何获取？ 访问密钥即AK/SK（Access Key ID/Secret Access Key），是用户通过开发工具访问云资源时的身份凭证。系统通过AK识别访问用户的身份，通过SK进行签名验证，通过加密签名验证可以确保请求的机密性、完整性和请求者身份的正确性。

查看更多 →

--tensor-parallel-size：并行卡数。 --gpu-memory-utilization：0~1之间的float，实际使用的显存是系统读取的最大显存*gpu-memory-utilization。 --max-model-len：最大数据输入+输出长度，不能超过模型配置文件config

查看更多 →

单位：个 ≥ 0 智能边缘小站，云主机资源 5分钟 vcpu_util_perflavor 云主机-单实例类型vCPU利用率 该指标为单实例类型vCPU使用率。 单位：百分比 计算公式：云主机-单实例类型vCPU使用量 / 可用总量 ≥ 0% 智能边缘小站，云主机资源 5分钟 mem_used_perflavor

查看更多 →

单位：个 ≥ 0 智能边缘小站，云主机资源 5分钟 vcpu_util_perflavor 云主机-单实例类型vCPU利用率 该指标为单实例类型vCPU使用率。 单位：百分比 计算公式：云主机-单实例类型vCPU使用量 / 可用总量 ≥ 0% 智能边缘小站，云主机资源 5分钟 mem_used_perflavor

查看更多 →

查看资源使用率 当您创建完工作负载后，您也许会非常关心每个Pod的资源利用率。 云容器实例提供了查看CPU/内存、GPU/显存的界面，您只需要在无状态负载、任务、定时任务中Pod列表的“监控”Tab下即可查看资源使用率，如图1所示。您也可以在Pod管理中查看所有Pod的资源使用率。

查看更多 →

别的故障类型如下，可通过隔离码及对应检测方法定位故障。 表1 隔离码 隔离码 分类 子类 异常中文描述 检测方法 A050101 GPU 显存 GPU ECC错误。 通过nvidia-smi -a查询到存在Pending Page Blacklist为Yes的记录，或多比特Register

查看更多 →

NPU其他错误。 检测到的其他NPU错误，通常为不可自纠正的异常，请联系技术人员支持。 发起维修流程。 NT_NPU_ECC_COUNT NPU 显存 NPU ECC次数达到维修阈值。 NPU的HBM总的多Bit Ecc隔离地址记录达到64个。 发起维修流程。 NT_NET_NTP_CHECK

查看更多 →

cpuUsage：CPU使用率 memUsage：物理内存使用率 gpuUtil：GPU使用率 gpuMemUsage：显存使用率 npuUtil：NPU使用率 npuMemUsage：NPU显存使用率 value Array of doubles 运行指标对应数值，1min统计一个平均值。 请求示例

查看更多 →

cpuUsage（CPU使用率）、memUsage（物理内存使用率）、gpuUtil（GPU使用率）、gpuMemUsage（显存使用率）、npuUtil（NPU使用率）、npuMemUsage（NPU显存使用率）。 value Array of numbers 运行指标对应数值，1min统计一个平均值。

查看更多 →

Gateway）能够为虚拟私有云内的云主机（ 弹性云服务器 、 裸金属服务器 ）或者通过云专线/VPN接入虚拟私有云的本地数据中心的 服务器 ，提供最高20Gbit/s能力的 网络地址转换 服务，使多个云主机可以共享弹性公网IP访问Internet或使云主机提供互联网服务。 公网NAT网关分为SNAT和DNAT两个功能。

查看更多 →

主机安全 与公网有交互的 云服务器 建议参考华为云主机防暴力破解解决方案进行相应的加固。主要涉及系统加固，以及主机安全产品(HIDS/AV等)的应用。 为了增加业务关键云主机的可靠性，建议(云服务器创建阶段)将同类的关键节点关联到一个云服务器组，将云主机尽量分散到不同的物理主机上(反亲和策略

查看更多 →

登录Flexus应用服务器 L实例 概述 远程登录L实例云主机（VNC方式） 远程登录Linux系统L实例云主机（CloudShell方式） 远程登录Windows系统L实例云主机（RDP文件方式） 父主题： 登录Flexus L实例及X实例

查看更多 →

会将该请求转发到目标云主机实例的指定端口上。也可通过IP映射方式，为云主机配置了一个弹性公网IP，任何访问该弹性公网IP的请求都将转发到目标云主机实例上。使多个云主机共享弹性公网IP和带宽，精确的控制带宽资源。 一个云主机配置一条DNAT规则，如果有多个云主机需要为公网提供服务，

查看更多 →

Vulkan 1.0 支持CUDA和OpenCL。 支持NVIDIA T4 GPU卡，显存为16 GB。 实例可虚拟化分片： 计算性能为NVIDIA Tesla T4的1/8、1/4和1/2 显存为2 GB、4 GB和8 GB 支持图形加速应用。 支持CPU重载推理应用。 自动化的

查看更多 →

特权池信息数据显示均为0%如何解决？ 问题现象 特权池基本信息页面数据均显示为0%（如CPU使用率、内存使用率、加速卡使用率、加速卡显存使用率）。 原因分析 原因是集群没有安装ICAgent。新建特权池时默认会安装ICAgent，可能由于用户自行卸载ICAgent，导致资源池数据显示异常。

查看更多 →

附录：大模型推理常见问题 问题1：在推理预测过程中遇到NPU out of memory 解决方法：调整推理服务启动时的显存利用率，将--gpu-memory-utilization的值调小。 问题2：在推理预测过程中遇到ValueError:User-specified max_model_len

查看更多 →

态势感知 > 综合大屏”，单击“主机安全态势”，查看华为云主机安全态势大屏。 查看“TOP5风险云主机”窗口，如图2。可查看TOP5风险主机的名称、主机系统和安全风险等级，并按照风险等级从高到低的依次排序。TOP5风险云主机最多展示5条。安全风险等级由高到低分别是“致命”、“高危”、“中危”、“低危”和“提示”。

查看更多 →

MEM：物理内存使用率（memUsage）百分比（Percent）。 GPU：GPU使用率（gpuUtil）百分比（Percent）。 GPU_MEM：显存使用率（gpuMemUsage）百分比（Percent）。 父主题： 查看作业详情

查看更多 →

Gateway）提供公网NAT网关和 私网NAT网关 。公网NAT网关为VPC内的云主机提供SNAT和DNAT功能，可轻松构建VPC的公网出入口。私网NAT网关为VPC内的云主机提供网络地址转换服务，使多个云主机可以共享私网IP访问用户本地数据中心或其他VPC，并支持云主机面向私网提供服务。 通过公网NAT访问集群的配置方式，具体请参见公网NAT网关。

查看更多 →

4xlarge.2|16vCPUs|32GiB40GB通用型SSD RTX5000：图形设计|16核|32GB内存|16G显存 A40：云工作站D7型|8核|32GB内存|4G显存 1 弹性公网IP 带宽费用: 独享 | 全动态BGP | 按带宽计费 | 10Mbit/s x2 1 PLM 弹性云服务器

查看更多 →

，则可以通过映射方式将您VPC内的云主机对互联网提供服务。 一个云主机的一个端口对应一条DNAT规则，一个端口只能映射到一个EIP，不能映射到多个EIP。如果您有多个云主机需要为互联网提供服务，则需要创建多条DNAT规则。 约束限制 一个云主机的一个端口对应一条DNAT规则，一个

查看更多 →