企业电商 对内存要求高、数据量大并且数据访问量大、要求快速的数据交换和处理的场景。例如广告精准营销、电商、移动APP。 推荐使用内存优化型弹性 云服务器 ，主要提供高内存实例，同时可以配置超高IO的云硬盘和合适的带宽。 更多信息，请参见内存优化型。 图形渲染 对图像视频质量要求高、大内存，大

查看更多 →

够多的节点来调度新扩容的Pod，那么就需要为集群增加节点，从而保证业务能够正常提供服务。 弹性伸缩在CCE上的使用场景非常广泛，典型的场景包含在线业务弹性、大规模计算训练、深度学习GPU或共享GPU的训练与推理、定时周期性负载变化等。 CCE弹性伸缩 CCE的弹性伸缩能力分为如下两个维度：

查看更多 →

来自于模型文件“train_params.json” 。 低秩适应（LoRA）是一种重参数化方法，旨在减少具有低秩表示的可训练参数的数量。权重矩阵被分解为经过训练和更新的低秩矩阵。所有预训练的模型参数保持冻结。训练后，低秩矩阵被添加回原始权重。这使得存储和训练LoRA模型更加高效，因为参数明显减少。

查看更多 →

业务、装修公司整装等业务截流，寻求业务范围扩张（如定制企业升级整家、成品企业增加定制模块等），但转型难度大； 线上投放获客成本高，线下竞争激烈，转单率低； 企业内部IT系统多数是本地端，多个供应商提供，烟囱林立，数据管理混乱； 企业数字化水平普遍较弱，大部分企业没有成熟的IT团队，无法驾驭多个系统的管理工作；

查看更多 →

量身定做的业务流程，更贴近您的业务场景。 弹性伸缩 基因容器提供容器应用的秒级弹性伸缩能力，在流量突增时能快速弹性扩容，保障业务的连续性和高稳定性。当前支持按性能、时间、周期的弹性伸缩策略，您可以自由组合策略以应变业务峰值突发变化。

查看更多 →

DDR4 RAM (GB) 无 2 x 2*10GE + SDI卡 GPU加速型 提供优秀的浮点计算能力，从容应对高实时、高并发的海量计算场景。特别适合于深度学习、科学计算、CAE、3D动画渲染、CAD等应用。 表5 GPU加速型规格详情 规格名称/ID CPU 内存 本地磁盘 扩展配置

查看更多 →

查看资源使用率 当您创建完工作负载后，您也许会非常关心每个Pod的资源利用率。 云容器实例提供了查看CPU/内存、GPU/显存的界面，您只需要在无状态负载、任务、定时任务中Pod列表的“监控”Tab下即可查看资源使用率，如图1所示。您也可以在Pod管理中查看所有Pod的资源使用率。

查看更多 →

0～100% GPU显卡使用量 该指标用于统计测量对象已使用的显存占显存容量的百分比。 百分比（Percent） 0～100% GPU显存使用量 该指标用于统计测量对象已使用的显存。 兆字节（Megabytes） ≥0 NPU显卡使用量 该指标用于统计测量对象已使用的NPU显存占NPU存储容量的百分比。

查看更多 →

应用场景 客户痛点 传统前端监测终端投入大、后期维护成本高； 传统系统平台仅涉及信息化、业务系统繁多，数据壁垒高，业务全生命周期数据无法有效整合； 传统管治服务重线下排查，准确率和时效性低，个人经验要求高，管治效果差，投入大，成效低。 传统环境行业重机理微观分析，并无智能化手段在管治

查看更多 →

基础调度能力，不支持关闭，调度器会优先保障高优先级业务运行，但不会主动驱逐已运行的低优先级业务。详情请参见优先级调度与抢占。 基于优先级抢占调度（Volcano调度器支持） 启用该能力后，集群资源不足时，调度器主动驱逐低优先级业务，保障高优先级业务正常调度。详情请参见优先级调度与抢占。

查看更多 →

附录：大模型推理常见问题 问题1：在推理预测过程中遇到NPU out of memory 解决方法：调整推理服务启动时的显存利用率，将--gpu-memory-utilization的值调小。 问题2：在推理预测过程中遇到ValueError:User-specified max_model_len

查看更多 →

集群--XGPU设备显存使用率 集群--XGPU设备算力使用率 节点--XGPU设备显存使用率 节点--XGPU设备算力使用率 节点--XGPU设备数量 节点--XGPU设备显存分配量 GPU卡--XGPU设备显存使用率 GPU卡--XGPU设备显存分配量 GPU卡--XGPU设备显存分配率 GPU卡--XGPU设备算力使用率

查看更多 →

附录：大模型推理常见问题 问题1：在推理预测过程中遇到NPU out of memory 解决方法：调整推理服务启动时的显存利用率，将--gpu-memory-utilization的值调小。 问题2：在推理预测过程中遇到ValueError:User-specified max_model_len

查看更多 →

init容器不支持使用GPU虚拟化资源。 GPU虚拟化支持显存隔离、显存与算力隔离两种隔离模式。单个GPU卡仅支持调度同一种隔离模式的工作负载。 使用GPU虚拟化后，不支持使用Autoscaler插件自动扩缩容GPU虚拟化节点。 XGPU服务的隔离功能不支持以UVM的方式申请显存，即调用CUDA

查看更多 →

节点-XGPU设备显存分配量 字节 每个节点上的GPU虚拟化设备显存总量 GPU卡-XGPU设备显存使用率 百分比 每张GPU卡上的GPU虚拟化设备显存使用率 计算公式：显卡上所有XGPU设备的显存使用量之和 / 显卡显存总量 GPU卡-XGPU设备显存分配量 字节 每张GPU卡上的GPU虚拟化设备的显存总量

查看更多 →

按钮，则跳过组织选择，以个人帐号登录系统。 图4 个人帐号 功能介绍 面向个人/组织的云端多人协同样本标注与管理，支持基于多光谱、SAR、高光谱、无人机等航天航空影像及时空地理矢量数据进行标注，覆盖目标识别、语义分割、变化检测三种场景，实现从样本标注、质检、审核、样本集制作、入库管理全流程。

查看更多 →

异构资源配置 GPU配置 GPU虚拟化 CCE GPU虚拟化采用自研xGPU虚拟化技术，能够动态对GPU设备显存与算力进行划分，单个GPU卡最多虚拟化成20个GPU虚拟设备。相对于静态分配来说，虚拟化的方案更加灵活，最大程度保证业务稳定的前提下，可以完全由用户自己定义使用的GPU量，提高

查看更多 →

应用GPU资源调度方式 IEF支持多应用共享的方式使用GPU显卡。 IEF支持单个应用使用多个GPU显卡。 GPU资源调度基于GPU显存容量，调度采用GPU显存预分配方式而非实时GPU显存资源。 当应用需要使用的GPU显存资源小于单个GPU卡显存时，支持以共享方式进行资源调度，对

查看更多 →

基于GPU监控指标的弹性伸缩实践 集群中包含GPU节点时，可通过GPU指标查看节点GPU资源的使用情况，例如GPU利用率、显存使用量等。在获取GPU监控指标后，用户可根据应用的GPU指标配置弹性伸缩策略，在业务波动时自适应调整应用的副本数量。 前提条件 目标集群已创建，且集群中包含GPU节点，并已运行GPU相关业务。

查看更多 →

GPU故障处理 前提条件 如需将GPU事件同步上报至AOM，集群中需安装云原生日志采集插件，您可前往AOM服务查看GPU插件隔离事件。 GPU插件隔离事件 当GPU显卡出现异常时，系统会将出现问题的GPU设备进行隔离，详细事件如表1所示。 表1 GPU插件隔离事件 事件原因 详细信息

查看更多 →

CPU算力增强型，适用于密集计算场景下运算 GPU规格 “GPU: 1*Vnt1(32GB)|CPU: 8 核 64GB”：GPU单卡规格，32GB显存，适合深度学习场景下的算法训练和调测 “GPU: 1*Tnt004(16GB)|CPU: 8核* 32GB”： GPU单卡规格，16GB显存，推理计算最佳选

查看更多 →