区级管理平台环境部署（含数据中心部署） 区级管理平台环境部署 配置要求： 硬件配置要求 服务器 标准16C/32G内存，磁盘空间要求300G以上的存储空间。 内部服务器需要互通，防火墙关闭，SElinux关闭。 网络设备配置要求 内部服务器之间所有端口要求互通,带宽百兆以上，接入服务器需要有ELB或VIP。

查看更多 →

排查： Linux 云服务器 SSH登录的安全加固 Windows弹性云服务器登录方式概述 Linux弹性云服务器登录方式概述 从以下几个方面分别排查，解除主机安全加固对云 堡垒机 的登录限制。 无法登录到Linux云服务器怎么办？ 无法登录到Windows云服务器怎么办？ 解除安全加固

查看更多 →

性能测试 性能测试是一种软件测试形式，通过性能测试工具模拟正常、峰值及异常负载等状态下对系统的各项性能指标进行测试的活动，它关注运行系统在特定负载下的性能，可帮助你评估系统负载在各种方案中的功能，涉及系统在负载下的响应时间、吞吐量、资源利用率和稳定性，以帮助确保系统性能满足基线要

查看更多 →

sec) 基于TPCH 10 scale的数据，针对上述的查询示例Q1、Q2、Q3。开启与关闭LIMIT OFFSET下推功能的性能对比如下。 图1 性能对比 父主题： LIMIT OFFSET下推

查看更多 →

count(*) from sbtest1 where id/k in (... ...); 性能对比如下表所示： 表1 性能数据 测试方法 开启转换 关闭转换（不适用range_opt） 性能对比 带索引 0.09 2.48 提升26.5倍 父主题： IN谓词转子查询

查看更多 →

初始化后超过2TiB无法显示该怎么办 如何查看云硬盘容量 如何监控云硬盘使用情况 数据盘的容量可以加到系统盘吗 云硬盘性能问题 怎样测试云硬盘的性能 使用fio工具测试云硬盘性能，测试结果不对怎么办 云硬盘读写慢或IO升高怎么办 如何提升云硬盘的性能 共享云硬盘问题 使用共享云硬盘必须搭建集群吗

查看更多 →

开发系统和测试系统部署 方案简介 数据规划 准备软件和工具 购买云服务 配置权限和跳转 格式化磁盘 安装SAP HANA 安装SAP应用

查看更多 →

安装XR Linker插件 操作场景 您可以选择在云服务器上安装XR Linker插件以替换第三方运行环境（如SteamVR）。XR Linker是华为自研的PC端插件，兼容主流VR应用和3D应用运行环境，具备如下优势： 无缝兼容主流VR运行环境（如SteamVR）。 减少部署文件体积，加快业务部署效率。

查看更多 →

"top_k": -1 "use_beam_search":true "best_of":2 Step5 推理性能和精度测试 推理性能和精度测试操作请参见推理性能测试和推理精度测试。 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.906）

查看更多 →

G，请提工单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“模型部署 > 在线服务 > 部署”，开始部署在线服务。 设置部署服务名称，选择Step2 部署模型中创建的AI应用。选择专属资

查看更多 →

\"string\"}}}" }' Step5 推理性能和精度测试 推理性能和精度测试操作请参见推理性能测试和推理精度测试。 附录：基于vLLM（v0.3.2）不同模型推理支持的max-model-len长度说明 基于vLLM（v0.5.0）部署推理服务时，不同模型推理支持的max-mod

查看更多 →

G，请提工单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“模型部署 > 在线服务 > 部署”，开始部署在线服务。 设置部署服务名称，选择Step2 部署模型中创建的AI应用。选择专属资

查看更多 →

单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“部署上线 > 在线服务 > 部署”，开始部署在线服务。 图5 部署在线服务 设置部署服务名称，选择Step2 部署模型中创建的AI应用。

查看更多 →

性能测试方法 本章基于GeminiDB Cassandra，进行性能测试，具体包括测试环境，测试步骤，以及测试结果。 测试环境 区域：华北-北京四 可用区：可用区1+可用区2+可用区3（跨3个可用区部署） 弹性云服务器（Elastic Cloud Server，简称E CS ）：规格选择h3

查看更多 →

通过镜像，实现应用系统的统一部署与升级，提高运维效率，保证应用环境的一致性。 公共镜像遵守业界统一规范，除了预装了初始化组件外，内核能力均由第三方厂商提供，便于镜像在不同云平台之间迁移。 镜像部署与手工部署对比 表1 镜像部署与手工部署对比 对比项 镜像部署 手工部署 部署时长 2~5分钟 1~2天

查看更多 →

教育应用市场RomaExchange环境部署 购买部署基线RomaExchange 配置RomaExchange 切换教育环境 父主题： 实施步骤

查看更多 →

在Notebook调试环境中部署推理服务 在ModelArts的开发环境Notebook中可以部署推理服务进行调试。 Step1 准备Notebook 参考准备Notebook完成Notebook的创建，并打开Notebook。 Step2 准备权重文件 将OBS中的模型权重上传

查看更多 →

单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“部署上线 > 在线服务 > 部署”，开始部署在线服务。 图5 部署在线服务 设置部署服务名称，选择Step2 部署模型中创建的AI应用。

查看更多 →

prefix-caching特性则不配置该环境变量。 若要开启图模式，请配置以下5个环境变量，并且启动服务时不要添加enforce-eager参数。 export INFER_MODE=PTA # 开启PTA模式，若不使用图模式，请关闭该环境变量 export PTA_TORC

查看更多 →

单扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台，单击“部署上线 > 在线服务 > 部署”，开始部署在线服务。 图5 部署在线服务 设置部署服务名称，选择Step2 部署模型中创建的AI应用。

查看更多 →

Step6 推理服务的高阶配置（可选） 如需开启以下高阶配置，请在Step3 配置NPU环境时增加需要开启的高阶配置参数。 词表切分 在分布式场景下，默认不使用词表切分能提升推理性能，同时也会增加单卡的显存占用。不建议开启词表并行，如确需使用词表切分，配置以下环境变量。 export

查看更多 →