"top_k": -1 "use_beam_search":true "best_of":2 Step5 推理性能和精度测试 推理性能和精度测试操作请参见推理性能测试和推理精度测试。 父主题： 主流开源大模型基于Standard适配PyTorch NPU推理指导（6.3.906）

查看更多 →

扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台中，单击“部署上线 > 在线服务 > 部署”，开始部署在线服务。 图5 部署在线服务 设置部署服务名称，选择Step2 部署模型中创建的AI应用。

查看更多 →

er Generated Content，用户原创内容）等。 方案架构 您可以通过一键部署功能，快速完成CDN下载加速环境的创建及业务配置，并自动创建和关联CDN与OBS服务资源，如下图所示。 图1 方案架构图 该解决方案会部署如下资源： 创建 对象存储服务 OBS桶，用于存储网站

查看更多 →

教育应用市场RomaExchange环境部署 购买部署基线RomaExchange 配置RomaExchange 切换教育环境 父主题： 实施步骤

查看更多 →

Step6 推理服务的高阶配置（可选） 如需开启以下高阶配置，请在Step3 配置NPU环境时增加需要开启的高阶配置参数。 词表切分 在分布式场景下，默认不使用词表切分能提升推理性能，同时也会增加单卡的显存占用。不建议开启词表并行，如确需使用词表切分，配置以下环境变量。 export

查看更多 →

扩容。 Step3 部署在线服务 将Step2 部署模型中创建的AI应用部署为一个在线服务，用于推理调用。 在ModelArts控制台中，单击“部署上线 > 在线服务 > 部署”，开始部署在线服务。 图5 部署在线服务 设置部署服务名称，选择Step2 部署模型中创建的AI应用。

查看更多 →

配置CDN下载 操作步骤 登录OBS Browser。 选中待操作的桶，在桶列表上方单击“更多>配置CDN下载”，系统弹出“配置CDN下载”对话框。 在待配置的用户 域名 所在行后面，勾选“启用CDN下载”。 单击“确定”。 在弹出的消息窗口中，单击“确定”关闭消息窗口。 父主题： CDN下载

查看更多 →

开通CDN 在使用CDN加速前，您需要开通CDN服务，开通流程及需要注意的事项如下： 开通服务的条件 注册华为账号 并完成实名认证。 购买流量包或充值开通： 购买流量包：您可以购买流量包开通CDN服务，也可单击这里获取免费流量包。 充值：您也可以通过账户充值（超过999元）开通CDN服务。

查看更多 →

LVS自动隔离故障后端节点 测试目的 后端业务集群节点故障时，LVS自动隔离故障节点。 预置条件 测试集群LVS环境配置完成。 测试方法 关闭一台后端节点，如CDN-1节点。 在LVS主节点查看后端节点集群，CDN-1节点被剔除，执行以下命令进行查询： ipvsadm -L –n

查看更多 →

LVS自动纳管故障恢复节点 测试目的 后端业务集群节点故障恢复后，LVS自动纳管恢复节点。 预置条件 测试集群LVS环境配置完成。 测试方法 重新启动关闭节点，如CDN-1节点。 在LVS 主节点查看后端节点集群，CDN-1节点重新被纳管，执行以下命令进行查询： ipvsadm -L

查看更多 →

CDN预热 功能介绍 媒资发布后，可通过指定媒资ID或URL向CDN预热。用户初次请求时，将由CDN节点提供请求媒资，加快用户下载缓存时间，提高用户体验。单租户每天最多预热1000个。 调试 您可以在 API Explorer 中调试该接口，支持自动认证鉴权。API Explorer

查看更多 →

内容分发网络CDN接入LTS LTS支持内容分发网络（CDN）日志接入，具体接入方法请参见实时日志。 介绍CDN的结构化模板日志详情。 结构化模板日志详情 日志示例 表1 结构化模板示例 模板名称 示例日志 CDN {"request_time":"1666604392000","domain":"findercdn

查看更多 →

测试 CodeArts IDE集成了pytest和unittest测试框架，让您可以轻松运行和调试Python测试用例。 将测试框架集成到项目中 运行测试 启动配置 父主题： Python

查看更多 →

测试 使用此Source Action为具有选定测试框架的生产类生成测试类。 有关测试Java代码的更多详细信息，请参阅调试。 在Create Test对话框中，提供测试类参数： Testing library：选择要使用的测试库。 Class name：提供测试类的名称，并根据选定的框架选择其超类。

查看更多 →

测试 简介 申请沙箱环境（可选） 授权沙箱环境 安装已订阅的资产 部署应用到沙箱环境 调测应用/移动端 调测大屏 调测端侧设备 父主题： 用户指南

查看更多 →

测试设计在整个测试活动中起到承前启后的作用，测试设计的目的是明确测试活动的范围、测试目标和测试方法，能够指导测试执行过程的开展，从而规范测试行为。 请参见测试设计。 测试用例 测试用例是对一项特定的软件产品进行测试任务的描述，体现在测试方案、方法、技术和策略。其内容包括测试目标、测试环境、输入数据、测试步骤、预期结果、测试脚本等，最终形成文档。

查看更多 →

网络环境 安装部署边缘节点时，需要具备的网络环境。 边缘环境需要具备访问公网的能力，与OBS云服务互通。 确认自身内网是否具备访问公网能力，存在网络隔离，如涉及通信是否在同一个子网内，可参考虚拟私有云 VPC。 服务器 下载工具版本是否符合要求以及对应端口是否开放，可参考表3。 部

查看更多 →

我部署的对话推理服务API在线测试 功能介绍 调用大语言模型推理服务，根据用户问题，获取大语言模型的回答。非流式接口提供大语言模型完整生成回答后一次性返回。 URI POST /v1/model-online-test/inference-service/test/{servic

查看更多 →

测试环境进行联调测试，验证不同团队代码之间的业务交互流程是否正确。但是测试环境和生产环境的配置不尽相同。 而预生产环境使用与生产环境相同的部署配置、安全控制、步骤和程序，在预生产环境中测试发布过程。验证所有部署步骤是否按预期完成，如检查依数据、配置和服务。通过集成功能测试，和各种

查看更多 →

开通CDN服务 在使用CDN之前，您需要开通CDN服务，本文为您介绍如何开通CDN服务。 前提条件 在执行本章操作前，请确认您注册华为账号并完成实名认证。 注意事项 您需要先购买流量包或者账号余额不少于1000元才能开通CDN服务，请确保您的账户中有足够的余额。您可以在费用中心页面，对账户进行充值。

查看更多 →

单击“确定”，根据业务情况完成推荐配置。 配置过程大概需要5-10分钟，当“状态”为“已开启”时，表示域名添加成功 本地测试加速域名：添加加速域名后，为保证顺利切换不影响业务，建议先做测试再切换DNS解析，测试流程请参考本地测试加速域名。 配置CNAME解析：添加加速域名后，CDN会自动生成一条C

查看更多 →