分离部署 PD分离部署使用说明 父主题： 推理关键特性使用

查看更多 →

分离部署 PD分离部署使用说明 PD分离部署性能调优理论基础 PD分离部署手动配比调优（推荐） PD分离部署自动配比调优 PD分离性能调优工具使用说明 父主题： 推理关键特性使用

查看更多 →

String 部署到前端的api归属的应用编号，与后端归属的应用编号保持一致 响应参数 状态码： 200 表4 响应Body参数 参数 参数类型 描述 id String 部署的编号 ld_api_id String 部署的后端API编号 group_id String 部署的前端API分组编号

查看更多 →

false：不支持 缺省值：false roma_app_id 否 String 部署到前端的API归属的应用编号，与后端归属的应用编号保持一致 retry_count 否 String 服务集成请求后端服务的重试次数，默认为-1，范围[-1,10] 缺省值：-1 响应参数 状态码：

查看更多 →

每个输出序列要生成的最大tokens数量。 top_k 否 -1 Int 控制要考虑的前几个tokens的数量的整数。设置为-1表示考虑所有tokens。 适当降低该值可以减少采样时间。 top_p 否 1.0 Float 控制要考虑的前几个tokens的累积概率的浮点数。必须在 (0, 1] 范围内。设置为1表示考虑所有tokens。

查看更多 →

每个输出序列要生成的最大tokens数量。 top_k 否 -1 Int 控制要考虑的前几个tokens的数量的整数。设置为-1表示考虑所有tokens。 适当降低该值可以减少采样时间。 top_p 否 1.0 Float 控制要考虑的前几个tokens的累积概率的浮点数。必须在 (0, 1] 范围内。设置为1表示考虑所有tokens。

查看更多 →

每个输出序列要生成的最大tokens数量。 top_k 否 -1 Int 控制要考虑的前几个tokens的数量的整数。设置为-1表示考虑所有tokens。 适当降低该值可以减少采样时间。 top_p 否 1.0 Float 控制要考虑的前几个tokens的累积概率的浮点数。必须在 (0, 1] 范围内。设置为1表示考虑所有tokens。

查看更多 →

每个输出序列要生成的最大tokens数量。 top_k 否 -1 Int 控制要考虑的前几个tokens的数量的整数。设置为-1表示考虑所有tokens。 适当降低该值可以减少采样时间。 top_p 否 1.0 Float 控制要考虑的前几个tokens的累积概率的浮点数。必须在 (0, 1] 范围内。设置为1表示考虑所有tokens。

查看更多 →

每个输出序列要生成的最大tokens数量。 top_k 否 -1 Int 控制要考虑的前几个tokens的数量的整数。设置为-1表示考虑所有tokens。 适当降低该值可以减少采样时间。 top_p 否 1.0 Float 控制要考虑的前几个tokens的累积概率的浮点数。必须在 (0, 1] 范围内。设置为1表示考虑所有tokens。

查看更多 →

每个输出序列要生成的最大tokens数量。 top_k 否 -1 Int 控制要考虑的前几个tokens的数量的整数。设置为-1表示考虑所有tokens。 适当降低该值可以减少采样时间。 top_p 否 1.0 Float 控制要考虑的前几个tokens的累积概率的浮点数。必须在 (0, 1] 范围内。设置为1表示考虑所有tokens。

查看更多 →

每个输出序列要生成的最大tokens数量。 top_k 否 -1 Int 控制要考虑的前几个tokens的数量的整数。设置为-1表示考虑所有tokens。 适当降低该值可以减少采样时间。 top_p 否 1.0 Float 控制要考虑的前几个tokens的累积概率的浮点数。必须在 (0, 1] 范围内。设置为1表示考虑所有tokens。

查看更多 →

每个输出序列要生成的最大tokens数量。 top_k 否 -1 Int 控制要考虑的前几个tokens的数量的整数。设置为-1表示考虑所有tokens。 适当降低该值可以减少采样时间。 top_p 否 1.0 Float 控制要考虑的前几个tokens的累积概率的浮点数。必须在 (0, 1] 范围内。设置为1表示考虑所有tokens。

查看更多 →

部署前准备 租户帐号已经创建完成，可以由MSP管理员创建，或者在华为公有云上自注册。 已经使用租户帐号登录到云管理平台。 租户自建自维时，租户需要向MSP购买License激活码。 设备软件版本已升级到智简园区网络解决方案配套的版本。 已获取到租户网络室内现场环境的地图（jpg、

查看更多 →

部署前准备 租户帐号已经创建完成，可以由MSP管理员创建，或者在华为公有云上自注册。 已经使用租户帐号登录到云管理平台。 租户自建自维时，租户需要向MSP购买License激活码，在后续建网过程中使用。 设备软件版本已升级到智简园区网络解决方案配套的版本。 已获取到租户网络室内现

查看更多 →

部署前准备 租户帐号已经创建完成，可以由MSP管理员创建，或者在华为公有云上自注册”。 已经使用租户帐号登录到云管理平台。 租户自建自维时，租户需要向MSP购买License激活码，在后续建网过程中使用。 设备软件版本已升级到智简园区网络解决方案配套的版本。 已获取到租户网络室内

查看更多 →

部署前准备 创建环境 登录CAE控制台。 选择以下任意方式创建环境。 在您首次使用本服务时，页面会提醒您尚未创建环境。 单击创建环境卡片中的“立即创建”。 图1 创建环境 在弹出的对话框中输入对应的参数，具体参照表1。 表1 创建环境 参数 说明 环境名称 输入自定义的环境名称。

查看更多 →

部署前准备 租户帐号已经创建完成，可以由MSP管理员创建，或者在华为公有云上自注册”。 已经使用租户帐号登录到云管理平台。 租户自建自维时，租户需要向MSP购买License激活码，在后续建网过程中使用。 设备软件版本已升级到智简园区网络解决方案配套的版本。 已获取到租户网络室内

查看更多 →

部署前准备 租户帐号已经创建完成，可以由MSP管理员创建，或者在华为公有云上自注册。 已经使用租户帐号登录到云管理平台。 租户自建自维时，租户需要向MSP购买License激活码，在后续建网过程中使用。 设备软件版本已升级到智简园区网络解决方案配套的版本。 已获取到租户网络室内现

查看更多 →

部署前准备 租户帐号已经创建完成，可以由MSP管理员创建，或者在华为公有云上自注册。 已经使用租户帐号登录到云管理平台。 租户自建自维时，租户需要向MSP购买License激活码，在后续建网过程中使用。 设备软件版本已升级到智简园区网络解决方案配套的版本。 已获取到租户网络室内现

查看更多 →

后端应用编译和部署 部署后端应用 上传代码 Git代码提交：checkout空的华为代码仓库到本地，然后将代码复制到本地目录，先然后Add 然后commit 最后push 修改编译命令 mvn clean install -U -pl ieo-4a/ieo-4a-biz  -am  -DskipTests=true

查看更多 →

objects 本次查询到的后端API部署结果对象列表 表4 LdApiDeployHistoryInfo 参数 参数类型 描述 id String 部署的编号 ld_api_id String 部署的后端API编号 group_id String 部署的前端API分组编号 env_id

查看更多 →