0”时，手动配置了jdk环境变量，且配置路径错误。 处理方法 若未安装Jdk，可通过“安装Jdk ”部署步骤进行安装。 正确配置相关环境变量。 由于当前启动/停止操作为“no_login”方式，若系统为Linux系统，jdk为手动安装，还需在以下文件中增加jdk环境变量： Ubuntu: ~/.bashrc

查看更多 →

信息： 参数项 说明 名称 当前环境变量参数名，可使用“$${参数名}”形式进行引用。 类型 包括：文本、随机字符串、随机整数、时间戳、格式化时间戳、生成UUID、Base64编码、MD5哈希值、密码或认证信息、SHA512编码。 值 当前环境变量的值，支持加密显示。 描述 根据

查看更多 →

单击“提交”，完成应用环境变量文件导入。 图1 导入应用环境变量文件 后续操作 应用环境变量发生变化后，您可以： 通过升级单个组件版本配置使变化后的应用环境变量对该应用下指定的单个组件生效。 通过批量升级组件版本配置使变化后的应用环境变量对该应用下指定的多个或者全部组件生效。 父主题： 管理应用环境变量

查看更多 →

删除应用环境变量 本章节指导您删除不再使用的应用环境变量。 请根据您的实际业务需要删除应用环境变量，防止由于应用环境变量缺失导致升级单个组件版本配置、批量升级组件版本配置时组件启动失败。 前提条件 待删除的应用环境变量已通过手动添加应用环境变量或导入应用环境变量方式创建。 删除应用环境变量

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见支持的模型列表和权重文件。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

Linux 操作场景 本章节主要介绍如何将老架构的Agent升级到新架构Agent。 约束限制 不支持局点：华南-广州-友好用户环境、拉美-圣保罗一、拉美-墨西哥城一。 操作步骤 使用root账号，登录E CS 。 执行如下命令，确认当前Agent的版本是新架构Uniagent还是老架构telescope。

查看更多 →

网络下。 Sermant Agent开源版本要求1.0.3及以上。 接入流程 基于ECS将应用接入ServiceComb引擎流程如下： 虚机部署的应用通过Sermant Agent接入到ServiceComb引擎 安装Sermant Agent。 登录Linux 弹性云服务器 。 请

查看更多 →

网络下。 Sermant Agent开源版本要求1.0.3及以上。 接入流程 基于ECS将应用接入ServiceComb引擎流程如下： 虚机部署的应用通过Sermant Agent接入到ServiceComb引擎 安装Sermant Agent。 登录Linux弹性 云服务器 。 请

查看更多 →

环境变量使用说明 镜像运行时，会向运行环境注入部分默认文件配置: 表1 环境变量说明 任务名称 文件名 环境变量 数据集任务 数据集待筛选数据目录 OCTPS_DATASET_DIR 数据集筛选结果数据目录 TARGET_RESULT_DIR="/tmp/…/result/data"

查看更多 →

创建环境和环境变量 操作场景 API可以同时提供给不同的环境调用，如生产、测试或开发。RELEASE是默认存在的环境，无需创建。且API网关提供环境变量功能，通过创建环境变量，实现在不同的环境定义不同的API调用路径。 环境变量是指在环境上创建可管理的一种变量，该变量固定在环境上

查看更多 →

Context类提供接口或通过系统环境变量获取 RUNTIME_HANDLER 函数执行入口 通过系统环境变量获取 RUNTIME_TIMEOUT 函数执行的超时时间 通过系统环境变量获取 RUNTIME_USERDATA 用户通过环境变量传入的值 Context类提供接口或通过系统环境变量获取 RUNTIME_CPU

查看更多 →

手动添加应用环境变量 本章节指导您通过手动方式为应用添加环境变量。 手动添加应用环境变量 登录ServiceStage控制台。 选择“应用管理”。 单击待操作的应用名称，进入“应用概览”页面。 在左侧导航栏，单击“环境变量”。 在下拉列表选择已经创建的环境。 单击“添加环境变量”，输入“变量名称”及“变量/变量引用”的值。

查看更多 →

环境变量管理（待下线） 对象模型 新建变量 删除变量 查看变量详情 查询变量列表 父主题： 专享版API（V1）（待下线）

查看更多 →

OBS环境变量 PIP源环境变量 API网关地址环境变量 作业元信息环境变量 约束限制 为了避免新设置的环境变量与系统环境变量冲突，而引起作业运行异常或失败，请在定义自定义环境变量时，不要使用“MA_”开头的名称。 如何修改环境变量 用户可以在创建训练作业页面增加新的环境变量，也可以设置新

查看更多 →

称和该应用下的组件环境变量名称相同，则该应用环境变量会被组件环境变量屏蔽，不再对该组件起作用。添加应用环境变量，请参考管理应用环境变量。 设置组件环境变量 选择“容器配置 > 环境变量”。 参考下表设置组件环境变量。 类型 设置方法 手动添加 手动填写环境变量名称及对应的参数值。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

使用SmoothQuant量化 SmoothQuant(W8A8)量化方案能降低模型显存以及需要部署的卡数。也能同时降低首token时延和增量推理时延。支持SmoothQuant(W8A8)量化的模型列表请参见表3。 本章节介绍如何使用SmoothQuant量化工具实现推理量化。

查看更多 →

igest。 value_at_quantile(qdigest(T), quantile) → T 描述：给定0到1之间的数字分位数，返回分位数摘要中的近似百分位值。 values_at_quantiles(qdigest(T), quantiles) -> array(T)

查看更多 →