创建Ray引擎端点
创建Ray端点是用户与AI DataLake引擎服务建立连接的核心操作。通过Ray端点,您可以与AI DataLake引擎进行交互,执行各种数据处理和分析任务。本节操作介绍创建Ray引擎端点的操作步骤。
创建端点
请您根据实际业务场景,选择创建不同的端点:
- RayCluster:RayCluster端点提供长期运行、可复用的“计算资源池”,可多次提交Ray作业,适用于需要反复交互、多任务共享常驻环境的场景。
- RayJob:RayJob端点提供按需启动、用完即销毁的“任务执行单元”,任务完成后自动释放资源,节省资源成本,但每次提交任务需要启动集群,存在一定的启动延迟。适用于一次性运行、自动清理资源的场景。
- Ray联邦:多Ray集群统一纳管、调度RayJob作业,提升算力规模与提高业务连续性。
- 登录AI DataLake管理控制台。
- 在页面左上角切换至对应的工作空间。
- 在左侧导航栏选择“引擎端点 > AI 计算引擎 Ray”,进入Ray引擎端点列表页面。
- 单击页面右上角的“创建端点”。
- 配置基础信息。
表1 基础信息配置说明 参数
参数说明
端点类型
选择端点类型为“RayCluster”。
RayCluster端点提供长期运行、可复用的“计算资源池”,可多次提交Ray作业,适用于需要反复交互、多任务共享常驻环境的场景。
端点名称
输入端点名称,是端点的唯一标识符,不可与已存在的端点重名,且创建后不支持修改。
- 名称只能包含小写字母、数字、中划线,且只能以字母开头,以字母或数字结尾。
- 输入长度不能超过63个字符。
端点显示名称
输入端点显示名称,创建后可修改,用于用户界面展示,方便用户识别和记忆。
- 名称只能包含中文、英文、数字、中划线。
- 输入长度不能超过63个字符。
添加描述
可选,单击“添加描述”添加端点描述信息。
用于详细说明端点的用途、背景等信息,帮助其他用户理解该端点的创建目的和使用场景。
标签
单击“添加标签”,在标签栏输入标签键名称和标签值,用于对端点进行分类、标识和管理,支持快速筛选和分组。
关于标签的更多信息,请参见管理AI DataLake标签。
- 资源配置。
表2 资源配置说明 参数
参数说明
资源使用模式
选择资源使用模式。
预留资源:使用预留资源池,资源独享。适合负载稳定、持续运行的业务场景,如生产项目、关键任务。
选择计算资源池
在下拉框中选择已创建的计算资源池。如果下拉框中没有可选的计算资源池,可以单击“购买计算资源”进行购买。具体操作,请参见购买预留资源池。
- 集群配置。 配置端点时需要配置计算集群的Head和Workergroups。
表3 集群配置说明 参数
参数说明
Head
Head(主节点)负责集群的初始化和引导,维护所有Worker节点的元数据信息。同时Head节点实时监控整个集群的资源状态(包括CPU、GPU、内存等),基于全局资源视图进行智能调度决策,将计算任务合理分配到最合适的Worker节点上执行,从而实现负载均衡,提升资源利用率。
- 名称:用于标识主节点的名称,系统固定为“Head”。
- 资源规格:从下拉框中选择主节点所使用的计算资源规格。
- 卡数:自定义GPU/NPU卡数,CPU资源不支持输入卡数。
- CPU及内存:配置主节点上运行的辅助Worker进程的CPU和内存。
Workergroups
Worker节点负责接收来自Head节点的任务并进行实际的计算处理。通过配置多个Worker节点,可以将大规模计算任务分解成多个子任务并行处理,显著提升计算效率。支持配置最小和最大Worker数量,可以根据任务负载动态调整计算资源,实现资源的高效利用。
- 名称:用于标识工作节点组的名称,如“Workergroup01”,按需增加,便于管理和区分多个节点组。
- 资源规格:选择该工作节点组所使用的计算资源规格。
- 每Worker卡数:自定义GPU/NPU卡数,CPU资源不支持输入卡数。
- 每Worker CPU及内存:配置每个工作节点的CPU核心数(vCPU)和内存大小(GiB),用于任务执行。
- Worker数量(Min-Max):设置该工作节点组中Worker节点的最小和最大数量,支持弹性伸缩。例如:0-3 表示可动态扩展0到3个Worker节点,适用于按需调度。
- 添加和删除Workergroup:如果需要多个Workergroup,单击“添加Workergroup”,每个端点最多可配置10个Workergroup。如果不需要某个Workergroup,单击“操作”列的“删除”。
说明:规格配置后,即可在页面右侧的资源配额区域查看端点关联资源池后配置的资源规格及Min和Max资源数量。
- 镜像配置。
表4 镜像配置说明 参数
参数说明
镜像配置
单击
,在“预置镜像”或“自定义镜像”页签中选择镜像名称,并勾选镜像版本,单击“确定”。- 预置镜像分为纯CPU镜像(镜像版本为.cpu结尾)与融合镜像两种形态,CPU场景无需拉取GPU/NPU依赖,从而减小镜像体积、加快拉取与启动速度,提升资源利用率与任务部署效率。
- 自定义镜像中可以改变作业的容器运行环境,增强作业的功能、性能。如果预置镜像不满足业务要求,请参考自定义镜像注册后,在此处进行选择。
- Ray参数配置。
Ray参数以“key=value”的形式应用于该端点下的所有Head节点和所有Work节点,并在集群启动或重启时生效。
- 添加参数:单击“添加参数”,根据业务需求输入键和值。最多可以添加100个参数。
- 删除参数:单击
,删除参数。
表5 Ray参数示例说明 场景
键(Key)
值(Value)
说明
配置内存溢出数据到SFS Turbo
object_spilling_directory
/home/service/works
配置内存溢出数据自动写入SFS Turbo的挂载目录/home/service/works。
配置内存压力感知调度功能,缓解因内存不足导致的作业失败问题
RAY_aidatalake_enable_memory_pressure
默认值为false,取值范围:
- false
- true
内存压力感知调度功能开关。
- 设为true时,该功能启用,当某个节点的内存使用率达到或超过内存压力高阈值时,该节点会自动进入内存高压状态,不再接收新的任务,新提交或重试的任务会被调度到逻辑资源满足任务需求、且未处于内存高压状态的节点。同时若非高压节点的逻辑资源不足以满足任务需求、仍有任务在等待时,集群会自动扩容新节点来分担压力。当节点内存使用率降至低阈值以下并持续稳定设定时长后,恢复为可用状态,重新接收任务,从而缓解任务因节点内存不足(Out Of Memory,简称OOM)被频繁杀掉的问题。
- 设为false(默认值)时,该功能关闭,Ray保持原生调度行为。
RAY_aidatalake_memory_pressure_high_threshold
默认值为0.90,取值范围:(0, 1]
内存压力高阈值。
节点内存使用率达到该比例(默认0.90,即90%)时,该节点进入高压状态,开始停止接收新任务,并触发保护与扩容流程。该值决定保护触发的时机:
- 值越小,节点越早进入保护,任务越早被转移到内存充足的节点,越不容易OOM,但节点内存利用率相对较低。
- 值越大,节点尽量被使用满后才触发保护,内存利用率更高,但OOM风险相应增大。
RAY_aidatalake_memory_pressure_low_threshold
默认值为0.80,取值范围:[0, 高阈值]
内存压力低阈值。
处于高压状态的节点,需要等内存使用率降到该比例(默认0.80,即80%)以下,才具备恢复条件(再稳定一段时间后正常接收任务)。高阈值与低阈值之间的区间起缓冲作用:避免内存使用率在阈值附近小幅波动时,节点在高压/正常状态之间频繁切换。该值决定保护解除的快慢:
- 值越低,要求释放的内存越多、节点恢复越慢。
- 值越高,恢复越灵敏。
RAY_aidatalake_memory_pressure_recovery_timeout_ms
默认值为45000(45 秒),取值范围:0至 uint64_t最大值,单位为毫秒
内存压力恢复等待时间。
节点内存使用率降到低阈值以下后,不会立即恢复,而是需要持续保持低内存状态达到该时长(默认45秒)。若等待期间内存使用率再次超过压力高阈值,等待时间重新计算。该机制通过对恢复施加时延,实现两方面的协调:
- 缓解重试任务立刻调度回原节点的问题,避免内存刚回落便再次被推高而重复OOM。
- 为集群扩容留出生效窗口,扩容节点就绪需要一定时间,因此在内存压力恢复等待时间内维持节点的高压状态,使待调度任务尽可能落在新扩容节点上。
动态迁移:当集群中部分worker节点利用率持续低于阈值时, autoscaler自动将该节点上的任务排空、整合迁移到其他高利用率节点后退服,同时动态收缩节点数,降低空闲算力成本。
当前仅支持只含普通task的节点,不支持有Actor或依赖Placement Group的作业的节点。
RAY_AUTOSCALER_RECONCILE_CONSOLIDATION_UTILIZATION_THRESHOLD
默认值为0,取值范围为0~0.8。
触发低利用率节点整合的利用率判定阈值,阈值为0,表示默认禁用该功能。
RAY_AUTOSCALER_RECONCILE_RAY_STOPPING_TIMEOUT_S
默认值为0,取值范围为0~604800。
节点进入退服(RAY_STOPPING)状态后, 若超过该时长仍未完成退服(例如节点上有长时间运行的task阻止退服完成), autoscaler将该节点强制终止, 防止节点卡死在退服状态导致整合失效。单位:秒。配置为0,则表示一直等待。
RAY_AUTOSCALER_RECONCILE_CONSOLIDATION_MAX_TERMINATE_PER_ROUND
默认值为1,取值范围为1~99。
单轮autoscaler reconcile周期内最多整合退服的节点数量上限,防止一次性退服过多节点导致集群资源骤降,影响作业运行。
- 存储配置。 当计算任务需要访问或生成大量数据,且这些数据无法完全由计算节点本地存储或共享存储系统承载时,您可以增加外部存储资源。
表6 存储配置说明 参数
参数说明
选择临时存储
用于存放作业运行中的临时数据,创建后不支持修改。
在下拉框中选择临时存储,如果没有临时存储,请单击“购买临时存储”。具体操作,请参见购买存储资源。
存储路径
存储卷(Volume)内的物理子目录。
挂载路径
容器内的绝对路径。
添加临时存储
如果需要添加多个临时存储,请单击“添加临时存储”,每个端点最多可配置10个临时存储。
- 委托配置。
表7 委托配置说明 参数
参数说明
委托配置
委托给端点的权限,在作业运行时自动换取凭证并刷新至Ray集群,您可以在Ray集群中使用该委托凭证调用对应的服务。
您需要先勾选“委托配置”,并选择委托名。如果没有可选的委托,请单击“新建委托”。具体操作,请参见创建自定义委托。
- GCS高可用配置。 GCS(Global Control Service)承担集群元数据的管理职责。未启用高可用时,一旦GCS发生故障,会引发整个集群故障。启用高可用后,GCS可通过Redis恢复元数据,从而防止集群级故障。
表8 GCS高可用配置说明 参数
参数说明
GCS高可用
按需选择是否开启GCS高可用。
- 启用高可用:GCS发生故障,可通过Redis恢复元数据,从而防止集群级故障。
- 未启用高可用:GCS发生故障,可能会引发整个集群故障。
勾选该参数后,还需配置“DCS Redis缓存实例”。
DCS Redis缓存实例
DCS Redis缓存实例是一种高性能、高可用的分布式缓存服务,适用于多种应用场景。通过合理配置和管理,可以显著提高应用的性能和可靠性。
在下拉框中选择缓存实例,如果下拉框中没有可选的缓存实例,可以单击“新建缓存实例”进行创建。具体操作,请参见购买Redis实例。
缓存实例创建成功后,您还需要开启SSL,具体操作如下:
- 单击已购买的缓存实例名称,进入“概览”页面。
- 在左侧导航栏单击“SSL设置”,单击
根据界面提示开启SSL。
选择“DCS Redis缓存实例”后,需要配置该实例对应的“账号”和“DEW 凭据名称”。
账号
在下拉框中选择账号,如果下拉框中没有可选的账号,请单击“新建”创建账号。具体操作,请参见配置Redis ACL访问账号。
DEW 凭据名称
存储DCS账号的密码,格式:凭据键为“password”,值为实际的密码。
在下拉框中选择DEW凭据,如果下拉框中没有可选的DEW凭据,请单击“新建”创建DEW凭据。具体操作,请参见创建凭据。
终端节点服务
通过终端节点服务建立私网通道,无需经公网即可跨租户访问DCS Redis缓存实例。
在下拉框中选择终端节点服务,如果下拉框没有可选项,请单击“新建”创建。具体操作,请参见创建终端节点服务。
说明:端点创建后,不支持修改终端节点服务。
- History Server配置。
表9 History Server配置说明 参数
参数说明
History Server
按需选择是否开启History Server。开启后,您可以查看已经运行结束的历史作业和日志等信息,从而可以高效进行作业分析、故障排查和性能优化。
说明:- 开启此功能将消耗4vCPU 8GiB资源。
- 在创建端点后,您可以通过编辑端点开启或关闭此功能。具体操作,请参见编辑Ray引擎端点。
- 查看已经运行结束的历史作业和日志等信息的具体操作,请参见使用History Server查看历史作业。
选择结果集存储
选择用于存储作业运行过程中的结果缓存和日志文件的OBS并行文件系统,端点创建后不支持修改。
如果没有可用的OBS并行文件系统,可单击“新建OBS并行文件系统”进行创建。具体操作,请参见创建并行文件系统。
说明:结果集存储用于保存作业运行过程中的结果文件,您可以根据结果文件所需的保存时长手动定期清理或者在OBS并行文件系统中通过配置生命周期规则自定义存储时长。具体操作,请参见配置生命周期规则。
委托名
在下拉框中选择OBS存储的委托名。如果没有可选的委托,请单击“新建委托”。具体操作,请参见创建自定义委托。
- 请根据界面提示,按需配置监控对接AOM。
表10 配置监控对接AOM 参数
参数说明
监控对接AOM
按需勾选“监控对接AOM”。
对接应用运维管理(Application Operations Management,简称AOM)后,应用指标统一上报至AOM进行集中管理。您可基于AOM实现实时指标采集、自定义监控、告警配置与运维大盘可视化,全面掌控服务状态。关于各监控指标及含义,请参见Ray端点资源、作业和Ray原生指标。
选择Prometheus实例
在下拉列表选择Prometheus实例,如果没有可选的Prometheus实例,请单击“新建实例”。具体操作,请参见创建Prometheus实例。
- 请根据界面提示,配置日志对接LTS。
表11 配置日志对接LTS说明 参数
参数说明
日志对接LTS
按需勾选“日志对接LTS”,如果不对接LTS,则无法查看对应作业的日志,了解更多对接详情请参见使用LTS管理AI DataLake作业日志。
对接LTS后日志会投递到云日志服务(Log Tank Service,简称LTS)进行管理。可以使用LTS对云服务日志进行关键词搜索、运营数据统计分析、运行状况监控告警等多种操作。
勾选该参数后,还需配置“日志组”和“日志流”参数。
日志组和日志流
日志组(LogGroup)是云日志服务进行日志管理的基本单位,用于对日志流进行分类,一个日志组下面可以创建多个日志流。日志组本身不存储任何日志数据,仅方便管理日志流。
云日志服务是以日志流(LogStream)作为日志管理维度。日志采集后,以日志流为单位,将不同类型的日志分类存储在不同的日志流上,方便对日志进一步分类管理。
- 如果已存在日志组和日志流:您可以在下拉框中选择日志组和日志流。
- 如果没有日志组和日志流:需要先创建日志组,然后选择日志组。操作如下: 说明:
每个账号下最多可以创建100个日志组。
- 配置基础信息。
- 单击“立即创建”,端点创建后,在列表中查看相关信息,当端点状态变为“运行中”后,即可提交作业到该端点中运行。
- 登录AI DataLake管理控制台。
- 在页面左上角切换至对应的工作空间。
- 在左侧导航栏选择“引擎端点 > AI 计算引擎 Ray”,进入Ray引擎端点列表页面。
- 单击页面右上角的“创建端点”,配置参数。
- 基础信息配置。
表12 基础信息配置说明 参数
参数说明
端点类型
选择端点类型为“RayJob”。
RayJob端点提供按需启动、用完即销毁的“任务执行单元”,任务完成后自动释放资源,节省资源成本,但每次提交任务需要启动集群,存在一定的启动延迟。适用于一次性运行、自动清理资源的场景。
端点名称
输入端点名称,是端点的唯一标识符,不可与已存在的端点重名,且创建后不支持修改。
- 名称只能包含小写字母、数字、中划线,且只能以字母开头,以字母或数字结尾。
- 输入长度不能超过63个字符。
端点显示名称
输入端点显示名称,创建后可修改,用于用户界面展示,方便用户识别和记忆。
- 名称只能包含中文、英文、数字、中划线。
- 输入长度不能超过63个字符。
添加描述
可选,单击“添加描述”,添加端点描述信息。
用于详细说明端点的用途、背景等信息,帮助其他用户理解该端点的创建目的和使用场景。
标签
单击“添加标签”,在标签栏输入标签键名称和标签值,用于对端点进行分类、标识和管理,支持快速筛选和分组。
关于标签的更多信息,请参见管理AI DataLake标签。
- 资源配置。
表13 资源配置说明 参数
参数说明
资源使用模式
选择资源使用模式。
端点资源模式配置为“混合模式”或“按需弹性”时,系统将触发弹性资源调度。该模式下即视为您授权AI DataLake获取您的任务与资源数据用于特定功能处理,并代表您执行相关操作。
- 预留资源:使用预留资源池,资源独享。适合负载稳定、持续运行的业务场景,如生产项目、关键任务。
- 混合模式:基线保障,自动扩容。优先消耗预留资源,高峰期自动触发弹性扩容(当前仅支持CPU资源扩容)。适用于有规律波动的业务。
- 按需弹性:按任务实际运行时长扣费,无任务不产生费用。适合短期或偶发性的业务需求,如开发测试或临时任务。 说明:
一个用户只能创建一个按需弹性作业端点。
选择计算资源池
仅资源使用模式选择“预留资源”和“混合模式”时,配置此参数。
在下拉框中选择已创建的计算资源池。如果下拉框中没有可选的计算资源池,请单击“购买计算资源”进行购买。具体操作,请参见购买预留资源池。
资源配额最大值
仅资源使用模式选择“按需弹性”时,需要配置此参数。
设置端点可占用的CPU资源上限,确保系统资源稳定并防止异常任务耗尽集群算力,节省成本。
- 规格配置。 仅资源使用模式选择“预留资源”和“混合模式”时,配置此参数。
表14 规格配置说明 参数
参数说明
资源规格
在下拉框中选择需要配置的资源规格,支持选择CPU、GPU、NPU资源。
资源配额 (Min-Max)
配置资源池分配给当前端点的最低可用资源和资源上限。
- Min值默认置灰,不能配置。
- Max值需大于0,但不能超过所选计算资源池的资源上限。
添加规格
您可以单击“添加规格”添加多个规格配置,最多支持添加10个。
如果不需要某个规格配置,请在“操作”列单击“删除”,但至少需保留一个规格配置。
规格配置后,即可在页面右侧的“资源配额”区域,查看端点关联资源池后配置的资源规格及Min和Max资源数量。
- Ray参数配置。 Ray参数以“key=value”的形式应用于该端点下的所有作业,并在提交作业时自动生效。
- 添加参数:单击“添加参数”,根据业务需求输入键和值。最多可以添加100个参数。
- 删除参数:单击
,删除参数。
表15 Ray参数示例说明 场景
键(Key)
值(Value)
说明
配置内存压力感知调度功能,缓解因内存不足导致的作业失败问题
RAY_aidatalake_enable_memory_pressure
默认值为false,取值范围:
- false
- true
内存压力感知调度功能开关。
- 设为true时,该功能启用,当某个节点的内存使用率达到或超过内存压力高阈值时,该节点会自动进入内存高压状态,不再接收新的任务,新提交或重试的任务会被调度到逻辑资源满足任务需求、且未处于内存高压状态的节点。同时若非高压节点的逻辑资源不足以满足任务需求、仍有任务在等待时,集群会自动扩容新节点来分担压力。当节点内存使用率降至低阈值以下并持续稳定设定时长后,恢复为可用状态,重新接收任务,从而缓解任务因节点内存不足(Out Of Memory,简称OOM)被频繁杀掉的问题。
- 设为false(默认值)时,该功能关闭,Ray保持原生调度行为。
RAY_aidatalake_memory_pressure_high_threshold
默认值为0.90,取值范围:(0, 1]
内存压力高阈值。
节点内存使用率达到该比例(默认0.90,即90%)时,该节点进入高压状态,开始停止接收新任务,并触发保护与扩容流程。该值决定保护触发的时机:
- 值越小,节点越早进入保护,任务越早被转移到内存充足的节点,越不容易OOM,但节点内存利用率相对较低。
- 值越大,节点尽量被使用满后才触发保护,内存利用率更高,但OOM风险相应增大。
RAY_aidatalake_memory_pressure_low_threshold
默认值为0.80,取值范围:[0, 高阈值]
内存压力低阈值。
处于高压状态的节点,需要等内存使用率降到该比例(默认0.80,即80%)以下,才具备恢复条件(再稳定一段时间后正常接收任务)。高阈值与低阈值之间的区间起缓冲作用:避免内存使用率在阈值附近小幅波动时,节点在高压/正常状态之间频繁切换。该值决定保护解除的快慢:
- 值越低,要求释放的内存越多、节点恢复越慢。
- 值越高,恢复越灵敏。
RAY_aidatalake_memory_pressure_recovery_timeout_ms
默认值为45000(45 秒),取值范围:0至 uint64_t最大值,单位为毫秒
内存压力恢复等待时间。
节点内存使用率降到低阈值以下后,不会立即恢复,而是需要持续保持低内存状态达到该时长(默认45秒)。若等待期间内存使用率再次超过压力高阈值,等待时间重新计算。该机制通过对恢复施加时延,实现两方面的协调:
- 缓解重试任务立刻调度回原节点的问题,避免内存刚回落便再次被推高而重复OOM。
- 为集群扩容留出生效窗口,扩容节点就绪需要一定时间,因此在内存压力恢复等待时间内维持节点的高压状态,使待调度任务尽可能落在新扩容节点上。
动态迁移:当集群中部分worker节点利用率持续低于阈值时, autoscaler自动将该节点上的任务排空、整合迁移到其他高利用率节点后退服,同时动态收缩节点数,降低空闲算力成本。
当前仅支持只含普通task的节点,不支持有Actor或依赖Placement Group的作业的节点。
RAY_AUTOSCALER_RECONCILE_CONSOLIDATION_UTILIZATION_THRESHOLD
默认值为0,取值范围为0~0.8。
触发低利用率节点整合的利用率判定阈值,阈值为0,表示默认禁用该功能。
RAY_AUTOSCALER_RECONCILE_RAY_STOPPING_TIMEOUT_S
默认值为0,取值范围为0~604800。
节点进入退服(RAY_STOPPING)状态后, 若超过该时长仍未完成退服(例如节点上有长时间运行的task阻止退服完成), autoscaler将该节点强制终止, 防止节点卡死在退服状态导致整合失效。单位:秒。配置为0,则表示一直等待。
RAY_AUTOSCALER_RECONCILE_CONSOLIDATION_MAX_TERMINATE_PER_ROUND
默认值为1,取值范围为1~99。
单轮autoscaler reconcile周期内最多整合退服的节点数量上限,防止一次性退服过多节点导致集群资源骤降,影响作业运行。
- 委托配置。
表16 委托配置说明 参数
参数说明
委托配置
委托给端点的权限,在作业运行时自动换取凭证并刷新至Ray集群,您可以在Ray集群中使用该委托凭证调用对应的服务。
您需要先勾选“委托配置”,并选择委托名。如果没有可选的委托,请单击“新建委托”。具体操作,请参见创建自定义委托。
- History Server配置。
表17 History Server配置说明 参数
参数说明
History Server
按需选择是否开启History Server。开启后,您可以查看已经运行结束的历史作业和日志等信息,从而可以高效进行作业分析、故障排查和性能优化。
说明:- 开启此功能将消耗4vCPU 8GiB资源。
- 在创建端点后,您可以通过编辑端点开启或关闭此功能。具体操作,请参见编辑Ray引擎端点。
- 查看已经运行结束的历史作业和日志等信息的具体操作,请参见使用History Server查看历史作业。
选择结果集存储
选择用于存储作业运行过程中的结果缓存和日志文件的OBS并行文件系统,端点创建后不支持修改。
如果没有可用的OBS并行文件系统,可单击“新建OBS并行文件系统”进行创建。具体操作,请参见创建并行文件系统。
说明:结果集存储用于保存作业运行过程中的结果文件,您可以根据结果文件所需的保存时长手动定期清理或者在OBS并行文件系统中通过配置生命周期规则自定义存储时长。具体操作,请参见配置生命周期规则。
委托名
在下拉框中选择OBS存储的委托名。如果没有可选的委托,请单击“新建委托”。具体操作,请参见创建自定义委托。
- 请根据界面提示,按需配置监控对接AOM。
表18 配置监控对接AOM 参数
参数说明
监控对接AOM
按需勾选“监控对接AOM”。
对接应用运维管理(Application Operations Management,简称AOM)后,应用指标统一上报至AOM进行集中管理。您可基于AOM实现实时指标采集、自定义监控、告警配置与运维大盘可视化,全面掌控服务状态。关于各监控指标及含义,请参见Ray端点资源、作业和Ray原生指标。
选择Prometheus实例
在下拉列表选择Prometheus实例,如果没有可选的Prometheus实例,请单击“新建实例”。具体操作,请参见创建Prometheus实例。
- 请根据界面提示,配置日志对接LTS。
表19 配置日志对接LTS说明 参数
参数说明
日志对接LTS
按需勾选“日志对接LTS”,如果不对接LTS,则无法查看对应作业的日志,了解更多对接详情请参见使用LTS管理AI DataLake作业日志。
对接LTS后日志会投递到云日志服务(Log Tank Service,简称LTS)进行管理。可以使用LTS对云服务日志进行关键词搜索、运营数据统计分析、运行状况监控告警等多种操作。
勾选该参数后,还需配置“日志组”和“日志流”参数。
日志组和日志流
日志组(LogGroup)是云日志服务进行日志管理的基本单位,用于对日志流进行分类,一个日志组下面可以创建多个日志流。日志组本身不存储任何日志数据,仅方便管理日志流。
云日志服务是以日志流(LogStream)作为日志管理维度。日志采集后,以日志流为单位,将不同类型的日志分类存储在不同的日志流上,方便对日志进一步分类管理。
- 如果已存在日志组和日志流:您可以在下拉框中选择日志组和日志流。
- 如果没有日志组和日志流:需要先创建日志组,然后选择日志组。操作如下: 说明:
每个账号下最多可以创建100个日志组。
- 基础信息配置。
- 单击“立即创建”,端点创建后,可在列表中查看相关信息,当端点状态变为“运行中”,即可提交作业到该端点中运行。
当Ray单集群面临高并发任务时,可能存在Head节点故障后业务无法自动恢复、大规模集群性能下降等问题,难以满足业务高峰需求。通过创建Ray联邦端点,可将多个RayCluster端点组合为统一入口,根据RayCluster的资源负载进行智能调度作业,突破单集群性能瓶颈,保障业务连续性。
- 登录AI DataLake管理控制台。
- 在页面左上角切换至对应的工作空间。
- 在左侧导航栏选择“引擎端点 > AI 计算引擎 Ray”,进入Ray引擎端点列表页面。
- 单击页面右上角的“创建端点”,然后配置参数信息。
表20 参数说明 参数
参数说明
端点类型
选择“Ray联邦”。
端点名称
输入端点名称,是端点的唯一标识符,不可与已存在的端点重名,且创建后不支持修改。
- 名称只能包含小写字母、数字、中划线,且只能以字母开头,以字母或数字结尾。
- 输入长度不能超过63个字符。
端点显示名称
输入端点显示名称,创建后可修改,用于用户界面展示,方便用户识别和记忆。
- 名称只能包含中文、英文、数字、中划线。
- 输入长度不能超过63个字符。
添加描述
可选,单击“添加描述”添加端点描述信息。
用于详细说明端点的用途、背景等信息,帮助其他用户理解该端点的创建目的和使用场景。
端点
您可以根据实际需求勾选RayCluster端点,最多可选择50个。
提交作业到Ray联邦点后,系统会根据各RayCluster端点的资源负载自动分发作业。
说明:- 使用此功能前,请先创建RayCluster端点。具体操作,请参见创建RayCluster端点创建。
- 仅展示运行中的RayCluster端点,您可以在搜索框,通过关键字过滤端点名称。
- 您可以单击端点名称前的
,查看端点的Head和Workergroups信息。
- 单击“立即创建”,当“状态”为“运行中”,表示创建Ray联邦端点成功。
