Ray集群启动参数
解释说明
Ray集群启动参数是传给ray start的节点配置参数(逻辑资源、端口、标签等)。支持集群级填写公共配置,Head/Worker组级填写Head、Worker组级配置,组级配置可覆盖同名参数。
填写说明
- 示例:
{ "num-cpus": "180", "resources": "'{\"custom_resource\":8}'", "labels": "team=rl", "temp-dir": "/tmp/ray" }注意:resources的值为嵌套JSON字符串,需转义引号。
- 填写要点:
- 整体为JSON对象,所有值必须为字符串类型(如 `"180"`,不能写 `180`)。
- 组级配置会覆盖集群级同名键,不会累加或合并。
- `labels` 字段按标签键合并;`role` 由平台自动写入,用户不可覆盖。
- 仅支持表1列出的参数,其余参数(如head、address、block、dashboard-port)由平台管理,用户配置后会作业将被拒绝启动。
表1 集群启动参数说明 模块
参数名称
参数说明
逻辑资源
num-cpus
本节点向Ray声明的CPU数。
num-gpus
本节点向Ray声明的GPU数。
memory
本节点向Ray声明的内存。
object-store-memory
对象存储容量。
resources
自定义资源,值为JSON字符串,如"{\"NPU\": 8}"。
labels
节点标签,格式key=value,key=value。
Worker端口
min-worker-port
worker进程绑定端口下限。
max-worker-port
worker进程绑定端口上限(配置时必须同时配置min-worker-port)。
worker-port-list
worker进程绑定端口列表,会覆盖min/max-worker-port。
运行时目录
temp-dir
Ray临时目录,须为节点内可写路径。
plasma-directory
对象存储mmap目录,须为节点内可写路径。
object-spilling-directory
对象溢出目录,须为节点内可写路径。
资源隔离
enable-resource-isolation
开启cgroup资源隔离。
system-reserved-cpu
为Ray系统进程预留的CPU(需先开启资源隔离)。
system-reserved-memory
为Ray系统进程预留的内存(需先开启资源隔离)。
huge-pages
启用huge pages。
调试与日志
ray-debugger-external
将Ray debugger暴露到节点外部。
enable-object-reconstruction
对象丢失时通过重执行恢复。
disable-usage-stats
关闭用量统计。
log-style
日志样式(auto/record/pretty)。
log-color
是否使用彩色日志(auto/true/false)。
verbose
输出更详细的启动日志。