更新时间:2026-09-21 GMT+08:00
分享

Ray集群启动参数

解释说明

Ray集群启动参数是传给ray start的节点配置参数(逻辑资源、端口、标签等)。支持集群级填写公共配置,Head/Worker组级填写Head、Worker组级配置,组级配置可覆盖同名参数。

填写说明

  • 示例:
    {
        "num-cpus": "180",
        "resources":  "'{\"custom_resource\":8}'",
        "labels": "team=rl",
        "temp-dir": "/tmp/ray"
    }

    注意:resources的值为嵌套JSON字符串,需转义引号。

  • 填写要点:
    • 整体为JSON对象,所有值必须为字符串类型(如 `"180"`,不能写 `180`)。
    • 组级配置会覆盖集群级同名键,不会累加或合并。
    • `labels` 字段按标签键合并;`role` 由平台自动写入,用户不可覆盖。
    • 仅支持表1列出的参数,其余参数(如head、address、block、dashboard-port)由平台管理,用户配置后会作业将被拒绝启动。
      表1 集群启动参数说明

      模块

      参数名称

      参数说明

      逻辑资源

      num-cpus

      本节点向Ray声明的CPU数。

      num-gpus

      本节点向Ray声明的GPU数。

      memory

      本节点向Ray声明的内存。

      object-store-memory

      对象存储容量。

      resources

      自定义资源,值为JSON字符串,如"{\"NPU\": 8}"。

      labels

      节点标签,格式key=value,key=value。

      Worker端口

      min-worker-port

      worker进程绑定端口下限。

      max-worker-port

      worker进程绑定端口上限(配置时必须同时配置min-worker-port)。

      worker-port-list

      worker进程绑定端口列表,会覆盖min/max-worker-port。

      运行时目录

      temp-dir

      Ray临时目录,须为节点内可写路径。

      plasma-directory

      对象存储mmap目录,须为节点内可写路径。

      object-spilling-directory

      对象溢出目录,须为节点内可写路径。

      资源隔离

      enable-resource-isolation

      开启cgroup资源隔离。

      system-reserved-cpu

      为Ray系统进程预留的CPU(需先开启资源隔离)。

      system-reserved-memory

      为Ray系统进程预留的内存(需先开启资源隔离)。

      huge-pages

      启用huge pages。

      调试与日志

      ray-debugger-external

      将Ray debugger暴露到节点外部。

      enable-object-reconstruction

      对象丢失时通过重执行恢复。

      disable-usage-stats

      关闭用量统计。

      log-style

      日志样式(auto/record/pretty)。

      log-color

      是否使用彩色日志(auto/true/false)。

      verbose

      输出更详细的启动日志。

相关文档