更新时间:2025-12-10 GMT+08:00
分享

作业定时调优

操作场景

FlinkServer支持作业定时调优功能,动态更新作业的算子并行度。用户可通过FlinkServer Web UI界面创建作业调优计划,设置作业调优计划的算子并行度和触发时间,FlinkServer根据设置的触发时间定时更新作业的算子并行度。

约束与限制

  • 仅支持主备模式下对FlinkServer作业进行定时调优,不支持双主模式。
  • 仅支持对SQL流作业进行定时调优。
  • 仅支持对“运行中”状态的作业进行定时调优。
  • 每个作业最多允许创建5条调优计划。
  • 作业停止后,相关调优计划也会随之下线。
  • 如果扩缩容的目标并行度大于作业最大并行度,调优计划触发执行后,Flink作业实际不会执行调优。
  • 定时调优计划不支持主备容灾、作业导入导出、备份恢复等特性。
  • 定时调优计划算子最大并行度为32768。
  • 仅支持通过FlinkServer提交的作业进行定时调优。
  • 开启定时调优后,作业将使用adaptive scheduler。当作业提交或扩容资源申请超时(默认5分钟),则会使用当前可申请的最大资源运行作业,这可能导致作业算子的实际运行并行度与目标并行度不一致。
  • 本章节仅适用于MRS 3.6.0-LTS及之后版本。

创建作业的定时调优计划

  1. 访问Flink WebUI,请参考访问FlinkServer WebUI界面
  2. 单击“作业管理”进入作业管理页面。
  3. 在需要设置定时调优计划作业的“操作”列,选择“更多 > 定时调优计划管理”,进入定时调优计划列表页面。

  4. 在“定时调优计划管理”页面,可查看该作业的定时调优计划列表。

  5. 单击“添加定时调优计划”,设置定时计划名称、触发周期、时间、算子目标并行度等信息,单击“确定”。

    表1 触发周期

    触发周期

    描述

    ONCE

    单次触发,设置调优计划的触发日期和时间,定时触发一次作业调优计划。

    DAILY

    每日触发,设置调优计划的触发时间,每天定时触发作业调优计划。

    WEEKLY

    每周触发,设置调优计划的触发星期和时间,每周定时触发作业调优计划。

    图1 添加定时调优计划

编辑作业的定时调优计划

在作业的“定时调优计划管理”页面,选择需要编辑的调优计划,单击“操作”列的“编辑”按钮,进入“编辑定时调优计划”页面,对当前调优计划的触发周期、触发时间、算子目标并行度进行修改,修改完成后单击“确定”。

图2 编辑定时调优计划

上线/下线作业的定时调优计划

  • 在作业的“定时调优计划管理”页面,选择“未上线”状态的调优计划,单击“操作”列的“上线”按钮,即可启动该调优计划。
  • 在作业的“定时调优计划管理”页面,选择“已上线”状态的调优计划,单击“操作”列的“下线”按钮,即可停止该调优计划。
图3 上线定时调优计划

查看定时调优计划执行历史

仅保留最近30天的定时调优执行记录。

  1. 在作业的“定时调优计划管理”页面,即可查看该作业的调优计划执行历史。该列表展示所有已上线调优计划的历史执行信息,包括“定时计划名称”、“定时计划启动时间”、“定时计划启动结果”。

    图4 定时调优计划执行历史

  2. 定时调优计划“启动成功”后,进入作业详情界面,观察作业的算子并行度,动态更新为该调优计划所设置的目标并行度。

    图5 查看作业详情

相关文档