FlinkServer作业引擎概述
FlinkServer提供基于Web的可视化开发平台,用户只需要编写SQL即可开发作业,极大降低作业开发门槛。同时通过作业平台能力开放,支持业务人员自行编写SQL开发作业来快速应对需求,大大减少Flink作业开发工作量。
约束与限制
- FlinkServer WebUI功能仅MRS 3.1.0及之后版本支持。
- MRS 3.6.0-LTS.1及之后版本,系统默认展示Catalog模式。如果需要使用集群连接模式,需要设置“flinkserver.catalog.module.enabled”的参数值为“false”:
- 登录Manager,选择“集群 > 服务 > Flink > 配置 > 全部配置”,搜索参数“flinkserver.catalog.module.enabled”并配置为“false”。
- 单击“实例”,勾选所有实例,单击“更多 > 重启实例”,重启FlinkServer所有实例使配置生效。
FlinkServer WebUI特点
FlinkServer WebUI主要有以下特点:
- 快速创建Catalog:可参考FlinkServer Catalog管理快速创建Hive Catalog、Hudi Catalog和Iceberg Catalog(MRS 3.6.0-LTS.1及之后版本)。

- 可视化开发平台:支持通过“数据管理”模块快速执行创建表或删除表的SQL语句,简化数据表的管理流程(MRS 3.6.0-LTS.1及之后版本)。
- 企业级可视化运维:运维管理界面化、作业监控、作业开发Flink SQL标准化等。 图1 可视化运维
- 快速建立集群连接:通过集群连接功能配置访问一个集群,需要客户端配置、用户认证密钥文件(MRS 3.6.0-LTS.1及之后版本默认不展示)。
- 快速建立数据连接:通过数据连接功能配置访问一个组件。创建“数据连接类型”为“HDFS”类型时需创建集群连接,其他数据连接类型的“认证类型”为“KERBEROS”需创建集群连接,“认证类型”为“SIMPLE”不需创建集群连接(MRS 3.6.0-LTS.1及之后版本默认不展示)。
“数据连接类型”为“Kafka”时,认证类型不支持“KERBEROS”。
- 可视化开发平台:支持自定义输入/输出映射表,满足不同输入来源、不同输出目标端的需求(MRS 3.6.0-LTS.1及之后版本默认不展示)。
- 图形化作业管理:简单易用。 图2 图形化作业管理
Flink WebUI关键能力
FlinkWebUI关键能力如表1:
| 关键能力分类 | 描述 |
|---|---|
| 批流一体 | 支持一套FlinkSQL定义批作业和流作业。 |
| Flink SQL内核能力 |
|
| Flink SQL可视化定义 |
|
| Flink作业可视化管理 |
|
| 性能&可靠性 |
|
FlinkServer作业提交流程
Flink WebUI应用流程参考如下步骤:
| 阶段 | 说明 | 参考章节 |
|---|---|---|
| 创建应用 | 通过应用来隔离不同的上层业务。 | |
| 创建集群连接(MRS 3.6.0-LTS.1及之后版本默认不展示) | 通过集群连接配置访问不同的集群。 | |
| 创建数据连接(MRS 3.6.0-LTS.1及之后版本默认不展示) | 通过数据连接,访问不同的数据服务,包括HDFS、Kafka等。 | |
| 创建流表(MRS 3.6.0-LTS.1及之后版本默认不展示) | 通过数据表,定义源表、维表、输出表的基本属性和字段信息。 | |
| 创建Catalog(MRS 3.6.0-LTS.1及之后版本) | 通过Catalog管理对接底层数据源的元数据信息,实现表的自动发现和统一管理。 | |
| 创建表(MRS 3.6.0-LTS.1及之后版本) | 通过数据管理对Catalog中的库和表进行创建和删除操作。 | |
| 创建SQL/JAR作业(流式/批作业) | 定义Flink作业的API,包括Flink SQL、Flink Jar作业。 | MRS 3.6.0-LTS.1之前版本: MRS 3.6.0-LTS.1及之后版本: |
| 作业管理 | 管理创建的作业,包括作业启动、开发、停止、删除和编辑等。 | MRS 3.6.0-LTS.1之前版本: MRS 3.6.0-LTS.1及之后版本: |
