备份Flink元数据

操作场景

为了确保Flink集群中的元数据安全，或者系统管理员需要对Flink进行重大操作（如升级或迁移等）时，需要对Flink集群的元数据进行备份，从而保证系统在出现异常或未达到预期结果时可以及时进行数据恢复，将对业务的影响降到最低。

系统管理员可以通过FusionInsight Manager创建备份Flink任务并备份元数据。支持创建任务自动或手动备份数据。

前提条件

• 如果数据要备份至远端HDFS中，需要准备一个用于备份数据的备集群，认证模式需要与主集群相同。其他备份方式不需要准备备集群。

• 如果要备份到HDFS，需要安装HDFS，Yarn服务。
• 根据业务需要，规划备份的类型、周期和策略等规格，并检查主备管理节点“数据存放路径/LocalBackup/”是否有充足的空间。
• 如果主集群部署为安全模式，且主备集群不是由同一个FusionInsight Manager管理，则必须配置系统互信，请参见配置跨Manager集群互信。如果主集群部署为普通模式，则不需要配置互信。
• 主备集群必须已配置跨集群拷贝，请参见启用集群间拷贝功能。

• 主备集群上的时间必须一致，而且主备集群上的NTP服务必须使用同一个时间源。

操作步骤

1. 在FusionInsight Manager，选择“运维 > 备份恢复 > 备份管理”。
2. 单击“创建”。
3. 在“任务名称”填写备份任务的名称。
4. 在“备份对象”选择待操作的集群。
5. 在“备份类型”选择备份任务的运行类型，“周期备份”表示按周期自动执行备份，“手动备份”表示由手工执行备份。
   创建周期备份任务，还需要填写以下参数：

   • “开始时间”：表示任务第一次启动的时间。
   • “周期”：表示任务下次启动，与上一次运行的时间间隔，支持按“小时”或按“天”。
   • “备份策略”：只支持“每次都全量备份”。

6. 在“备份配置”，勾选“元数据和其它数据”下的“Flink”。
7. 在“Flink”的“路径类型”，选择一个备份目录的类型。
   备份目录支持以下类型：

   • “LocalDir”：表示将备份文件保存在主管理节点的本地磁盘上，备管理节点将自动同步备份文件。

     默认保存目录为“数据存放路径/LocalBackup/”，例如“/srv/BigData/LocalBackup”。

     选择此参数值，还需要配置“最大备份数”，表示备份目录中可保留的备份文件集数量。

   • “LocalHDFS”：表示将备份文件保存在当前集群的HDFS目录。
     选择此参数值，还需要配置以下参数：

     • “目的端路径”：填写备份文件在HDFS中保存的目录。不支持填写HDFS中的隐藏目录，例如快照或回收站目录；也不支持默认的系统目录，例如“/hbase”或“/user/hbase/backup”。
     • “最大备份数”：填写备份目录中可保留的备份文件集数量。
     • “目标NameService名称”：选择备份目录对应的NameService名称。默认值为“hacluster”。

   • “RemoteHDFS”：表示将备份文件保存在备集群的HDFS目录。
     选择此参数值还需要配置以下参数：

     • “目的端NameService名称”：填写备集群的NameService名称。可以输入集群内置的远端集群的NameService名称（haclusterX，haclusterX1，haclusterX2，haclusterX3，haclusterX4），也可输入其他已配置的远端集群NameService名称。

     • “IP 模式”：目标IP的IP地址模式。系统会根据集群网络类型自动选择对应的IP模式，如IPv4或者IPv6。
     • “目的端NameNode IP地址”：填写备集群NameNode业务平面IP地址，支持主节点或备节点。
     • “目的端路径”：填写备集群保存备份数据的HDFS目录。不支持填写HDFS中的隐藏目录，例如快照或回收站目录；也不支持默认的系统目录，例如“/hbase”或“/user/hbase/backup”。
     • “最大备份数”：填写备份目录中可保留的备份文件集数量。
     • “队列名称”：填写备份任务执行时使用的Yarn队列的名称，需和源集群中已存在且状态正常的队列名称相同。

8. 单击“确定”保存。
9. 在备份任务列表中已创建任务的“操作”列，选择“更多 > 即时备份”，开始执行备份任务。

   备份任务执行完成后，系统自动在备份目录中为每个备份任务创建子目录，目录名为“备份任务名_任务创建时间”，用于保存数据源的备份文件。备份文件的名称为“数据源_任务执行时间.tar.gz”。