更新时间:2025-08-09 GMT+08:00

恢复HDFS NameNode元数据

操作场景

在用户意外修改、删除或需要找回数据时,系统管理员对NameNode进行重大操作(如升级、重大数据调整等)后,系统数据出现异常或未达到预期结果,模块全部故障无法使用,或者迁移数据到新集群的场景中,需要对NameNode进行恢复数据操作。

用户可以通过FusionInsight Manager创建恢复NameNode元数据任务,系统仅支持手动进行数据恢复。

MRS集群支持多种数据路径类型恢复NameNode元数据:

  • LocalDir:表示从主管理节点的本地磁盘上恢复数据。
  • RemoteHDFS:表示从备集群的HDFS目录恢复数据。
  • NFS:表示通过NFS协议从NAS中恢复数据。
  • CIFS:表示通过CIFS协议从NAS中恢复数据。
  • SFTP:表示通过SFTP协议从服务器中恢复数据。
  • OBS:表示从OBS中恢复数据。
  • 当业务正常时需要恢复数据,建议手动备份最新管理数据后,再执行恢复数据操作。否则会丢失从备份时刻到恢复时刻之间的NameNode数据。
  • 建议一个恢复任务只恢复一个组件的元数据,避免因停止某个服务或实例影响其他组件的数据恢复。同时恢复多个组件数据,可能导致数据恢复失败。

约束与限制

  • 只支持进行数据备份时的系统版本与当前系统版本一致时的数据恢复。
  • HBase元数据不能与NameNode元数据同时恢复,会导致数据恢复失败。
  • MRS 3.1.0及之后版本,支持从OBS中恢复数据。

对系统的影响

  • 数据恢复后,会丢失从备份时刻到恢复时刻之间的数据。
  • 恢复数据后需要重启NameNode,重启完成前NameNode不可访问。
  • 恢复数据后可能导致元数据与业务数据无法匹配,HDFS进入安全模式且HDFS服务启动失败。

前提条件

  • 如果需要从远端HDFS恢复数据,需要准备备集群,且已完成数据备份,详细操作请参见备份HDFS NameNode元数据。如果主集群部署为安全模式,且主备集群不是由同一个FusionInsight Manager管理,则必须配置系统互信,请参见配置MRS集群间互信。如果主集群部署为普通模式,则不需要配置互信。
  • 主备集群必须已配置跨集群拷贝,请参见启用MRS集群间拷贝功能
  • 主备集群上的时间必须一致,而且主备集群上的NTP服务必须使用同一个时间源。
  • 在FusionInsight Manager停止所有待恢复数据的NameNode角色实例,其他的HDFS角色实例必须保持正常运行,恢复数据后重启NameNode。NameNode角色实例重启前无法访问。
  • 检查NameNode备份文件保存路径是否保存在主管理节点“数据存放路径/LocalBackup/”。

恢复HDFS NameNode元数据

  1. 登录MRS集群Manager界面。

    登录集群Manager界面请参考访问MRS集群Manager

  2. 选择“集群 > 待操作集群的名称 > 服务 > HDFS > 实例 > NameNode”,查看待恢复数据的NameNode角色实例是否已经停止,如果NameNode角色实例未停止,请单击“停止实例”停止NameNode角色实例运行。
  3. 在FusionInsight Manager,选择“运维 > 备份恢复 > 备份管理”。
  4. 在任务列表指定任务的“操作”列,选择“更多 > 查询历史”,打开备份任务执行历史记录。

    在弹出的窗口中,在指定一次执行成功记录的“备份路径”列,单击“查看”,打开此次任务执行的备份路径信息,查找以下信息:

    • “备份对象”表示备份的数据源。
    • “备份路径”表示备份文件保存的完整路径。

      选择正确的项目,在“备份路径”手工选中备份文件的完整路径并复制。

  5. 在FusionInsight Manager,选择“运维 > 备份恢复 > 恢复管理”。
  6. 单击“创建”。
  7. 在“任务名称”填写恢复任务的名称。
  8. 在“恢复对象”选择待操作的集群。
  9. 在“恢复配置”,勾选“NameNode”。
  10. 在“NameNode”的“路径类型”,选择一个备份目录的类型。

    表1 恢复数据

    类型

    配置参数

    参数描述

    LocalDir

    源端路径

    表示要恢复的备份文件。例如,“版本号_数据源_任务执行时间.tar.gz”。

    目标NameService名称

    备份目录对应的目标NameService名称。默认值为“hacluster”。

    RemoteHDFS

    源端NameService名称

    备份数据集群的NameService名称。可以输入集群内置的远端集群的NameService名称:haclusterX,haclusterX1,haclusterX2,haclusterX3,haclusterX4;也可输入其他已配置的远端集群NameService名称。

    IP 模式

    目标IP的IP地址模式。系统会根据集群网络类型自动选择对应的IP模式,如IPv4或者IPv6。

    源端NameNode IP地址

    备集群NameNode业务平面IP地址,支持主节点或备节点。

    源端路径

    备集群保存备份数据的完整HDFS路径。例如,“备份路径/备份任务名_数据源_任务创建时间/版本号_数据源_任务执行时间.tar.gz”。

    队列名称

    备份任务执行时使用的YARN队列的名称。需和集群中已存在且状态正常的队列名称相同。

    目标NameService名称

    备份目录对应的目标NameService名称。默认值为“hacluster”。

    NFS

    IP 模式

    目标IP的IP地址模式。系统会根据集群网络类型自动选择对应的IP模式,如IPv4或者IPv6。

    服务器IP地址

    NAS服务器IP地址。

    源端路径

    备份文件在NAS服务器中保存的完整路径。例如,“备份路径/备份任务名_数据源_任务创建时间/版本号_数据源_任务执行时间.tar.gz”。

    目标NameService名称

    备份目录对应的目标NameService名称。默认值为“hacluster”。

    CIFS

    IP 模式

    目标IP的IP地址模式。系统会根据集群网络类型自动选择对应的IP模式,如IPv4或者IPv6。

    服务器IP地址

    NAS服务器IP地址。

    端口号

    CIFS协议连接NAS服务器使用的端口号,默认值为“445”。

    用户名

    配置CIFS协议时设置的用户名。

    密码

    配置CIFS协议时设置的密码。

    源端路径

    备份文件在NAS服务器中保存的完整路径。例如,“备份路径/备份任务名_数据源_任务创建时间/版本号_数据源_任务执行时间.tar.gz”。

    目标NameService名称

    备份目录对应的目标NameService名称。默认值为“hacluster”。

    SFTP

    IP 模式

    目标IP的IP地址模式。系统会根据集群网络类型自动选择对应的IP模式,如IPv4或者IPv6。

    服务器IP地址

    备份数据的服务器IP地址。

    端口号

    SFTP协议连接备份服务器使用的端口号,默认值为“22”。

    用户名

    使用SFTP协议连接服务器时的用户名。

    密码

    使用SFTP协议连接服务器时的密码。

    源端路径

    备份文件在备份服务器中保存的完整路径。例如,“备份路径/备份任务名_数据源_任务创建时间/版本号_数据源_任务执行时间.tar.gz”。

    目标NameService名称

    备份目录对应的目标NameService名称。默认值为“hacluster”。

    OBS

    源端路径

    备份文件在OBS中保存的完整路径。例如,“备份路径/备份任务名_数据源_任务创建时间/版本号_数据源_任务执行时间.tar.gz”。

    目标NameService名称

    备份目录对应的目标NameService名称。默认值为“hacluster”。

  11. 单击“确定”保存。
  12. 在恢复任务列表已创建任务的“操作”列,单击“执行”,开始执行恢复任务。

    • 恢复成功后进度显示为绿色。
    • 恢复成功后此恢复任务不支持再次执行。
    • 如果恢复任务在第一次执行时由于某些原因未执行成功,在排除错误原因后单击“重试”,重试恢复任务。

  13. 在FusionInsight Manager,选择“集群 > 待操作集群的名称 > 服务 > HDFS > 更多 > 重启服务”。

    在弹出窗口中输入当前登录的管理员密码确认管理员身份,单击“确定”。界面提示“操作成功。”,单击“完成”,服务成功启动。