# 恢复Kafka元数据 #### 操作场景 在用户意外修改、删除或需要找回数据时，系统管理员对ZooKeeper进行重大操作（如升级、重大数据调整等）后，系统数据出现异常或未达到预期结果，导致Kafka组件全部故障无法使用，或者迁移数据到新集群的场景中，需要对Kafka元数据进行恢复数据操作。 用户可以通过FusionInsight Manager创建恢复Kafka元数据任务，系统仅支持手动进行数据恢复。 MRS集群支持多种数据路径类型恢复Kafka元数据： - LocalDir：表示从主管理节点的本地磁盘上恢复数据。 - LocalHDFS：表示从当前集群的HDFS目录恢复数据。 - RemoteHDFS：表示从备集群的HDFS目录恢复数据。 - NFS：表示通过NFS协议从NAS中恢复数据。 - CIFS：表示通过CIFS协议从NAS中恢复数据。 - OBS：表示从OBS中恢复数据。 ![](https://support.huaweicloud.com/usermanual-mrs/public_sys-resources/note_3.0-zh-cn.png) 当业务正常时需要恢复Kafka元数据，建议手动备份最新Kafka元数据后，再执行恢复操作。否则会丢失从备份时刻到恢复时刻之间的Kafka元数据信息。 #### 约束与限制 - 只支持进行数据备份时的系统版本与当前系统版本一致时的数据恢复。 - MRS 3.1.0及之后版本，支持从OBS中恢复数据。 #### 对系统的影响 - 元数据恢复后，会丢失从备份时刻到恢复时刻之间的数据。 - 元数据恢复后，Kafka的消费者在ZooKeeper上保存的offset信息将会回退，可能导致重复消费。 #### 前提条件 - 如果需要从远端HDFS恢复数据，需要准备备集群，且已完成数据备份，详细操作请参见[备份Kafka元数据](https://support.huaweicloud.com/usermanual-mrs/mrs_01_300062.html)。如果主集群部署为安全模式，且主备集群不是由同一个FusionInsight Manager管理，则必须配置系统互信，请参见[配置MRS集群间互信](https://support.huaweicloud.com/usermanual-mrs/mrs_01_0354.html)。如果主集群部署为普通模式，则不需要配置互信。 - 主备集群必须已配置跨集群拷贝，请参见[启用MRS集群间拷贝功能](https://support.huaweicloud.com/usermanual-mrs/mrs_01_300047.html)。 - 主备集群上的时间必须一致，而且主备集群上的NTP服务必须使用同一个时间源。 - 先停止Kafka服务，待恢复完成后，再启动Kafka服务。 #### 恢复Kafka元数据 1. 登录MRS集群Manager界面。 登录集群Manager界面请参考[访问MRS集群Manager](https://support.huaweicloud.com/usermanual-mrs/mrs_01_0128.html)。 2. 选择 "运维 \> 备份恢复 \> 备份管理"。 3. 在任务列表指定任务的"操作"列，选择"更多 \> 查询历史"，打开备份任务执行历史记录。 在弹出的窗口中，在指定一次执行成功记录的"备份路径"列，单击"查看"，打开此次任务执行的备份路径信息，查找以下信息： - "备份对象"表示备份的数据源。 - "备份路径"表示备份文件保存的完整路径。 选择正确的项目，在"备份路径"手工选中备份文件的完整路径并复制。 4. 选择"运维 \> 备份恢复 \> 恢复管理"。 5. 单击"创建"。 6. 在"任务名称"填写恢复任务的名称。 7. 在"恢复对象"选择待操作的集群。 8. 在"恢复配置"，勾选"Kafka"。 9. 在"Kafka"的"路径类型"，选择一个备份目录的类型。 表1恢复数据 | 类型 | 配置参数 | 参数描述 | |:---|:---|:---| | LocalDir | 源端路径 | 要恢复的备份文件。例如，"*版本号_* *数据源_* *任务执行时间.tar.gz*"。 | | LocalHDFS | 源端路径 | 备份文件在HDFS中保存的完整路径。例如"*备份路径* */* *备份任务名_* *任务创建时间/* *版本号_* *数据源_* *任务执行时间*.tar.gz"。 | | LocalHDFS | 源NameService名称 | 恢复任务执行时备份目录对应的NameService名称。默认值为"hacluster"。 | | RemoteHDFS | 源端NameService名称 | 备份数据集群的NameService名称。 - 可以输入集群内置的远端集群的NameService名称：haclusterX，haclusterX1，haclusterX2，haclusterX3，haclusterX4。 - 也可以输入其他已配置的远端集群NameService名称。 | | RemoteHDFS | IP 模式 | 目标IP的IP地址模式。系统会根据集群网络类型自动选择对应的IP模式，如IPv4或者IPv6。 | | RemoteHDFS | 源端NameNode IP地址 | 备集群NameNode业务平面IP地址，支持主节点或备节点。 | | RemoteHDFS | 源端路径 | 备集群保存备份数据的完整HDFS路径。例如，"*备份路径* */* *备份任务名_* *数据源_* *任务创建时间/* *版本号_* *数据源_* *任务执行时间.tar.gz*"。 | | RemoteHDFS | 队列名称 | 备份任务执行时使用的YARN队列的名称。需和集群中已存在且状态正常的队列名称相同。 | | NFS | IP 模式 | 目标IP的IP地址模式。系统会根据集群网络类型自动选择对应的IP模式，如IPv4或者IPv6。 | | NFS | 服务器IP地址 | NAS服务器IP地址。 | | NFS | 源端路径 | 备份文件在NAS服务器中保存的完整路径。例如，"*备份路径* */* *备份任务名_* *数据源_* *任务创建时间/* *版本号_* *数据源_* *任务执行时间.tar.gz*"。 | | CIFS | IP 模式 | 目标IP的IP地址模式。系统会根据集群网络类型自动选择对应的IP模式，如IPv4或者IPv6。 | | CIFS | 服务器IP地址 | NAS服务器IP地址。 | | CIFS | 端口号 | CIFS协议连接NAS服务器使用的端口号，默认值为"445"。 | | CIFS | 用户名 | 配置CIFS协议时设置的用户名。 | | CIFS | 密码 | 配置CIFS协议时设置的密码。 | | CIFS | 源端路径 | 备份文件在NAS服务器中保存的完整路径。例如，"*备份路径* */* *备份任务名_* *数据源_* *任务创建时间/* *版本号_* *数据源_* *任务执行时间.tar.gz*"。 | | OBS（仅MRS 3.1.0及之后版本支持） | 源端路径 | 填写备份文件在OBS中保存的完整路径。例如，"*备份路径* */* *备份任务名_* *数据源_* *任务创建时间/* *版本号_* *数据源_* *任务执行时间.tar.gz*"。 | 10. 单击"确定"保存。 11. 在恢复任务列表已创建任务的"操作"列，单击"执行"，开始执行恢复任务。 - 恢复成功后进度显示为绿色。 - 恢复成功后此恢复任务不支持再次执行。 - 如果恢复任务在第一次执行时由于某些原因未执行成功，在排除错误原因后单击"重试"，重试恢复任务。 如果备份完成后重装Kafka服务并恢复元数据，或元数据迁移到新集群，重启Kafka服务Broker无法启动，查看"/var/log/Bigdata/kafka/broker/server.log"日志中包含错误，错误样例如下： ``` ERROR Fatal error during KafkaServer startup. Prepare to shutdown (kafka.server.KafkaServer)kafka.common.InconsistentClusterIdException: The Cluster ID kVSgfurUQFGGpHMTBqBPiw doesn't match stored clusterId Some(0Qftv9yBTAmf2iDPSlIk7g) in meta.properties. The broker is trying to join the wrong cluster. Configured zookeeper.connect may be wrong. at kafka.server.KafkaServer.startup(KafkaServer.scala:220) at kafka.server.KafkaServerStartable.startup(KafkaServerStartable.scala:44) at kafka.Kafka$.main(Kafka.scala:84) at kafka.Kafka.main(Kafka.scala) ``` 请查看Kafka Broker配置文件"${BIGDATA_HOME}/FusionInsight_Current/\*Broker/etc/server.properties中的log.dirs"配置值，此值为Kafka数据目录。进入Kafka数据目录，将"meta.properties"中的"cluster.id"的值"0Qftv9yBTAmf2iDPSlIk7g"修改为上述错误日志里的最新值"kVSgfurUQFGGpHMTBqBPiw"。 每一个Broker所在节点都需做上述修改，修改完成后重启Kafka服务。