恢复ClickHouse业务数据
操作场景
在用户意外修改、删除或需要找回数据时,集群用户对ClickHouse进行重大操作(如升级、重大数据调整等)后,系统数据出现异常或未达到预期结果,模块全部故障无法使用,或者迁移数据到新集群的场景中,需要对ClickHouse进行恢复数据操作。
集群用户可以通过FusionInsight Manager创建恢复ClickHouse任务并恢复数据。只支持创建任务手动恢复数据。
ClickHouse备份恢复功能不支持识别用户的ClickHouse表、索引、视图等对象在业务和结构上存在的关联关系。用户在执行备份恢复任务时,需要根据业务场景管理统一的恢复点,防止影响业务正常运行。
![](https://support.huaweicloud.com/usermanual-mrs/public_sys-resources/notice_3.0-zh-cn.png)
- 该功能仅MRS 3.1.0及之后版本支持。
- 只支持进行数据备份时的系统版本与当前系统版本一致时的数据恢复。
- 当业务正常时需要恢复数据,建议手动备份最新管理数据后,再执行恢复数据操作。否则会丢失从备份时刻到恢复时刻之间的ClickHouse数据。
- ClickHouse元数据恢复和业务数据恢复不能同时进行操作,否则会导致业务数据恢复失败。建议元数据恢复完成后再进行业务数据恢复。
对系统的影响
- 恢复过程中会停止用户认证,用户无法开始新的连接。
- 数据恢复后,会丢失从备份时刻到恢复时刻之间的数据。
- 数据恢复后,需要重新启动ClickHouse的上层应用。
前提条件
- 如果需要从远端HDFS恢复数据,需要准备备集群,且已完成数据备份,详细操作请参见备份ClickHouse业务数据。如果主备集群部署为安全模式,且主备集群不是由同一个FusionInsight Manager管理,则必须配置系统互信,请参见配置MRS集群间互信。如果主备集群部署为普通模式,则不需要配置互信。
- 主备集群上的时间必须一致,而且主备集群上的NTP服务必须使用同一个时间源。
- 规划好恢复数据保存表的数据库,数据表在HDFS的保存位置,以及访问恢复数据的用户清单。
- 检查ClickHouse备份文件保存路径。
- 停止ClickHouse的上层应用。
- 主备集群中,从远端HDFS恢复至本地时,需要确保ClickHouse的“HADOOP_RPC_PROTECTION”配置项与HDFS的“hadoop.rpc.protection”配置项的值保持一致。
恢复ClickHouse业务数据
- 在FusionInsight Manager,选择“运维 > 备份恢复 > 备份管理”。
- 在任务列表指定任务的“操作”列,选择“更多 > 查询历史”,打开备份任务执行历史记录。
在弹出的窗口中,在指定一次执行成功记录的“备份路径”列,单击“查看”,打开此次任务执行的备份路径信息,查找以下信息:
- 在FusionInsight Manager,选择“运维 > 备份恢复 > 恢复管理”。
- 单击“创建”。
- 在“任务名称”填写恢复任务的名称。
- 在“恢复对象”选择待操作的集群。
- 在“恢复配置”的“业务数据”下,勾选“ClickHouse”。
- 在“ClickHouse”的“路径类型”,选择一个备份目录的类型。
备份目录当前仅支持RemoteHDFS类型:
- “RemoteHDFS”:表示将备份文件保存在备集群的HDFS目录。
MRS 3.2.0及之后版本:选择此参数值,还需要配置以下参数:
- “源端NameService名称”:填写备份数据集群的NameService名称。可在备集群HDFS服务的“管理NameService”页面获取,例如“hacluster”。
- “IP 模式”:目标IP的IP地址模式。系统会根据集群网络类型自动选择对应的IP模式,如IPv4或者IPv6。
- “源端主NameNode IP地址”:填写备集群主NameNode业务平面IP地址。
- “源端备NameNode IP地址”:填写备集群备NameNode业务平面IP地址。
- “源端NameNode RPC端口”:填写目的端集群HDFS基础配置“dfs.namenode.rpc.port”参数值。
- “源端路径”:参考2中获取的“备份路径”,填写备集群保存备份数据的完整HDFS路径。例如,“备份路径/备份任务名_数据源_任务创建时间/”。
MRS 3.1.0和MRS 3.1.2版本:选择此参数值,还需要配置以下参数:- “源端NameService名称”:填写备份数据集群的NameService名称。可在备集群HDFS服务的“管理NameService”页面获取,例如“hacluster”。
- “IP 模式”:目标IP的IP地址模式。系统会根据集群网络类型自动选择对应的IP模式,如IPv4或者IPv6。
- “源端NameNode IP地址”:填写备集群NameNode业务平面IP地址,支持主节点或备节点。
- “源端路径”:参考2中获取的“备份路径”,填写备集群保存备份数据的完整HDFS路径。例如,“备份路径/备份任务名_数据源_任务创建时间/”。
- “最大map数”:填写执行MapReduce任务的最大map数,默认值为“20”。
- “单个map的最大带宽(MB/s)”:填写单个map最大带宽,默认值为“100”。
- “RemoteHDFS”:表示将备份文件保存在备集群的HDFS目录。
- 单击“确定”保存。
- 在恢复任务列表已创建任务的“操作”列,单击“执行”,开始执行恢复任务。
- 恢复成功后进度显示为绿色。
- 恢复成功后此恢复任务不支持再次执行。
- 如果恢复任务在第一次执行时由于某些原因未执行成功,在排除错误原因后单击“重试”,重试恢复任务。