更新时间:2024-11-29 GMT+08:00

备份ClickHouse元数据

操作场景

为了确保ClickHouse集群中的元数据安全,或者集群用户需要对ClickHouse进行重大操作(如升级或迁移等)时,需要对ClickHouse集群的元数据进行备份,从而保证系统在出现异常或未达到预期结果时可以及时进行数据恢复,将对业务的影响降到最低。

集群用户可以通过FusionInsight Manager创建备份ClickHouse任务并备份元数据。支持创建任务自动或手动备份数据。

前提条件

  • 如果数据要备份至远端HDFS中,需要准备一个用于备份数据的备集群,认证模式需要与主集群相同。其他备份方式不需要准备备集群。
  • 根据业务需要,规划备份的类型、周期和策略等规格,并检查主备管理节点“数据存放路径/LocalBackup/”是否有充足的空间。
  • 如果主备集群部署为安全模式,且主备集群不是由同一个FusionInsight Manager管理,则必须配置系统互信,请参见配置跨Manager集群互信。如果主备集群部署为普通模式,则不需要配置互信。
  • 主备集群上的时间必须一致,而且主备集群上的NTP服务必须使用同一个时间源。
  • 主备集群中,远端备份至HDFS,需要确保ClickHouse的HADOOP_RPC_PROTECTION配置项与HDFS的hadoop.rpc.protection配置项保持一致。
  • 远端备份至HDFS,不支持HDFS加密目录。
  • 如果数据要备份至OBS中,需要当前集群已对接OBS,并具有访问OBS的权限。

操作步骤

  1. 在FusionInsight Manager,选择“运维 > 备份恢复 > 备份管理”。
  2. 单击“创建”。
  3. 在“任务名称”填写备份任务的名称。
  4. 在“备份对象”选择待操作的集群。
  5. 在“备份类型”选择备份任务的运行类型,“周期备份”表示按周期自动执行备份,“手动备份”表示由手工执行备份。

    创建周期备份任务,还需要填写以下参数:
    • “开始时间”:表示任务第一次启动的时间。
    • “周期”:表示任务下次启动,与上一次运行的时间间隔,支持按“小时”或按“天”。
    • “备份策略”:只支持“每次都全量备份”。

  6. 在“备份配置”,勾选“元数据和其它数据”下的“ClickHouse”。
  7. 在“ClickHouse”的“路径类型”,选择一个备份目录的类型。

    表1 备份数据

    路径类型

    参数说明

    LocalDir

    表示将备份文件保存在主管理节点的本地磁盘上,备管理节点将自动同步备份文件。

    默认保存目录为“数据存放路径/LocalBackup/”,例如“/srv/BigData/LocalBackup”。

    选择此参数值,还需要配置“最大备份数”,表示备份目录中可保留的备份文件集数量。

    RemoteHDFS

    表示将备份文件保存在备集群的HDFS目录。只能保留最新的一份备份文件,历史备份文件将被覆盖。

    还需要配置以下参数:
    • “目的端NameService名称”:填写备集群的NameService名称。可在备集群HDFS服务的“管理NameService”页面获取,例如“hacluster”。
    • “IP 模式”:目标IP的IP地址模式。系统会根据集群网络类型自动选择对应的IP模式,如IPv4或者IPv6。
    • “目的端主NameNode IP地址”:填写备集群主NameNode业务平面IP地址。
    • “目的端备NameNode IP地址”:填写备集群备NameNode业务平面IP地址。
    • “目的端NameNode RPC端口”:填写目的端集群HDFS基础配置“dfs.namenode.rpc.port”参数值。
    • “目的端路径”:填写备集群保存备份数据的HDFS目录。不支持填写HDFS中的隐藏目录,例如快照或回收站目录;也不支持默认的系统目录,例如“/hbase”或“/user/hbase/backup”。

    OBS

    表示将备份文件保存在OBS目录中。

    • “目的端路径”:填写保存备份数据的OBS目录。
    • “最大备份数”:填写备份目录中可保留的备份文件集数量。

  8. 单击“确定”保存。
  9. 在备份任务列表中已创建任务的“操作”列,选择“更多 > 即时备份”,开始执行备份任务。

    备份任务执行完成后,系统自动在备份目录中为每个备份任务创建子目录,目录名为“备份任务名_任务创建时间”,用于保存数据源的备份文件。备份文件的名称为“数据源_任务执行时间.tar.gz”。