更新时间:2024-01-23 GMT+08:00

MySQL到MySQL双主灾备

支持的源和目标数据库

表1 支持的数据库

业务数据库

灾备数据库

  • 本地自建MySQL数据库
  • ECS自建MySQL数据库
  • 其他云上MySQL数据库
  • RDS for MySQL
  • RDS for MySQL

数据库账号权限要求

在使用DRS进行灾备时,连接业务数据库和灾备数据库的账号需要满足以下权限要求,才能启动实时灾备任务。不同类型的灾备任务,需要的账号权限也不同,详细可参考表2进行赋权。DRS会在“预检查”阶段对数据库账号权限进行自动检查,并给出处理建议。

表2 数据库账号权限

类型名称

所需权限

业务数据库连接账号

需要具备如下权限:

SELECT、CREATE、ALTER、DROP、DELETE、INSERT、UPDATE、TRIGGER、REFERENCES、SHOW VIEW、EVENT、INDEX、LOCK TABLES、CREATE VIEW、 CREATE ROUTINE、 ALTER ROUTINE、 CREATE USER、RELOAD、REPLICATION SLAVE、REPLICATION CLIENT、WITH GRANT OPTION,RDS for MySQL实例的root账户默认已具备上述权限。当业务数据库为8.0.14-8.0.18版本时,还需要有SESSION_VARIABLES_ADMIN权限。

灾备数据库连接账号

需要具备如下权限:

SELECT、CREATE、ALTER、DROP、DELETE、INSERT、UPDATE、TRIGGER、REFERENCES、SHOW VIEW、EVENT、INDEX、LOCK TABLES、CREATE VIEW、 CREATE ROUTINE、 ALTER ROUTINE、 CREATE USER、RELOAD、REPLICATION SLAVE、REPLICATION CLIENT、WITH GRANT OPTION,RDS for MySQL实例的root账户默认已具备上述权限。当灾备数据库为8.0.14-8.0.18版本时,还需要有SESSION_VARIABLES_ADMIN权限。

  • 建议创建单独用于DRS任务连接的数据库账号,避免因为数据库账号密码修改,导致的任务连接失败。
  • 连接业务和灾备数据库的账号密码修改后,请尽快修改DRS任务中的连接信息,避免任务连接失败后自动重试,导致数据库账号被锁定影响使用。
  • 表2中为DRS任务所需的最小权限,如果需要DRS任务迁移grant授权的情况下,请确保DRS任务的连接账号本身具备对应权限,否则可能因为grant授权执行失败导致目标库对应用户缺少授权。例如DRS任务的连接账号本身不要求process权限,如果需要通过DRS任务迁移process授权则需要保证DRS任务的连接账号具备该权限。

前提条件

使用建议

  • 灾备初始化阶段,请不要在业务数据库执行DDL操作,否则可能导致任务异常。
  • 灾备初始化阶段,确保灾备数据库无业务写入,保证灾备前后数据一致。
  • 数据库灾备与环境多样性和人为操作均有密切关系,为了确保灾备的平顺,建议您在进行正式的数据库灾备之前进行一次演练,可以帮助您提前发现问题并解决问题。
  • 基于以下原因,建议您在启动任务时选择“稍后启动”功能,选择业务低峰期开始运行灾备任务,避免灾备任务对业务造成性能影响。
    • 在网络无瓶颈的情况下,灾备初始化阶段会对业务数据库增加约50MB/s的查询压力,以及占用2~4个CPU。
    • 灾备无主键表时,为了确保数据一致性,会存在3s以内的单表级锁定。
    • 正在灾备的数据被其他事务长时间锁死,可能导致读数据超时。
    • DRS并发读取数据库,会占用大约6-10个session连接数,需要考虑该连接数对业务的影响。
    • 灾备初始化阶段读取表数据时,特别是大表的读取,可能会阻塞业务上对大表的独占锁操作。
  • 数据对比

    建议您结合数据对比的“稍后启动”功能,选择业务低峰期进行数据对比,以便得到更为具有参考性的对比结果。由于同步具有轻微的时差,在数据持续操作过程中进行对比任务,可能会出现少量数据不一致对比结果,从而失去参考意义。

使用须知

在创建灾备任务前,请务必阅读以下使用须知。

表3 使用须知

类型

使用和操作限制

灾备对象约束

  • 不支持非MyISAM和非InnoDB表的灾备。
  • 不支持系统表。
  • 不支持触发器和事件的灾备。
  • 不支持对系统库下自定义对象有操作权限的账号灾备。
  • 不支持在主2上执行DDL的场景。

业务数据库配置

  • MySQL业务数据库的binlog日志必须打开,且binlog日志格式必须为Row格式。
  • 在磁盘空间允许的情况下,建议业务数据库binlog保存时间越长越好,建议为7天。
    • 自建MySQL可以通过设置expire_logs_days参数设置binlog保留时间。
    • RDS for MySQL设置binlog保留时间可参考《RDS用户指南》
  • 业务库不允许存在空账号或者空密码。
  • 灾备中,必须设置MySQL业务数据库的server-id。如果业务数据库版本小于或等于MySQL5.6,server-id的取值范围为2~4294967296;如果业务数据库版本大于或等于MySQL5.7,server-id的取值范围为1~4294967296。
  • 灾备中,如果设置session变量character_set_client为binary,可能导致乱码。
  • 业务数据库须开启GTID。
  • 业务数据库名称在1到64个字符之间,由小写字母、数字、中划线、下划线组成,不能包含其他特殊字符。
  • 业务数据库中的表名、视图名不能包含:'<>/\以及非ASCII字符。
  • 业务数据库expire_logs_days参数值为0,可能会导致灾备失败。
  • 业务数据库库包含无主键且有隐藏主键的表时,可能导致灾备任务失败或数据不一致。

灾备数据库配置

  • 灾备数据库实例的运行状态必须正常,若数据库实例是主备实例,复制状态也必须正常。
  • 灾备数据库实例必须有足够的磁盘空间。
  • 主1灾备库大版本号必须与主2灾备库保持一致。
  • 灾备数据库的binlog日志必须打开,且binlog日志格式必须为Row格式。
  • 灾备数据库须开启GTID。
  • 除了MySQL系统数据库之外,主2灾备库必须是空实例,且在正向任务启动后主2灾备库会被设置成只读,等待反向任务启动并进行灾备后被恢复成读写。

操作须知

  • 目前仅支持白名单用户使用,需要提交工单申请才能使用。
  • 双主灾备是两条独立的链路,相互之间没有协同作用,由于一些不可控因素,可能会出现使用双边数据不一致的情况(例如,主1负载过重,主2负载较轻,双边同时接入读写操作的业务流量时,由于同步任务的时延差异客观上不可控,导致执行顺序与真实顺序不相同,造成数据错乱)。因此,灾备前请对同一数据进行单元化设计,确保数据单元(可以为库、表、行)一边接读写流量,另一边只能接只读业务,即双主灾备是整体上双主,但微观上数据单元仍然是一边读写,一边只读。常见场景请参见实时灾备异常场景
  • 在创建DRS任务之前,如果业务数据库或者灾备数据库实例开启并设置了SQL限流规则,可能会导致DRS任务失败。
  • 灾备初始化阶段,请不要在源库执行DDL操作,否则可能导致灾备任务异常。
  • 灾备初始化阶段,灾备数据库会产生大量Binlog引起磁盘空间占用过大,因此在灾备初始化阶段灾备数据库Binlog本地默认调整为只保留最新5个,灾备初始化结束后灾备数据库Binlog本地保留时长恢复为用户当前配置。如果因业务需要,灾备数据库本地Binlog保留时长需要保持用户当前配置,需提交工单申请开启。您可以在管理控制台右上角,选择“工单 > 新建工单”,完成工单提交。
  • 数据灾备过程中,支持在业务数据库创建账号。
  • 如果不可避免双边同时刷新同一数据单元,就可能出现数据冲突,针对数据冲突的情况,DRS采用冲突覆盖的策略,即:
    • 删除时,该数据不存在则忽略,即不做操作。
    • 插入时,该数据存在则进行替换,即使用新的数据进行更新动作。
    • 更新时,该数据不存在则插入最新记录。
  • 业务需要避免双边主键生成冲突(例如,可以使用uuid方式,或者“区域+自增id”的主键规则来避免冲突)。
  • 业务方能容忍同步时延一定的波动,同步因故中断或者网络等原因造成的较大延迟,业务上需要考虑其影响性的容忍度。
  • 不支持外键级联操作。当外键是普通索引的时候,可能会导致表结构创建失败,建议改成唯一索引。
  • 对于表中的物理生成列,如果列是根据一个时间类型生成的,会存在此列数据不一致的可能性。
  • 双主灾备不同于单主灾备,无需进行主备倒换。
  • 由于灾备的细微时延不可控,业务上执行DDL时要在无业务期,且RPO&RTO =0稳定30s以上在主1执行,避免在主2执行DDL(DRS只同步主1的DDL操作到主2)。
  • 双边保持严格的对等效果,即表列行均一致(主1和主2的表结构需始终保持一致)。
  • 在正向任务进入灾备且RPO&RTO小于60s,方可启动反向任务。
  • 双主灾备进入灾备后,请先在主2进行测试验证,符合预期后再考虑切部分业务流量到主2。

操作步骤

  1. “实时灾备管理”页面,单击“创建灾备任务”,进入创建灾备任务页面。
  2. 在“灾备实例”页面,填选区域、项目、任务名称、描述、灾备实例信息,单击“开始创建”

    • 任务信息
      图1 灾备任务信息
      表4 任务和描述

      参数

      描述

      区域

      当前所在区域,可进行切换。

      项目

      当前区域对应的项目,可进行切换。

      任务名称

      任务名称在4到50位之间,必须以字母开头,可以包含字母、数字、中划线或下划线,不能包含其他的特殊字符。

      描述

      描述不能超过256位,且不能包含! = < > & ' " \ 特殊字符。

    • 灾备实例信息
      图2 灾备实例信息
      表5 灾备实例信息

      参数

      描述

      灾备类型

      选择“双主灾备”

      灾备类型可以为“单主灾备”“双主灾备”。选择双主灾备时,默认创建两个子任务,分别为正向和反向灾备任务。

      说明:

      “双主灾备”目前仅支持白名单用户,需要提交工单申请才能使用。您可以在管理控制台右上角,选择“工单 > 新建工单”,完成工单提交。

      本区RDS角色

      本云RDS实例在该灾备关系中的角色,分为主1和主2,灾备类型选择“双主灾备”时该选项可见。如何选择请参见如何选择主1、主2

      • 主1:创建任务时本云RDS有初始数据。
      • 主2:创建任务时本云RDS为空实例。

      此处以主2为示例。

      业务数据库引擎

      选择“MySQL”

      灾备数据库引擎

      选择“MySQL”

      网络类型

      此处以公网网络为示例。

      默认为公网网络类型,支持VPN网络、专线网络、公网网络。

      灾备数据库实例

      用户所创建的RDS for MySQL实例。

      灾备实例所在子网

      请选择灾备实例所在的子网。也可以单击“查看子网”,跳转至“网络控制台”查看实例所在子网帮助选择。

      默认值为当前所选数据库实例所在子网,请选择有可用IP地址的子网。为确保灾备实例创建成功,仅显示已经开启DHCP的子网。

    • 灾备规格
      图3 规格类型
      表6 规格信息

      参数

      描述

      规格类型

      选择DRS实例的规格类型,不同规格类型对应不同性能的性能上限,详细可参考实时灾备链路规格说明

      说明:

      目前,DRS实时灾备仅支持引擎为MySQL->MySQL、MySQL->GaussDB(for MySQL)、GaussDB(for MySQL)->GaussDB(for MySQL)类型任务升级实例规格,不支持降低规格,具体操作及约束限制可参考灾备规格变更

      可用区

      DRS任务创建的可用区,选择跟源或目标库相同的可用区性能更优。

    • 企业项目和标签
      图4 企业项目和标签
      表7 企业项目和标签

      参数

      描述

      企业项目

      企业项目是一种云资源管理方式,企业项目管理服务提供统一的云资源按项目管理,以及项目内的资源管理、成员管理。请在下拉框中选择所在的企业项目,其中,default为默认项目。

      更多关于企业项目的信息,请参见《企业管理用户指南》

      如果需要自定义企业项目,请在控制台右上角单击“企业”,进入“企业项目管理”页面创建,具体请参见《企业管理用户指南》中“创建企业项目”的内容。

      标签

      • 可选配置,对同步任务的标识。使用标签可方便管理您的任务。每个任务最多支持20个标签配额。
      • 任务创建成功后,您可以单击任务名称,在“标签”页签下查看对应标签。关于标签的详细操作,请参见标签管理

    对于创建失败的任务,DRS默认保留3天,超过3天将会自动结束任务。

  3. 在“灾备任务管理”页面,等待任务创建完成后,单击正向子任务“操作”“编辑”,进入“源库及目标库”页面。

    图5 灾备任务列表

  4. 在“源库及目标库”页面,灾备实例创建成功后,填选业务数据库信息和灾备数据库信息后,单击“源库和目标库”处的“测试连接”,分别测试并确定与业务库和灾备库连通后,勾选协议,单击“下一步”

    图6 业务数据库信息
    表8 业务数据库信息

    参数

    描述

    数据库类型

    默认选择“ECS自建库”

    源数据库类型可以为“ECS自建库”,或“RDS实例”。选择“RDS实例”后,需要选择“区域”,该区域为源库所在区域,不能与目标库区域相同,目标库所在区域为控制台当前登录区域。“RDS实例”功能需要提交工单申请才能使用。

    IP地址或域名

    业务数据库的IP地址或域名。

    端口

    业务数据库服务端口,可输入范围为1~65535间的整数。

    数据库用户名

    业务数据库的用户名。

    数据库密码

    业务数据库的用户名所对应的密码。支持在任务创建后修改密码。

    任务为启动中、初始化、灾备中、灾备异常状态时,可在“基本信息”页面,单击“连接信息”后的“修改连接信息”,在弹出的对话框中修改密码。

    SSL安全连接

    通过该功能,用户可以选择是否开启对迁移链路的加密。如果开启该功能,需要用户上传SSL CA根证书。

    说明:
    • 最大支持上传500KB的证书文件。
    • 如果不启用SSL安全连接,请自行承担数据安全风险。

    区域

    业务数据库RDS实例所在区域,不支持选择本区域。源数据库类型为“RDS实例”时,该选项可见。

    数据库实例名称

    业务数据库实例名称。源数据库类型为“RDS实例”时,该选项可见。

    数据库用户名

    业务数据库用户名称。

    数据库密码

    业务数据库的数据库用户密码。

    业务数据库的IP地址或域名、数据库用户名和密码,会被系统加密暂存,直至删除该迁移任务后自动清除。

    图7 灾备数据库信息
    表9 灾备数据库信息

    参数

    描述

    数据库实例名称

    默认为创建灾备任务时选择的RDS for MySQL实例,不可进行修改。

    数据库用户名

    灾备数据库对应的数据库用户名。

    数据库密码

    灾备数据库对应的用户名密码。支持在任务创建后修改密码。

    任务为启动中、初始化、灾备中、灾备异常状态时,可在“基本信息”页面,单击“连接信息”后的“修改连接信息”,在弹出的对话框中修改密码。

    数据库用户名和密码将被系统加密暂存,直至该任务删除后清除。

    SSL安全连接

    如启用SSL安全连接,请在灾备数据库开启SSL,并确保相关配置正确后上传SSL证书。

    说明:
    • 最大支持上传500KB的证书文件。
    • 如果不启用SSL安全连接,请自行承担数据安全风险。

  5. “灾备设置”页面,设置流速模式等,单击“下一步”

    图8 灾备设置
    表10 灾备设置

    参数

    描述

    流速模式

    流速模式支持限速和不限速,默认为不限速。

    • 限速

      自定义的最大灾备速度,灾备过程中的速度将不会超过该速度。

      当流速模式选择了“限速”时,你需要通过流速设置来定时控制灾备速度。流速设置通常包括限速时间段和流速大小的设置。默认的限速时间段为“全天限流”,您也可以根据业务需求选择“时段限流”。自定义的时段限流支持最多设置3个定时任务,每个定时任务之间不能存在交叉的时间段,未设定在限速时间段的时间默认为不限速。

      流速的大小需要根据业务场景来设置,不能超过9999MB/s。

      图9 设置流速模式
    • 不限速
      对灾备速度不进行限制,通常会最大化使用源数据库的出口带宽。该流速模式同时会对源数据库造成读消耗,消耗取决于源数据库的出口带宽。比如源数据库的出口带宽为100MB/s,假设高速模式使用了80%带宽,则灾备对源数据库将造成80MB/s的读操作IO消耗。
      说明:
      • 限速模式只对灾备初始化阶段生效,灾备中阶段不生效。
      • 您也可以在任务为“配置”状态时修改流速模式。具体操作方法请参见修改流速模式

    所有Definer迁移到该用户下

    选择是否将源数据库对象的Definer迁移到测试连接时输入的目标数据库用户下。

    • 迁移后,所有源数据库对象的Definer都会迁移至该用户下,其他用户需要授权后才具有数据库对象权限,如何授权请参考MySQL迁移中Definer强制转化后如何维持原业务用户权限体系

      例如,如果view迁移前为CREATE ALGORITHM=UNDEFINED DEFINER=`username`@`%` SQL SECURITY DEFINER VIEW `test_db`.`view5` AS select 1 AS `1`;

      迁移后会被转换成:CREATE ALGORITHM=UNDEFINED DEFINER=`drsUser`@`%` SQL SECURITY DEFINER VIEW `test_db`.`view5` AS select 1 AS `1`;

      其中drsUser为测试连接使用的账号。

    • 迁移后,将保持源数据库对象Definer定义不变,选择此选项,需要配合下一步用户权限迁移功能,将源数据库的用户全部迁移,这样才能保持源数据库的权限体系完全不变。注意:如果Definer账户在目标库不存在,则会建立不可用的对象。

      Definer相关概念可参考MySQL官网文档中的说明。

  6. “预检查”页面,进行灾备任务预校验,校验通过后才可进行下一步。

    • 查看检查结果,如有不通过的检查项,需要修复不通过项后,单击“重新校验”重新进行灾备任务的预检查。

      预检查不通过项处理建议请参见《数据复制服务用户指南》中的“预检查不通过项修复方法”。

      图10 预检查
    • 预检查完成后,且预检查通过率为100%时,单击“下一步”。

      所有检查项结果均通过时,若存在请确认项,需要阅读并确认详情后才可以继续执行下一步操作。

  7. “参数对比”页面,进行参数对比。

    参数对比功能从“常规参数”“性能参数”两个维度,展示了业务数据库和灾备数据库参数值的一致性情况。您可以根据业务需要,决定是否选用该功能。该操作不影响数据灾备,主要目的是为了确保数据灾备成功后业务应用的使用不受影响。
    • 若您选择不进行参数对比,可跳过该步骤,单击页面右下角“下一步”按钮,继续执行后续操作。
    • 若您选择进行参数对比,请参照如下的步骤操作。
      • 对于常规参数,一般情况下,如果业务数据库和灾备数据库存在不一致的情况,建议单击“一键修改”,将灾备数据库参数修改为和业务数据库对应参数相同的值。
        图11 修改常规参数
      • 对于性能参数,您可以根据业务场景,自定义业务数据库和灾备数据库的参数值,二者结果可以一致也可以不一致。
        • 将对比结果一致的性能参数修改为不一致:在“目标库值调整为”一列手动输入调整的倍数或结果后,单击左上角的“一键修改”,即可完成修改。
        • 将对比结果不一致的性能参数改为一致,请参考如下流程进行修改:
          1. 对业务库和灾备库的参数值。

            选择需要修改的参数后,单击“一键对齐”,系统将帮您自动填充灾备数据库的参数值,使其和业务数据库对应的参数值保持一致。

            图12 一键对齐参数

            您也可以通过手动输入调整的倍数或结果,对齐参数值。

          2. 修改参数值。

            业务数据库和灾备数据库的不一致参数值对齐后,单击“一键修改”,系统将按照您当前设置的灾备数据库参数值进行修改。修改完成后,灾备数据库的参数值和对比结果会自动更新。

            图13 一键修改参数

            部分参数修改后无法在灾备数据库立即生效,需要重启才能生效,此时的对比结果显示为“待重启,不一致”。建议您在灾备任务启动之前重启灾备标数据库,或者数据灾备结束后选择一个计划时间重启。如果您选择数据灾备结束后重启灾备数据库,请合理设置重启计划时间,避免参数生效太晚影响业务的正常使用。

            在进行参数对比功能时,您可以参见《数据复制服务用户指南》中“参数对比列表”进行参数设置。

          3. 参数对比操作完成后,单击“下一步”,进入“任务确认”页面。

  8. “任务确认”页面,设置正向子任务的启动时间、任务异常通知设置、SMN主题、时延阈值、RTO 时延阈值、RPO 时延阈值、任务异常自动结束时间,并确认任务信息无误后,单击“启动任务”,提交正向灾备任务。

    图14 任务启动设置
    表11 任务和描述

    参数

    描述

    启动时间

    灾备任务的启动时间可以根据业务需求,设置为“立即启动”或“稍后启动”。

    说明:

    预计灾备任务启动后,会对业务数据库和灾备数据库的性能产生影响,建议选择业务低峰期,合理设置灾备任务的启动时间。

    任务异常通知设置

    该项为可选参数,开启之后,选择对应的SMN主题。当灾备任务状态异常时,系统将发送通知。

    SMN主题

    “任务异常通知设置”项开启后可见,需提前在SMN上申请主题并添加订阅。

    SMN主题申请和订阅可参考《消息通知服务用户指南》

    时延阈值

    在数据灾备阶段,业务数据库和灾备数据库之间的有时会存在一个时间差,称为时延,单位为秒。

    时延阈值设置是指时延超过一定的值后(时延阈值范围为0到3600s),DRS可以发送告警通知。告警通知将在时延稳定超过设定的阈值6min后发送,避免出现由于时延波动反复发送告警通知的情况。

    说明:
    • 设置时延阈值之前,需要设置任务异常通知。
    • 当时延阈值设置为0时,不会发送通知给收件人。

    RTO 时延阈值

    RTO时延阈值设置是DRS实例与灾备数据库间同步的时延超过一定的值后(RTO时延阈值范围为0到3600s),DRS可以发送告警通知给指定收件人。告警通知将在时延稳定超过设定的阈值6min后发送,避免出现由于时延波动反复发送告警通知的情况。

    说明:
    • 设置RTO时延阈值之前,需要设置任务异常通知。
    • 当时延阈值设置为0时,不会发送通知给收件人。

    RPO 时延阈值

    RPO时延阈值设置是业务数据库与DRS实例间同步的时延超过一定的值后(RTO时延阈值范围为0到3600s),DRS可以发送告警通知。告警通知将在时延稳定超过设定的阈值6min后发送,避免出现由于时延波动反复发送告警通知的情况。

    说明:
    • 设置RPO时延阈值之前,需要设置任务异常通知。
    • 当时延阈值设置为0时,不会发送通知给收件人。
    • 初次进入增量灾备阶段,会有较多数据等待同步,产生的较大时延属于正常情况,不在该功能监控范围之内。

    任务异常自动结束时间(天)

    设置任务异常自动结束天数,输入值必须在14到100之间,默认值14。

    说明:
    • 仅按需计费任务支持设置任务异常自动结束时间,包年/包月任务不支持。
    • 异常状态下的任务仍然会计费,而长时间异常的任务无法续传和恢复。设置任务异常自动结束天数后,异常且超时的任务将会自动结束,以免产生不必要的费用。

  9. 返回灾备任务列表页面,等待正向子任务进入“灾备中”状态后,单击反向子任务“操作”“编辑”,进入反向子任务的“源库及目标库”页面。

    图15 灾备任务列表

  10. 在“源库及目标库”页面,单击“源库和目标库”处的“测试连接”,分别测试并确定与业务库和灾备库连通后,单击“下一步”
  11. “任务确认”页面,设置反向子任务的启动时间、任务异常通知设置、SMN主题、时延阈值、RTO 时延阈值、RPO 时延阈值、任务异常自动结束时间,并确认任务信息无误后,单击“启动任务”,提交反向灾备任务。
  12. 灾备任务提交后,您可在“实时灾备管理”页面,查看并管理自己的任务

    • 您可查看任务提交后的状态,状态请参见任务状态说明
    • 在任务列表的右上角,单击刷新列表,可查看到最新的任务状态。
    • 对于未启动、状态为配置中的任务,DRS默认保留3天,超过3天DRS会自动删除后台资源,当前任务状态不变。当用户再次配置时,DRS会重新申请资源。