更新时间:2022-05-25 GMT+08:00
分享

MySQL->MySQL

使用技巧(需要人为配合)

  • 如果您使用的是全量迁移模式(离线迁移),确保源和目标数据库无业务写入,保证迁移前后数据一致。
  • 如果您使用的是全量+增量迁移模式(在线迁移),支持在源数据库有业务数据写入的情况下进行迁移,推荐提前2-3天启动任务,并配合如下使用技巧和对应场景的操作要求,以确保顺利迁移。
    • 全量迁移
      基于以下原因,建议您结合定时启动功能,选择业务低峰期开始运行迁移任务,相对静态的数据,迁移时复杂度将会降低。如果迁移不可避免业务高峰期,推荐使用迁移限速功能,即“流速模式”选择“限速”
      • 全量迁移会对源数据库有一定的访问压力。
      • 迁移无主键表时,为了确保数据一致性,会存在3s以内的单表级锁定。
      • 正在迁移的数据被其他事务长时间锁死,可能导致读数据超时。
      • 由于MySQL固有特点限制,CPU资源紧张时,存储引擎为Tokudb的表,读取速度可能下降至10%。
      • DRS并发读取数据库,会占用大约6-10个session连接数,需要考虑该连接数对业务的影响。
      • 全量阶段读取表数据时,特别是大表的读取,可能会阻塞业务上对大表的独占锁操作。
    • 数据对比

      建议您结合数据对比的“稍后启动”功能,选择业务低峰期进行数据对比,以便得到更为具有参考性的对比结果。由于同步具有轻微的时差,在数据持续操作过程中进行对比任务,可能会出现少量数据不一致对比结果,从而失去参考意义。

操作要求

针对一些无法预知或人为因素及环境突变导致迁移失败的情况,数据复制服务提供以下常见的操作限制,供您在迁移过程中参考。
表1 操作要求

类型名称

操作限制(需要人为配合)

注意事项

  • 表2中的环境要求均不允许在迁移过程中修改,直至迁移结束。
  • 相互关联的数据对象要确保同时迁移,避免迁移因关联对象缺失,导致迁移失败。常见的关联关系:视图引用表、视图引用视图、存储过程/函数/触发器引用视图/表、主外键关联表等。
  • 不支持外键级联操作。
  • 由于MySQL本身限制,若源库的一次性事件(EVENT)设定的触发时间在迁移开始前,该事件(EVENT)不会迁移到目标库。
  • 多对一场景下,创建迁移任务时,目标库读写设置需要跟已有任务设置为一致。
  • 由于无主键表缺乏行的唯一性标志,网络不稳定时涉及少量重试,表数据存在少量不一致的可能性。
  • 不支持目标数据库恢复到全量迁移时间段范围内的PITR操作。
  • 若专属计算集群不支持4vCPU/8G或以上规格实例,则无法创建迁移任务。
  • 源库和目标库为RDS for MySQL实例时,不支持带有TDE特性并建立具有加密功能表。
  • 如果源库MySQL不支持TLS1.2协议,或者为版本较低的自建库(低于5.6.46或在5.7-5.7.28之间),需提交运维申请才能使用SSL测试连接。

操作须知

  • 在任务启动、任务全量迁移阶段,不建议对源数据库做删除类型的DDL操作,比如删除数据库、索引、视图等,这样可能会引起任务迁移失败。
  • 在结束迁移任务时,将进行所选事件(EVENT)和触发器(TRIGGER)的迁移。请确保任务结束前,不要断开源和目标数据库的网络连通性,并在结束任务时关注迁移日志上报的状态,达到数据库完整迁移效果。
  • 迁移过程中,不允许修改、删除连接源和目标数据库的用户的用户名、密码、权限,或修改源和目标数据库的端口号。
  • 迁移任务目标数据库可以设置“只读”和“读写”。
    • 只读:目标数据库实例将转化为只读、不可写入的状态,迁移任务结束后恢复可读写状态,此选项可有效的确保数据迁移的完整性和成功率,推荐此选项。
    • 读写:目标数据库可以读写,但需要避免操作或接入应用后会更改迁移中的数据(注意:无业务的程序常常也有微量的数据操作),进而形成数据冲突、任务故障、且无法修复续传,充分了解要点后可选择此选项。
  • 增量迁移场景下,不支持源数据库进行恢复到某个备份点的操作(PITR)。
  • 为了保持数据一致性,不允许对正在迁移中的目标数据库进行修改操作(包括但不限于DDL、DML操作)。
  • 增量迁移阶段,支持断点续传功能,在主机系统崩溃的情况下,对于非事务性的无主键的表可能会出现重复插入数据的情况。
  • 迁移过程中,不允许源库写入binlog格式为statement的数据。
  • 迁移过程中,不允许源库执行清除binlog的操作。
  • 选择表级对象迁移时,增量迁移过程中不支持对表进行重命名操作。
  • 源库不支持阿里云RDS的只读副本。
  • 如果源数据库为自建库,并且安装了Percona Server for MySQL 5.6.x或Percona Server for MySQL 5.7.x时,内存管理器必须使用Jemalloc库,以避免因系统表频繁查询带来的内存回收不及时,并最终导致数据库Out of Memory问题。
  • 迁移过程中,不允许在源库创建库名为ib_logfile的数据库。
  • 建议将expire_log_day参数设置在合理的范围,确保恢复时断点处的binlog尚未过期,以保证服务中断后的顺利恢复。
  • 全量和增量迁移支持DDL语句。
  • 当源和目标库是同一个大版本且为整实例迁移时,增量迁移支持DCL语句,不支持通过更新mysql.user表进行的账号变更。相关DCL语句可参考MySQL官网文档

环境要求

实时迁移对环境有一些特定的要求,请确保环境配置满足以下条件。该类型的要求系统会自动检查,并给出处理建议。
表2 环境要求

类型名称

使用限制(DRS自动检查)

数据库权限设置

  • 全量迁移最小权限要求:
    • 源数据库帐户需要具备如下权限:

      SELECT、SHOW VIEW、EVENT。

    • 目标数据库帐号必须拥有如下权限:

      SELECT、CREATE、ALTER、DROP、DELETE、INSERT、UPDATE、INDEX、EVENT、CREATE VIEW、CREATE ROUTINE、TRIGGER、REFERENCES、WITH GRANT OPTION。当目标库为8.0.14-8.0.18版本时,还需要有SESSION_VARIABLES_ADMIN权限。

  • 全量+增量最小迁移权限要求:
    • 源数据库帐户需要具备如下权限:

      SELECT、SHOW VIEW、EVENT、LOCK TABLES、REPLICATION SLAVE、REPLICATION CLIENT。

    • 目标数据库帐号必须拥有如下权限:

      SELECT、CREATE、ALTER、DROP、DELETE、INSERT、UPDATE、INDEX、EVENT、CREATE VIEW、CREATE ROUTINE、TRIGGER、REFERENCES、WITH GRANT OPTION。当目标库为8.0.14-8.0.18版本时,还需要有SESSION_VARIABLES_ADMIN权限。

  • 用户迁移最小权限要求:
    • 用户迁移时,当源数据库为非阿里云数据库时,帐户需要有mysql.user的SELECT权限,源数据库为阿里云数据库,则帐户需要同时具有mysql.user和mysql.user_view的SELECT权限。
    • 目标数据库帐户需要有mysql库的SELECT,INSERT,UPDATE,DELETE权限。

迁移对象约束

  • 支持数据库、表、视图、索引、约束、函数、存储过程、触发器(TRIGGER)和事件(EVENT)的迁移。
  • 不支持系统库的迁移以及事件状态的迁移。
  • 不支持非MyISAM和非InnoDB表的迁移。

源数据库要求

  • 源数据库中的库名不能包含:'<`>/\"以及非ASCII字符。
  • 源数据库中的表名、视图名不能包含:'<>/\"以及非ASCII字符。
  • 源数据库中的库名不允许为ib_logfile。
  • MySQL源数据库的binlog日志必须打开,且binlog日志格式必须为Row格式。
  • 在磁盘空间允许的情况下,建议源数据库binlog保存时间越长越好,建议为3天。
  • 源数据库expire_logs_days参数值为0,可能会导致迁移失败。
  • 增量迁移时,必须设置MySQL源数据库的server_id。如果源数据库版本小于或等于MySQL5.6,server_id的取值范围在2-4294967296之间;如果源数据库版本大于或等于MySQL5.7,server_id的取值范围在1-4294967296之间。
  • MySQL源数据库建议开启skip-name-resolve,减少连接超时的可能性。
  • 源数据库GTID状态建议为开启状态。
  • 源库不支持mysql binlog dump命令。
  • 源数据库和目标数据库字符集需保持一致,否则迁移失败。
  • 源数据库log_slave_updates参数需设置为开启状态,否则会导致迁移失败。
  • 源数据库的binlog_row_image参数需设置为FULL,否则会导致迁移失败。
  • 源数据库MySQL8.0目前不支持参数lower_case_table_names等于0的迁移。

目标数据库要求

  • 不支持从高版本迁移到低版本。
  • 建议MySQL目标库的binlog日志格式为Row格式,否则增量迁移可能出错。
  • 目标数据库实例的运行状态必须正常。
  • 目标数据库实例必须有足够的磁盘空间。
  • 除了MySQL系统数据库之外,目标数据库不能包含与源数据库同名的数据库。
  • 建议目标库的事务隔离级别至少保证在已提交读。
  • DRS迁移时会有大量数据写入目标库,目标库max_allowed_packet 参数过小会导致无法写入,建议将目标库max_allowed_packet参数值设置大一点,使其大于100MB。
  • 目标数据库GTID状态建议为开启状态。
  • 源数据库和目标数据库的参数server_uuid相同, 将导致增量迁移失败。
  • 源数据库和目标数据库的参数collation_server需保持一致,否则可能导致迁移失败。
  • 所选迁移对象和外键依赖的表需一起进行迁移,否则会导致迁移失败。
  • 源数据库和目标数据库的参数time_zone需保持一致,否则可能导致迁移失败。
  • 源数据库和目标数据库的sql_mode参数值需保持一致,否则可能导致迁移失败。
  • 迁移的对象中包含引擎为MyISAM的表,则目标数据库sql_mode不能包含no_engine_substitution参数,否则可能会导致迁移失败。
  • 源数据库和目标数据库的innodb_strict_mode参数值需保持一致,否则可能导致迁移失败。
  • 目标数据库和源数据库的lower_case_table_names参数需保持一致,否则可能导致迁移失败。
  • 目标数据库的log_bin_trust_function_creators参数需设置为on,否则可能导致迁移失败。
分享:

    相关文档

    相关产品

close