将MySQL迁移到MySQL
支持的源和目标数据库
源数据库 |
目标数据库 |
---|---|
|
|
数据库账号权限要求
在使用DRS进行迁移时,连接源库和目标库的数据库账号需要满足以下权限要求,才能启动实时迁移任务。不同类型的迁移任务,需要的账号权限也不同,详细可参考表2进行赋权。DRS会在“预检查”阶段对数据库账号权限进行自动检查,并给出处理建议。
类型名称 |
全量迁移 |
全量+增量迁移 |
---|---|---|
源数据库连接账号 |
需要具备如下最小权限: SELECT、SHOW VIEW、EVENT。 用户迁移时,如果源数据库为8.0版本,需要有mysql.user表的SELECT权限;如果为5.7及以下版本,则需要mysql系统库的SELECT权限。 |
需要具备如下最小权限: SELECT、SHOW VIEW、EVENT、LOCK TABLES、REPLICATION SLAVE、REPLICATION CLIENT。 用户迁移时,如果源数据库为8.0版本,需要有mysql.user表的SELECT权限;如果为5.7及以下版本,则需要mysql系统库的SELECT权限。 |
目标数据库连接账号 |
需要具备如下最小权限: SELECT、CREATE、ALTER、DROP、DELETE、INSERT、UPDATE、INDEX、EVENT、CREATE VIEW、CREATE ROUTINE、TRIGGER、REFERENCES、WITH GRANT OPTION。当目标库为8.0.14-8.0.18版本时,还需要有SESSION_VARIABLES_ADMIN权限。 用户迁移时,需要有mysql库的SELECT、INSERT、UPDATE、DELETE权限。 |
支持的迁移对象范围
在使用DRS进行迁移时,不同类型的迁移任务,支持的迁移对象范围不同,详细情况可参考表3。DRS会根据用户选择,在“预检查”阶段对迁移对象进行自动检查。
类型名称 |
使用须知 |
---|---|
迁移对象范围 |
|
注意事项
为保证任务的正常运行,DRS提供了自动化的检查方法,在您启动DRS任务前,会针对源数据库和目标数据库的相关配置、条件进行检查。主要的检查项和对应的处理建议请参考DRS预检查项一览表。除了预检查项目之外,您还需要注意的事情如表4所示
类型名称 |
使用和操作限制 |
---|---|
源数据库限制 |
|
使用限制 |
通用:
全量迁移阶段:
增量迁移阶段:
结束任务:
常见故障排查:
|
其他限制 |
|
前提条件
- 已登录数据复制服务控制台。
- 账户余额大于等于0美元。
- 满足实时迁移支持的数据库类型和版本,详情请参见支持的数据库。
- 当用户创建DRS任务使用的是子账号时,请先确认已添加过委托。创建委托方法,可参考委托管理。
- 已阅读以上DRS预检查项一览表和注意事项。
操作步骤
本章节将以RDS for MySQL到ECS自建MySQL的迁移为示例,介绍在同一VPC网络场景下,通过数据复制服务管理控制台配置数据迁移任务的流程,其他存储引擎的配置流程类似。
- 在“实时迁移管理”页面,单击“创建迁移任务”,进入创建迁移任务页面。
- 在“迁移实例”页面,填选区域、项目、任务名称、描述、迁移实例信息,单击“开始创建”。
- 任务信息
图1 迁移任务信息
表5 任务和描述 参数
描述
区域
当前所在区域,可进行切换。为了降低访问时延、提高访问速度,请就近选择靠近您业务的区域。
项目
当前区域对应的项目,可进行切换。
任务名称
任务名称在4到50位之间,必须以字母开头,可以包含字母、数字、中划线或下划线,不能包含其他的特殊字符。
描述
描述不能超过256位,且不能包含! = < > & ' " \ 特殊字符。
- 迁移实例信息
图2 迁移实例信息
表6 迁移实例信息 参数
描述
数据流动方向
选择出云。
出云指源端数据库为本云数据库的场景。
源数据库引擎
选择MySQL。
目标数据库引擎
选择MySQL。
网络类型
目前支持公网网络、VPC网络和VPN、专线网络类型,您可以根据具体的业务场景进行设置,此处场景以VPC网络为示例。
- VPC网络:适合云上同账号同Region数据库之间的迁移。
- VPN、专线网络:适合通过VPN、专线网络,实现其他云下自建数据库与云上数据库迁移、或云上跨Region的数据库之间的迁移。
- 公网网络:适合将其他云下或其他平台的数据库迁移到目标数据库。
源数据库实例
用户需要迁移的数据库实例。
迁移实例所在子网
选择迁移实例所在的子网。也可以单击“查看子网”,跳转至“网络控制台”查看实例所在子网帮助选择。
默认值为当前所选数据库实例所在子网,请选择有可用IP地址的子网。为确保迁移实例创建成功,仅显示已经开启DHCP的子网。
迁移模式
- 全量:该模式为数据库一次性迁移,适用于可中断业务的数据库迁移场景,全量迁移将非系统数据库的全部数据库对象和数据一次性迁移至目标端数据库,包括:表、视图、存储过程等。
说明:
如果用户只进行全量迁移时,建议停止对源数据库的操作,否则迁移过程中源数据库产生的新数据不会同步到目标数据库。
- 全量+增量:该模式为数据库持续性迁移,适用于对业务中断敏感的场景,通过全量迁移过程中完成的目标端数据库的初始化后,增量迁移阶段通过解析日志等技术,将源端和目标端数据库保持数据持续一致。
说明:选择“全量+增量”迁移模式,增量迁移可以在全量迁移完成的基础上实现数据的持续同步,无需中断业务,实现迁移过程中源业务和数据库继续对外提供访问。
指定公网IP
网络类型选择“公网网络”时可见,选择为DRS实例绑定的弹性公网IP。任务创建时,DRS将会自动绑定该弹性公网IP,等待任务结束后将自动解绑该弹性公网IP。指定公网IP数量需要与实例数量匹配。
公网网络迁移产生的数据传输费用收取标准请参见:弹性公网IP价格计算器。
- 可用区
图3 可用区
表7 任务可用区 参数
描述
可用区
DRS任务创建的可用区,选择跟源或目标库相同的可用区性能更优。
- 企业项目和标签
图4 企业项目和标签
表8 企业项目和标签 参数
描述
企业项目
企业项目是一种云资源管理方式,企业项目管理服务提供统一的云资源按项目管理,以及项目内的资源管理、成员管理。请在下拉框中选择所在的企业项目,其中,default为默认项目。
更多关于企业项目的信息,请参见《企业管理用户指南》。
如果需要自定义企业项目,请在控制台右上角单击“企业”,进入“企业项目管理”页面创建,具体请参见《企业管理用户指南》中“创建企业项目”的内容。
标签
- 可选配置,对同步任务的标识。使用标签可方便管理您的任务。每个任务最多支持20个标签配额。
- 如果您的组织已经设定DRS的相关标签策略,则需按照标签策略规则为任务添加标签。标签如果不符合标签策略的规则,则可能会导致任务创建失败,请联系组织管理员了解标签策略详情。
- 任务创建成功后,您可以单击任务名称,在“标签”页签下查看对应标签。关于标签的详细操作,请参见标签管理。
对于创建失败的任务,DRS默认保留3天,超过3天将会自动结束任务。
- 任务信息
- 在“源库及目标库”页面,迁移实例创建成功后,填选自建DNS服务配置、源库信息和目标库信息,并单击“源库和目标库”处的“测试连接”,分别测试并确定与源库和目标库连通后,勾选协议,单击“下一步”。
- 自建DNS服务配置(选填)
图5 自建DNS服务器
表9 自建DNS信息 参数
描述
是否配置自建DNS服务器
当用户需要填写自建的内网域名数据库地址作为源或者目标库时,请开启此选项。
自建DNS服务IP
填写用户自建的DNS服务IP信息。
配置自建DNS服务IP后,用户可在源库或目标库的“IP地址或域名”处填写您自建的内网域名数据库地址进行数据迁移。
当用户需要填写自建的内网域名数据库地址作为源或者目标库时,此功能能够实现。
自建DNS功能目前仅支持白名单用户,需要提交工单申请才能使用。您可以在管理控制台右上角,选择“工单 > 新建工单”,完成工单提交。
- 源库信息
图6 源库信息
表10 源库信息 参数
描述
数据库实例名称
默认为创建迁移任务时选择的关系型数据库实例,不可进行修改。
数据库用户名
源数据库对应的数据库用户名。
数据库密码
源数据库对应的数据库密码。
任务为启动中、全量迁移、增量迁移、增量迁移失败状态时,可在“基本信息”页面,单击“连接信息”后的“修改连接信息”,在弹出的对话框中修改密码。
SSL安全连接
如启用SSL安全连接,请在源库开启SSL,并确保相关配置正确后上传SSL证书。
说明:- 最大支持上传500KB的证书文件。
- 如果不启用SSL安全连接,请自行承担数据安全风险。
源数据库的用户名和密码将在迁移过程中被加密暂存到数据库和迁移实例主机上,待该任务删除后会永久清除。
- 目标库信息
图7 目标库信息
表11 目标库信息 参数
描述
VPC
目标数据库所在的虚拟专用网络,可以对不同业务进行网络隔离。
子网
通过子网提供与其他网络隔离的、可以独享的网络资源,以提高网络安全。子网在可用分区内才会有效,创建源数据库实例的子网需要开启DHCP功能,在创建过程中也不能关闭已选子网的DHCP功能。
IP地址或域名
目标数据库的IP地址或域名。
端口
目标数据库服务端口,可输入范围为1~65535间的整数。
数据库用户名
目标数据库的用户名。
数据库密码
目标数据库的用户名所对应的密码。支持在任务创建后修改密码。
任务为启动中、全量迁移、增量迁移、增量迁移失败状态时,可在“基本信息”页面,单击“连接信息”后的“修改连接信息”,在弹出的对话框中修改密码。
SSL安全连接
如启用SSL安全连接,请在目标库开启SSL,并确保相关配置正确后上传SSL证书。
说明:- 最大支持上传500KB的证书文件。
- 如果不启用SSL安全连接,请自行承担数据安全风险。
所有Definer迁移到该用户下
选择是否将源数据库对象的Definer迁移到测试连接时输入的目标数据库用户下。
- 是
迁移后,所有源数据库对象的Definer都会迁移至该用户下,其他用户需要授权后才具有数据库对象权限,如何授权请参考MySQL迁移中Definer强制转化后如何维持原业务用户权限体系。
例如,如果view迁移前为CREATE ALGORITHM=UNDEFINED DEFINER=`username`@`%` SQL SECURITY DEFINER VIEW `test_db`.`view5` AS select 1 AS `1`;
迁移后会被转换成:CREATE ALGORITHM=UNDEFINED DEFINER=`drsUser`@`%` SQL SECURITY DEFINER VIEW `test_db`.`view5` AS select 1 AS `1`;
其中drsUser为测试连接使用的账号。
- 否
迁移后,将保持源数据库对象Definer定义不变,选择此选项,需要配合下一步用户权限迁移功能,将源数据库的用户全部迁移,这样才能保持源数据库的权限体系完全不变。注意:如果Definer账户在目标库不存在,则会建立不可用的对象。
Definer相关概念可参考MySQL官网文档中的说明。
目标数据库的IP地址、端口、用户名和密码将在迁移过程中被加密暂存到数据库和迁移实例主机上,待该任务删除后会永久清除。
- 自建DNS服务配置(选填)
- 在“迁移设置”页面,设置迁移用户和迁移对象等信息,单击“下一步”。
图8 迁移模式
表12 迁移模式和迁移对象 参数
描述
流速模式
流速模式支持限速和不限速,默认为不限速。限速模式只对全量阶段生效,增量阶段不生效。
- 限速
自定义的最大迁移速度,迁移过程中每个任务(多任务时为每个子任务)的迁移速度将不会超过该速度。
当流速模式选择了“限速”时,您需要通过流速设置来定时控制迁移速度。流速设置通常包括限速时间段和流速大小的设置。默认的限速时间段为“全天限流”,您也可以根据业务需求选择“时段限流”。自定义的时段限流支持最多设置10个定时任务,每个定时任务之间不能存在交叉的时间段,未设定在限速时间段的时间默认为不限速。
流速的大小需要根据业务场景来设置,不能超过9999MB/s。
图9 设置流速模式
- 不限速
对迁移速度不进行限制,通常会最大化使用源数据库的出口带宽。该流速模式同时会对源数据库造成读消耗,消耗取决于源数据库的出口带宽。比如源数据库的出口带宽为100MB/s,假设高速模式使用了80%带宽,则迁移对源数据库将造成80MB/s的读操作IO消耗。说明:
- 限速模式只对全量迁移阶段生效,增量迁移阶段不生效。
- 您也可以在创建任务后修改流速模式。具体方法请参见修改流速模式。
迁移增量账号及权限
过滤DROP DATABASE
增量迁移过程中,源数据库端执行的DDL操作在一定程度上会影响数据的迁移能力,为了降低迁移数据的风险,数据复制服务提供了过滤DDL操作的功能。
目前支持默认过滤删除数据库的操作。
- 是,表示数据迁移过程中不会同步用户在源数据库端执行的删除数据库的操作。
- 否,则表示数据迁移过程中将相关操作同步到目标库。
迁移用户
数据库的迁移过程中,迁移用户需要进行单独处理。
常见的迁移用户一般分为三类:可完整迁移的用户、需要降权的用户和不可迁移的用户。您可以根据业务需求选择“迁移”或者“不迁移”,选择“迁移”后,可根据需要选择迁移用户。- 迁移
当您选择迁移用户时,请参见迁移用户章节进行数据库用户、权限及密码的处理。
索引与表结构同时建立
全量阶段,是否与表结构同时建立索引。
- 是,实时迁移过程中,全量同步迁移表结构的时候,会同时迁移索引。
- 否,索引会在迁移数据阶段后进行单独迁移。
迁移对象
左侧框是源数据库对象,右侧框是已经选择的对象,您可以根据业务需求,选择全部对象迁移、表级迁移或者库级迁移。
- 全部迁移:将源数据库中的所有对象全部迁移至目标数据库,对象迁移到目标数据库实例后,对象名将会保持与源数据库实例对象名一致且无法修改。
- 表级迁移:将选择的表级对象迁移至目标数据库。
- 库级迁移:将选择的库级对象迁移至目标数据库。
如果有切换源数据库的操作或源库迁移对象变化的情况,请务必在选择迁移对象前单击右上角的,以确保待选择的对象为最新源数据库对象。
说明:- 若选择部分数据库进行迁移时,由于存储过程、视图等对象可能与其他数据库的表存在依赖关系,若所依赖的表未迁移,则会导致迁移失败。建议您在迁移之前进行确认,或选择全部数据库进行迁移。
- 当对象名称包含空格时,名称前后的空格不显示,中间如有多个空格只显示一个空格。
- 选择的迁移对象名称中不能包含空格。
- 选择对象的时候支持对展开的库进行搜索,以便您快速选择需要的数据库对象。
- 限速
- 在“预检查”页面,进行迁移任务预校验,校验是否可进行迁移。
- 查看检查结果,如有不通过的检查项,需要修复不通过项后,单击“重新校验”按钮重新进行迁移任务预校验。
预检查不通过项处理建议请参见《数据复制服务用户指南》中的“预检查不通过项修复方法”。
- 预检查完成后,且预检查通过率为100%时,单击“下一步”。
所有检查项结果均通过时,若存在待确认项,需要阅读并确认详情后才可以继续执行下一步操作。
- 查看检查结果,如有不通过的检查项,需要修复不通过项后,单击“重新校验”按钮重新进行迁移任务预校验。
- 在“任务确认”页面,设置迁移任务的启动时间、任务异常通知设置、SMN主题、时延阈值、任务异常自动结束时间,并确认迁移任务信息无误后,单击“启动任务”,提交迁移任务。
图10 任务启动设置
表13 任务启动设置 参数
描述
启动时间
迁移任务的启动时间可以根据业务需求,设置为“立即启动”或“稍后启动”,优选“稍后启动”。
说明:预计迁移任务启动后,会对源数据库和目标数据库的性能产生影响,建议您将任务启动时间设定在业务低峰期,同时预留2-3天校对数据。
任务异常通知设置
该项为可选参数,开启之后,选择对应的SMN主题。当入云迁移任务即将开始计费或者迁移任务状态、时延指标、数据等异常时,系统将发送通知。
SMN主题
“任务异常通知设置”项开启后可见,需提前在SMN上申请主题并添加订阅。
SMN主题申请和订阅可参考《消息通知服务用户指南》。
时延阈值
在增量迁移阶段,源数据库和目标数据库之间的同步有时会存在一个时间差,称为时延,单位为秒。
时延阈值设置是指时延超过一定的值后(时延阈值范围为0到3600s),DRS可以发送告警通知。告警通知将在时延稳定超过设定的阈值6min后发送,避免出现由于时延波动反复发送告警通知的情况。
说明:- 首次进入增量迁移阶段,会有较多数据等待同步,存在较大的时延,属于正常情况,不在此功能的监控范围之内。
- 设置时延阈值之前,需要设置任务异常通知。
- 当时延阈值设置为0时,不会发送通知给收件人。
数据异常通知
该项为可选参数,开启之后,当同步任务数据异常时,系统将发送通知。
任务异常自动结束时间(天)
设置任务异常自动结束天数,输入值必须在14到100之间,默认值14。
说明:异常状态下的任务仍然会计费,而长时间异常的任务无法续传和恢复。设置任务异常自动结束天数后,异常且超时的任务将会自动结束,以免产生不必要的费用。
- 迁移任务提交后,您可在“实时迁移管理”页面,查看并管理自己的任务。