创建迁移任务
使用流程
一次完整的实时迁移,是通过创建实时迁移任务,以迁移任务作为数据库迁移的导向,依次进行迁移进度观察、迁移日志分析、迁移数据一致性对比等多项操作。通过多项指标和数据的对比分析,可以帮助您确定合适的业务割接时机,实现最小化业务中断的数据库迁移。
一次完整的实时迁移包含如下过程:
- 步骤一:创建迁移任务。根据需要,选择源和目标数据库,创建迁移任务。
- 步骤二:查询迁移进度。迁移过程中,可以通过查看迁移进度了解数据迁移完成情况。
- 步骤三:查看迁移日志。迁移日志包含告警、错误和提示等类型的信息,可根据此类信息分析系统存在的问题。
- 步骤四:对比迁移项。数据迁移提供对比功能,可根据需要查看对象级对比、数据级对比等,来确保源和目标数据库的数据一致性。
本章节将以MySQL到RDS for MySQL的迁移为示例,介绍在VPC网络场景下,通过数据复制服务管理控制台配置数据迁移任务的流程,其他存储引擎的配置流程类似。
VPC网络适合云上同Region数据库之间的迁移。
在数据复制服务中,数据库迁移是通过任务的形式完成的,通过创建任务向导,可以完成任务信息配置、任务创建。迁移任务创建成功后,您也可以通过数据复制服务管理控制台,对任务进行管理。
前提条件
- 已登录数据复制服务控制台。
- 账户余额大于等于0美元。
- 满足实时迁移支持的数据库类型和版本,详情请参见支持的数据库。
- 当用户创建DRS任务使用的是子账号时,请先确认已添加过委托。创建委托方法,可参考委托管理。
操作步骤
- 在“实时迁移管理”页面,单击“创建迁移任务”,进入创建迁移任务页面。
- 在“迁移实例”页面,填选区域、项目、任务名称、描述、迁移实例信息,单击“开始创建”。
- 任务信息
图2 迁移任务信息
表1 任务和描述 参数
描述
区域
当前所在区域,可进行切换。为了降低访问时延、提高访问速度,请就近选择靠近您业务的区域。
项目
当前区域对应的项目,可进行切换。
任务名称
任务名称在4到50位之间,必须以字母开头,可以包含字母、数字、中划线或下划线,不能包含其他的特殊字符。
描述
描述不能超过256位,且不能包含! = < > & ' " \ 特殊字符。
- 迁移实例信息
图3 迁移实例信息
表2 迁移实例信息 参数
描述
数据流动方向
选择入云。
入云指目标数据库为本云数据库的场景。
源数据库引擎
选择“MySQL”。
目标数据库引擎
选择“MySQL”。
网络类型
此处选择“VPC网络”。
默认为“公网网络”类型,可按照需求选择“VPC网络”、“公网网络”和“VPN、专线网络”。
- VPC网络:适合云上同账号同Region同VPC场景下数据库之间的迁移。
- 公网网络:适合通过公网网络把其他云下或其他平台的数据库迁移到目标数据库。
- VPN、专线网络:适合VPN、专线、CC、VPCEP、或者用户已打通VPC对等连接的网络场景,实现其他云下自建数据库与云上数据库迁移、或云上跨Region的数据库之间的迁移。
不同场景的网络准备可参考准备工作概览。
目标数据库实例
用户所创建的本云关系型数据库实例。
迁移实例所在子网
选择迁移实例所在的子网。也可以单击“查看子网”,跳转至“网络控制台”查看实例所在子网帮助选择。
默认值为当前所选数据库实例所在子网,请选择有可用IP地址的子网。为确保迁移实例创建成功,仅显示已经开启DHCP的子网。
目标库实例读写设置
- 只读
迁移中,目标数据库整个实例将转化为只读、不可写入的状态,迁移任务结束后恢复可读写状态,此选项可有效的确保数据迁移的完整性和成功率,推荐此选项。
迁移任务失败会恢复可读写状态,失败后通过续传迁移任务再次启动迁移后,会变为只读状态。
DRS迁移任务目标库实例读写设置最终结果,还会受到数据库实例本身的读写设置影响,故在使用DRS迁移设置目标库实例读写设置时,建议不要同时在RDS实例页面进行读写设置。
设置目标库实例只读的迁移任务可以在任务详情界面解除只读,解除只读后,DRS无法再设置为目的库实例只读,即使迁移任务失败后续传重新启动迁移,DRS无法再设置为目的库实例只读。
- 读写
迁移中,目标数据库可以读写,但需要避免操作或接入应用后会更改迁移中的数据(注意:无业务的程序常常也有微量的数据操作),进而形成数据冲突、任务故障、且无法修复续传,充分了解要点后可选择此选项。如果目标库有其他数据库需要在迁移时被业务使用,可设置该选项为读写。
任务创建后不能修改。
迁移模式
- 全量:该模式为数据库一次性迁移,适用于可中断业务的数据库迁移场景,全量迁移将非系统数据库的全部数据库对象和数据一次性迁移至目标端数据库,包括:表、视图、存储过程等。
说明:
如果用户只进行全量迁移时,建议停止对源数据库的操作,否则迁移过程中源数据库产生的新数据不会同步到目标数据库。
- 全量+增量:该模式为数据库持续性迁移,适用于对业务中断敏感的场景,通过全量迁移过程中完成的目标端数据库的初始化后,增量迁移阶段通过解析日志等技术,将源端和目标端数据库保持数据持续一致。
说明:
选择“全量+增量”迁移模式,增量迁移可以在全量迁移完成的基础上实现数据的持续同步,无需中断业务,实现迁移过程中源业务和数据库继续对外提供访问。
是否开启Binlog快速清理
选择是否开启目标数据库实例Binlog快速清理功能。开启后,DRS任务运行期间,全量阶段目标数据库实例会开启Binlog快速清理,增量阶段目标数据库实例会关闭快速清理。
指定公网IP
网络类型选择“公网网络”时可见,选择为DRS实例绑定的弹性公网IP。任务创建时,DRS将会自动绑定该弹性公网IP,等待任务结束后将自动解绑该弹性公网IP。
公网网络迁移产生的数据传输费用收取标准请参见:弹性公网IP价格计算器。
- 可用区
图4 可用区
表3 任务可用区 参数
描述
可用区
DRS任务创建的可用区,选择跟源或目标库相同的可用区性能更优。
- 企业项目和标签
图5 企业项目和标签
表4 企业项目和标签 参数
描述
企业项目
企业项目是一种云资源管理方式,企业项目管理服务提供统一的云资源按项目管理,以及项目内的资源管理、成员管理。请在下拉框中选择所在的企业项目,其中,default为默认项目。
更多关于企业项目的信息,请参见《企业管理用户指南》。
如果需要自定义企业项目,请在控制台右上角单击“企业”,进入“企业项目管理”页面创建,具体请参见《企业管理用户指南》中“创建企业项目”的内容。
标签
- 可选配置,对同步任务的标识。使用标签可方便管理您的任务。每个任务最多支持20个标签配额。
- 如果您的组织已经设定DRS的相关标签策略,则需按照标签策略规则为任务添加标签。标签如果不符合标签策略的规则,则可能会导致任务创建失败,请联系组织管理员了解标签策略详情。
- 任务创建成功后,您可以单击任务名称,在“标签”页签下查看对应标签。关于标签的详细操作,请参见标签管理。
对于创建失败的任务,DRS默认保留3天,超过3天将会自动结束任务。
- 任务信息
- 在“源库及目标库”页面,迁移实例创建成功后,填选自建DNS服务配置、源库信息和目标库信息,单击“源库和目标库”处的“测试连接”,分别测试并确定与源库和目标库连通后,勾选协议,单击“下一步”。
- 自建DNS服务配置
图6 自建DNS服务器
表5 自建DNS信息 参数
描述
是否配置自建DNS服务器
当用户需要填写自建的内网域名数据库地址作为源或者目标进行数据迁移时,请开启此选项。
自建DNS服务IP
填写用户自建的DNS服务IP信息。
配置自建DNS服务IP后,用户可在源库或目标库的“IP地址或域名”处填写您自建的内网域名数据库地址进行数据迁移。
自建DNS功能目前仅支持白名单用户,需要提交工单申请才能使用。您可以在管理控制台右上角,选择“工单 > 新建工单”,完成工单提交。
- 场景一:自建库源库信息配置
图7 自建库场景源库信息
表6 自建库场景源库信息 参数
描述
数据库类型
选择“自建库”。
VPC
源数据库实例所在的虚拟专用网络,可以对不同业务进行网络隔离。您需要创建或选择所需的虚拟私有云。
子网
通过子网提供与其他网络隔离的、可以独享的网络资源,以提高网络安全。子网在可用分区内才会有效,创建源数据库实例的子网需要开启DHCP功能,在创建过程中也不能关闭已选子网的DHCP功能。
IP地址或域名
源数据库的IP地址或域名。
端口
源数据库服务端口,可输入范围为1~65535间的整数。
数据库用户名
源数据库的用户名。
数据库密码
源数据库的用户名所对应的密码。
SSL安全连接
如启用SSL安全连接,请在源库开启SSL,并确保相关配置正确后上传SSL证书。
说明:- 最大支持上传500KB的证书文件。
- 如果不启用SSL安全连接,请自行承担数据安全风险。
源数据库的IP地址或域名、数据库用户名和密码,会被系统加密暂存,直至删除该迁移任务后自动清除。
- 场景二:RDS实例源库信息配置
图8 RDS实例场景源库信息
表7 RDS实例场景源库信息 参数
描述
数据库库类型
选择“RDS实例”。
数据库实例名称
选择待迁移的RDS实例作为源数据库实例。
数据库用户名
源数据库实例的用户名。
数据库密码
源数据库的用户名所对应的密码。
SSL安全连接
如启用SSL安全连接,请在源库开启SSL,并确保相关配置正确后上传SSL证书。
说明:- 最大支持上传500KB的证书文件。
- 如果不启用SSL安全连接,请自行承担数据安全风险。
- 目标库信息配置
图9 目标库信息
表8 目标库信息 参数
描述
数据库实例名称
默认为创建迁移任务时选择的关系型数据库实例,不可进行修改。
数据库用户名
目标数据库对应的数据库用户名。
数据库密码
目标数据库的登录密码。
所有Definer迁移到该用户下
选择是否将源数据库对象的Definer迁移到测试连接时输入的目标数据库用户下。
- 是
迁移后,所有源数据库对象的Definer都会迁移至该用户下,其他用户需要授权后才具有数据库对象权限,如何授权请参考MySQL迁移中Definer强制转化后如何维持原业务用户权限体系。
例如,如果view迁移前为CREATE ALGORITHM=UNDEFINED DEFINER=`username`@`%` SQL SECURITY DEFINER VIEW `test_db`.`view5` AS select 1 AS `1`;
迁移后会被转换成:CREATE ALGORITHM=UNDEFINED DEFINER=`drsUser`@`%` SQL SECURITY DEFINER VIEW `test_db`.`view5` AS select 1 AS `1`;
其中drsUser为测试连接使用的账号。
- 否
迁移后,将保持源数据库对象Definer定义不变,选择此选项,需要配合下一步用户权限迁移功能,将源数据库的用户全部迁移,这样才能保持源数据库的权限体系完全不变。注意:如果Definer账户在目标库不存在,则会建立不可用的对象。
Definer相关概念可参考MySQL官网文档中的说明。
SSL安全连接
如启用SSL安全连接,请在目标库开启SSL,并确保相关配置正确后上传SSL证书。
说明:- 最大支持上传500KB的证书文件。
- 如果不启用SSL安全连接,请自行承担数据安全风险。
数据库用户名和密码将被系统加密暂存,直至该任务删除后清除。
- 是
- 自建DNS服务配置
- 在“迁移设置”页面,设置迁移用户和迁移对象,单击“下一步”。
图10 迁移模式
表9 迁移模式和迁移对象 参数
描述
流速模式
流速模式支持限速和不限速,默认为不限速。限速模式只对全量阶段生效,增量阶段不生效。
- 限速
自定义的最大迁移速度,迁移过程中每个任务(多任务时为每个子任务)的迁移速度将不会超过该速度。
当流速模式选择了“限速”时,你需要通过流速设置来定时控制迁移速度。流速设置通常包括限速时间段和流速大小的设置。默认的限速时间段为“全天限流”,您也可以根据业务需求选择“时段限流”。自定义的时段限流支持最多设置3个定时任务,每个定时任务之间不能存在交叉的时间段,未设定在限速时间段的时间默认为不限速。
流速的大小需要根据业务场景来设置,不能超过9999MB/s。
图11 设置流速模式
- 不限速
对迁移速度不进行限制,通常会最大化使用源数据库的出口带宽。该流速模式同时会对源数据库造成读消耗,消耗取决于源数据库的出口带宽。比如源数据库的出口带宽为100MB/s,假设高速模式使用了80%带宽,则迁移对源数据库将造成80MB/s的读操作IO消耗。说明:
- 限速模式只对全量迁移阶段生效,增量迁移阶段不生效。
- 您也可以在创建任务后修改流速模式。具体方法请参见修改流速模式。
迁移增量账号及权限
迁移用户
数据库的迁移过程中,迁移用户需要进行单独处理。
常见的迁移用户一般分为三类:可完整迁移的用户、需要降权的用户和不可迁移的用户。您可以根据业务需求选择迁移或者不迁移,选择“是”后,可根据需要选择迁移用户。- 是
当您选择迁移用户时,请参见迁移用户章节进行数据库用户、权限及密码的处理。
索引与表结构同时建立
全量阶段,是否与表结构同时建立索引
- 是,实时迁移过程中,全量同步迁移表结构的时候,会同时迁移索引。
- 否,索引会在迁移数据阶段后进行单独迁移。
过滤DROP DATABASE
实时迁移过程中,为了降低迁移数据的风险,数据复制服务提供了过滤删除数据库操作的功能。
- 是,表示实时迁移过程中不会迁移用户在源数据库端执行的删除数据库的操作。
- 否,则表示实时迁移过程中将相关操作迁移到目标库。
迁移对象
左侧框是源数据库对象,右侧框是已经选择的对象,您可以根据业务需求,选择全部对象迁移、表级迁移或者库级迁移。
- 全部迁移:将源数据库中的所有对象全部迁移至目标数据库,对象迁移到目标数据库实例后,对象名将会保持与源数据库实例对象名一致且无法修改。
- 表级迁移:将选择的表级对象迁移至目标数据库。
- 库级迁移:将选择的库级对象迁移至目标数据库。
如果有切换源数据库的操作或源库迁移对象变化的情况,请务必在选择迁移对象前单击右上角的,以确保待选择的对象为最新源数据库对象。
说明:- 若选择部分数据库进行迁移时,由于存储过程、视图等对象可能与其他数据库的表存在依赖关系,若所依赖的表未迁移,则会导致迁移失败。建议您在迁移之前进行确认,或选择全部数据库进行迁移。
- 当对象名称包含空格时,名称前后的空格不显示,中间如有多个空格只显示一个空格。
- 选择的迁移对象名称中不能包含空格。
- 选择对象的时候支持对展开的库进行搜索,以便您快速选择需要的数据库对象。
- 限速
- 在“预检查”页面,进行迁移任务预校验,校验是否可进行迁移。
- 查看检查结果,如有不通过的检查项,需要修复不通过项后,单击“重新校验”按钮重新进行迁移任务预校验。
预检查不通过项处理建议请参见《数据复制服务用户指南》中的“预检查不通过项修复方法”。
- 预检查完成后,且预检查通过率为100%时,单击“下一步”。
所有检查项结果均通过时,若存在待确认项,需要阅读并确认详情后才可以继续执行下一步操作。
- 查看检查结果,如有不通过的检查项,需要修复不通过项后,单击“重新校验”按钮重新进行迁移任务预校验。
- 进入“参数对比”页面,进行参数对比。
参数对比功能从常规参数和性能参数两个维度,展示了源数据库和目标数据库的参数值是否一致。您可以根据业务需求,决定是否选用该功能。该操作不影响数据的迁移,主要目的是为了确保迁移成功后业务应用的使用不受影响。
- 若您选择不进行参数对比,可跳过该步骤,单击页面右下角“下一步”按钮,继续执行后续操作。
- 若您选择进行参数对比,请参照如下的步骤操作。
一般情况下,对于常规参数,如果源库和目标库存在不一致的情况,建议将目标数据库的参数值通过“一键修改”按钮修改为和源库对应参数相同的值。
图12 修改常规参数
对于性能参数,您可以根据业务场景,自定义源数据库和目标库的参数值,二者结果可以一致也可以不一致。
- 若您需要将对比结果一致的性能参数修改为不一致,需要在“目标库值调整为”一列手动输入需要调整的倍数或结果,单击左上角“一键修改”按钮,即可将源数据库和目标数据库对应的性能参数值改为不一致。
- 若您想将对比结果不一致的参数改为一致结果,请参考如下流程进行修改:
- 对齐源库和目标库的参数值。
当源库和目标库对应的参数值出现不一致时,选择需要修改的参数,单击“一键对齐”按钮,系统将帮您自动填充目标数据库的参数值,使其和源库对应的参数值保持一致。
图13 一键对齐参数
对齐参数值的操作,您也可以通过手动输入调整的倍数或结果。
- 修改参数值。
源库和目标库的不一致参数值对齐后,单击“一键修改”按钮,系统将按照您当前设置的目标库参数值进行修改。修改完成后,目标库的参数值和对比结果会自动进行更新。
图14 修改性能参数
部分参数修改后无法在目标数据库立即生效,需要重启才能生效,此时的对比结果显示为“待重启,不一致”。建议您在迁移任务启动之前重启目标数据库,或者迁移结束后选择一个计划时间重启。如果您选择迁移结束后重启目标数据库,请合理设置重启计划时间,避免参数生效太晚影响业务的正常使用。
在进行参数对比功能时,您可以参见参数对比列表章节进行参数设置。
- 参数对比操作完成后,单击“下一步”。
- 对齐源库和目标库的参数值。
- 在“任务确认”页面,设置迁移任务的启动时间、任务异常通知设置、SMN主题、时延阈值、任务异常自动结束时间,并确认迁移任务信息无误后,单击“启动任务”,提交迁移任务。
图15 任务启动设置
表10 任务启动设置 参数
描述
启动时间
迁移任务的启动时间可以根据业务需求,设置为“立即启动”或“稍后启动”,优选“稍后启动”。
说明:预计迁移任务启动后,会对源数据库和目标数据库的性能产生影响,建议您将任务启动时间设定在业务低峰期,同时预留2-3天校对数据。
任务异常通知设置
该项为可选参数,开启之后,选择对应的SMN主题。当入云迁移任务即将开始计费或者迁移任务状态、时延指标、数据等异常时,系统将发送通知。
SMN主题
“任务异常通知设置”项开启后可见,需提前在SMN上申请主题并添加订阅。
SMN主题申请和订阅可参考《消息通知服务用户指南》。
时延阈值
在增量迁移阶段,源数据库和目标数据库之间的同步有时会存在一个时间差,称为时延,单位为秒。
时延阈值设置是指时延超过一定的值后(时延阈值范围为0到3600s),DRS可以发送告警通知。告警通知将在时延稳定超过设定的阈值6min后发送,避免出现由于时延波动反复发送告警通知的情况。
说明:- 首次进入增量迁移阶段,会有较多数据等待同步,存在较大的时延,属于正常情况,不在此功能的监控范围之内。
- 设置时延阈值之前,需要设置任务异常通知。
- 当时延阈值设置为0时,不会发送通知给收件人。
数据异常通知
该项为可选参数,开启之后,当同步任务数据异常时,系统将发送通知。
任务异常自动结束时间(天)
设置任务异常自动结束天数,输入值必须在14到100之间,默认值14。
说明:异常状态下的任务仍然会计费,而长时间异常的任务无法续传和恢复。设置任务异常自动结束天数后,异常且超时的任务将会自动结束,以免产生不必要的费用。
- 迁移任务提交后,您可在“实时迁移管理”页面,查看并管理自己的任务。