数据复制服务 DRS数据复制服务 DRS

计算
弹性云服务器 ECS
裸金属服务器 BMS
云手机 CPH
专属主机 DeH
弹性伸缩 AS
镜像服务 IMS
函数工作流 FunctionGraph
云耀云服务器 HECS
VR云渲游平台 CVR
特惠算力专区
存储
对象存储服务 OBS
云硬盘 EVS
云备份 CBR
弹性文件服务 SFS
存储容灾服务 SDRS
云硬盘备份 VBS
云服务器备份 CSBS
数据快递服务 DES
专属企业存储服务
云存储网关 CSG
专属分布式存储服务 DSS
CDN与智能边缘
内容分发网络 CDN
智能边缘云 IEC
智能边缘小站 IES
智能边缘平台 IEF
人工智能
AI开发平台ModelArts
华为HiLens
图引擎服务 GES
图像识别 Image
文字识别 OCR
自然语言处理 NLP
内容审核 Moderation
图像搜索 ImageSearch
医疗智能体 EIHealth
园区智能体 CampusGo
企业级AI应用开发专业套件 ModelArts Pro
人脸识别服务 FRS
对话机器人服务 CBS
视频分析服务 VAS
语音交互服务 SIS
知识图谱 KG
人证核身服务 IVS
IoT物联网
设备接入 IoTDA
设备管理 IoTDM(联通用户专用)
全球SIM联接 GSL
IoT开发者服务
IoT数据分析
车联网服务 IoV
路网数字化服务 DRIS
IoT边缘 IoTEdge
设备发放 IoTDP
开发与运维
软件开发平台 DevCloud
项目管理 ProjectMan
代码托管 CodeHub
流水线 CloudPipeline
代码检查 CodeCheck
编译构建 CloudBuild
部署 CloudDeploy
云测 CloudTest
发布 CloudRelease
移动应用测试 MobileAPPTest
CloudIDE
Classroom
开源镜像站 Mirrors
应用魔方 AppCube
云性能测试服务 CPTS
应用管理与运维平台 ServiceStage
云应用引擎 CAE
视频
实时音视频 SparkRTC
视频直播 Live
视频点播 VOD
媒体处理 MPC
视频接入服务 VIS
管理与监管
统一身份认证服务 IAM
消息通知服务 SMN
云监控服务 CES
应用运维管理 AOM
应用性能管理 APM
云日志服务 LTS
云审计服务 CTS
标签管理服务 TMS
资源管理服务 RMS
应用身份管理服务 OneAccess
区块链
区块链服务 BCS
可信跨链服务 TCS
智能协作
IdeaHub
开发者工具
SDK开发指南
API签名指南
DevStar
HCloud CLI
Terraform
Ansible
API问题定位指导
云生态
云市场
合作伙伴中心
华为云培训中心
其他
管理控制台
消息中心
产品价格详情
系统权限
我的凭证
客户关联华为云合作伙伴须知
公共问题
宽限期保留期
奖励推广计划
活动
容器
云容器引擎 CCE
云容器实例 CCI
容器镜像服务 SWR
应用编排服务 AOS
多云容器平台 MCP
基因容器 GCS
容器洞察引擎 CIE
云原生服务中心 OSC
容器批量计算 BCE
容器交付流水线 ContainerOps
应用服务网格 ASM
网络
虚拟私有云 VPC
弹性公网IP EIP
弹性负载均衡 ELB
NAT网关 NAT
云专线 DC
虚拟专用网络 VPN
云连接 CC
VPC终端节点 VPCEP
数据库
云数据库 RDS
数据复制服务 DRS
文档数据库服务 DDS
分布式数据库中间件 DDM
云数据库 GaussDB (for openGauss)
云数据库 GaussDB(for MySQL)
云数据库 GaussDB NoSQL
数据管理服务 DAS
数据库和应用迁移 UGO
大数据
MapReduce服务 MRS
数据湖探索 DLI
表格存储服务 CloudTable
可信智能计算服务 TICS
推荐系统 RES
云搜索服务 CSS
数据可视化 DLV
数据湖治理中心 DGC
数据接入服务 DIS
数据仓库服务 GaussDB(DWS)
应用中间件
微服务引擎 CSE
分布式消息服务Kafka版
分布式消息服务RabbitMQ版
API网关 APIG
分布式缓存服务 DCS
分布式消息服务RocketMQ版
企业应用
域名注册服务 Domains
云解析服务 DNS
云速建站 CloudSite
网站备案
华为云WeLink
会议
隐私保护通话 PrivateNumber
语音通话 VoiceCall
消息&短信 MSGSMS
云管理网络
SD-WAN 云服务
边缘数据中心管理 EDCM
云桌面 Workspace
应用与数据集成平台 ROMA Connect
ROMA资产中心 ROMAExchange
API全生命周期管理 ROMA API
安全与合规
安全技术与应用
DDoS防护 ADS
Web应用防火墙 WAF
云防火墙 CFW
应用信任中心 ATC
企业主机安全 HSS
容器安全服务 CGS
云堡垒机 CBH
数据库安全服务 DBSS
数据加密服务 DEW
数据安全中心 DSC
云证书管理服务 CCM
SSL证书管理 SCM
漏洞扫描服务 VSS
态势感知 SA
威胁检测服务 MTD
管理检测与响应 MDR
安全治理云图 Compass
迁移
主机迁移服务 SMS
对象存储迁移服务 OMS
云数据迁移 CDM
专属云
专属计算集群 DCC
解决方案
高性能计算 HPC
SAP
游戏云
混合云灾备
华为工业云平台 IMC
价格
成本优化最佳实践
专属云商业逻辑
用户服务
帐号中心
费用中心
成本中心
资源中心
企业管理
工单管理
客户运营能力
国际站常见问题
支持计划
专业服务
合作伙伴支持计划
更新时间:2021-11-29 GMT+08:00
分享

MongoDB数据库迁移

数据复制服务(Data Replication Service,简称DRS)支持将ECS自建数据库的数据迁移到本云文档数据库服务(Document Database Service,以下简称DDS)实例。通过DRS提供的实时迁移任务,实现在数据库迁移过程中业务和数据库不停机,业务中断时间最小化。

本章节主要介绍了通过DRS将ECS自建数据库实时迁移至本云DDS的任务配置流程。支持以下网络场景:

  • 源数据库和目标数据库属于同一个VPC网络内
  • 源数据库和目标数据库属于不同VPC网络内

网络示意图

图1 同一VPC网路
图2 同区域不同VPC网络

迁移流程

图3 迁移流程图

迁移建议(重要)

  • 数据库迁移与环境多样性和人为操作均有密切关系,为了确保迁移的平顺,建议您在进行正式的数据库迁移之前进行一次演练,可以帮助您提前发现问题并解决问题,如何最小化对数据库的影响请参考如下建议。
  • 强烈建议您在启动任务时选择“稍后启动”功能,将启动时间设置在业务低峰期,相对静止的数据可以有效提升一次性迁移成功率,避免迁移对业务造成性能影响。

迁移须知(重要)

在创建迁移任务之前,请您务必仔细阅读迁移须知。

参考《数据复制服务快速入门》中的“使用须知”章节。

迁移准备

  1. 权限准备:
    当使用 DRS 将本地数据库的数据迁移到本云DDS实例时,在不同迁移类型情况下,对源数据库和目标数据库的帐号权限要求如表1所示:
    表1 迁移帐号权限

    迁移类型

    全量迁移

    全量+增量迁移

    源数据库

    • 副本集:连接源数据库的用户权限需要对admin数据库有readAnyDatabase权限。
    • 集群:连接源数据库的用户权限需要对admin数据库有readAnyDatabase权限,对config数据库有read权限。
    • 单节点:连接源数据库的用户权限需要对admin数据库有readAnyDatabase权限。
    • 如果需要迁移源数据库用户和角色信息,连接源数据库的用户权限需要对admin数据库的系统表system.users,system.roles有读权限。
    • 副本集:连接源数据库的用户权限需要对admin数据库有readAnyDatabase权限,对local数据库有read权限。
    • 单节点:连接源数据库的用户权限需要对admin数据库有readAnyDatabase权限,对local数据库有read权限。
    • 集群:连接源数据库mongos节点的用户权限需要对admin数据库有readAnyDatabase权限,对config数据库有read权限, 连接源数据库分片节点的用户权限需要对admin数据库有readAnyDatabase权限,对local数据库有read权限。
    • 如果需要迁移源数据库用户和角色信息,连接源数据库的用户权限需要对admin数据库的系统表system.users,system.roles有读权限。

    目标数据库

    连接目标数据库的用户权限需要对admin数据库有readAnyDatabase权限,对目标数据库有readWrite权限。

    • 源数据库的权限设置:

      需要确保源数据库MongoDB的帐号具备表1的权限,若权限不足,需要在源数据库端创建高权限的帐号。

    • 目标数据库的权限设置:

      本云DDS实例使用初始帐号即可。

  2. 网络准备:
    • 源数据库所在的region需要和目标DDS所在的region保持一致。
    • 源数据库可以与目标DDS实例在同一个VPC,也可以不在同一个VPC。
      • 当不在同一个VPC的时候,要求源数据库实例和目标端DDS实例所处的子网处于不同网段,此时需要通过建立对等连接实现网络互通,具体操作请参见《虚拟私有云用户指南》中“VPC对等连接”章节。
      • 当在同一VPC的时候,网络默认是互通的。
  3. 安全规则准备:
    • 同一VPC场景下,默认网络是连通的,不需要单独设置安全组。
    • 不同VPC场景下,通过建立对等连接就可以实现网络互通,不需要单独设置安全组。
  4. 其他事项准备:

    由于迁移过程不会迁移MongoDB数据库的用户信息以及相关参数,需要自行将上述信息导出后,手动添加到目标DDS中。

迁移步骤

  1. 创建迁移任务

    1. 登录管理控制台,在服务列表中选择数据库 > 数据复制服务,进入数据复制服务信息页面。
    2. 实时迁移管理”页面,单击右上角“创建迁移任务”,进入迁移任务信息页面。
    3. 在“迁移实例”页面,填选任务名称、通知收件人、描述和迁移实例信息。
      图4 迁移实例信息
      表2 任务和描述

      参数

      描述

      区域

      当前所在区域,可进行切换。

      任务名称

      任务名称在4-50位之间,必须以字母开头,不区分大小写,可以包含字母、数字、中划线或下划线,不能包含其他的特殊字符。

      描述

      描述不能超过256位,且不能包含! = < > & ' " \ 特殊字符。

      任务异常通知设置

      该项为可选参数,开启之后,选择对应的SMN主题,。当同步任务状态异常时,系统将发送通知。

      SMN主题

      “任务异常通知设置”项开启后可见,需提前在SMN上申请主题并添加订阅。

      SMN主题申请和订阅可参考《消息通知服务用户指南》

      时延阈值

      在增量同步阶段,源数据库和目标数据库之间的同步有时会存在一个时间差,称为时延,单位为秒。

      时延阈值设置是指时延超过一定的值后(时延阈值范围为1—3600s),DRS可以发送告警通知给指定收件人。告警通知将在时延稳定超过设定的阈值6min后发送,避免出现由于时延波动反复发送告警通知的情况。

      说明:
      • 首次进入增量同步阶段,会有较多数据等待同步,存在较大的时延,属于正常情况,不在此功能的监控范围之内。
      • 设置时延阈值之前,需要设置任务异常通知。

      任务异常自动结束时间(天)

      设置任务异常自动结束天数,输入值必须在14-100之间。

      说明:

      异常状态下的任务仍然会计费,而长时间异常的任务无法续传和恢复。设置任务异常自动结束天数后,异常且超时的任务将会自动结束,以免产生不必要的费用。

      表3 迁移实例信息

      参数

      描述

      数据流动方向

      选择入云。

      源数据库引擎

      选择MongoDB数据库引擎。

      目标数据库引擎

      选择DDS数据库引擎。

      网络类型

      选择VPC网络。

      目标数据库实例

      您所创建的本云DDS实例。

      迁移模式

      此处以全量+增量模式为示例。

      • 全量:该模式为数据库一次性迁移,适用于可中断业务的数据库迁移场景,全量迁移将非系统数据库的全部数据库对象和数据一次性迁移至目标端数据库,包括:表、视图、存储过程等。
        说明:

        如果用户只进行全量迁移时,建议停止对源数据库的操作,否则迁移过程中源数据库产生的新数据不会同步到目标数据库。

      • 全量+增量:该模式为数据库持续性迁移,适用于对业务中断敏感的场景,通过全量迁移过程中完成的目标端数据库的初始化后,增量迁移阶段通过解析日志等技术,将远端和目标端数据库保持数据持续一致。
      说明:

      选择“全量+增量”迁移模式,增量迁移可以在全量迁移完成的基础上实现数据的持续同步,无需中断业务,实现迁移过程中源业务和数据库继续对外提供访问。

    4. “源库及目标库”信息页面,迁移实例创建成功后,填选源库信息和目标库信息,建议您单击“源库和目标库”处的“测试连接”,分别测试并确定与源库和目标库连通后,勾选协议,单击“下一步”
      图5 源库及目标库信息
      表4 源库信息

      参数

      描述

      源库类型

      选择“非DDS实例”。

      VPC

      源数据库实例所在的虚拟专用网络,可以对不同业务进行网络隔离。您需要创建或选择所需的虚拟私有云。如何创建虚拟私有云,请参见《虚拟私有云用户指南》中的“创建虚拟私有云基本信息及默认子网”章节。

      子网

      通过子网提供与其他网络隔离的、可以独享的网络资源,以提高网络安全。子网在可用分区内才会有效,创建源数据库实例的子网需要开启DHCP功能,在创建过程中也不能关闭已选子网的DHCP功能。如何创建子网,请参见《虚拟私有云用户指南》中的“创建虚拟私有云基本信息及默认子网”章节。

      IP地址或域名

      配置源MongoDB数据库实例的访问地址或域名。

      端口

      配置源MongoDB数据库实例的服务端口,可输入范围为1~65535间的整数。

      数据库用户名

      访问源MongoDB数据库的用户名。

      数据库密码

      访问源MongoDB数据库的用户名所对应的密码。

      SSL安全连接

      您可以选择开启SSL安全连接,对迁移链路进行加密,开启之后,需要您上传加密证书。

      表5 目标库信息

      参数

      描述

      数据库实例名称

      默认为创建迁移任务时选择的已创建的本云DDS实例,不可进行修改。

      数据库用户名

      访问目标数据库本云DDS的用户名。

      数据库密码

      访问目标数据库本云DDS的用户名所对应的密码。

    5. “迁移设置”页面,设置迁移对象,单击“下一步”
      图6 设置迁移对象
      表6 迁移对象

      参数

      描述

      迁移用户

      常见的迁移用户一般分为两类:支持迁移的用户和不支持迁移的用户。您可以根据业务需求选择“迁移”或者“不迁移”,其中,不支持迁移的账号或者未选择迁移的账号将在目标数据库中缺失,需要先确保业务不受影响。
      • 迁移

        当您选择迁移用户时,请参见《数据复制服务用户指南》中“迁移用户”章节进行数据库用户及角色的处理。

      • 不迁移

        迁移过程中,将不进行数据库用户及角色的迁移。

      其他迁移选项

      根据业务需求,选择全量迁移是否迁移用户自行创建的索引,基于_id的默认索引目标端会自动创建。如果不迁移索引,索引不参与对比。

      迁移对象

      您可以根据业务需求,选择全部对象迁移、表级迁移或者库级迁移。

      • 全部迁移:将源数据库中的所有对象全部迁移至目标数据库,对象迁移到目标数据库实例后,对象名将会保持与源数据库实例对象名一致且无法修改。
      • 表级迁移:将选择的表级对象迁移至目标数据库。
      • 库级迁移:将选择的库级对象迁移至目标数据库。

      如果有切换源数据库的操作或源库迁移对象变化的情况,请务必在选择迁移对象前单击右上角的,以确保待选择的对象为最新源数据库对象。

      说明:
      • 若选择部分数据库进行迁移时,由于存储过程、视图等对象可能与其他数据库的表存在依赖关系,若所依赖的表未迁移,则会导致迁移失败。建议您在迁移之前进行确认,或选择全部数据库进行迁移。
      • 选择对象的时候,对象名称的前后空格不显示,中间如有多个空格只显示一个空格。
      • 选择对象的时候支持搜索,以便您快速选择需要的数据库对象。
    6. “预检查”页面,进行迁移任务预校验,校验是否可进行任务迁移。
      • 查看检查结果,如有不通过的检查项,需要修复不通过项后,单击“重新校验”按钮重新进行迁移任务预校验。

        预检查不通过项处理建议请参见《数据复制服务用户指南》中的“预检查不通过项修复方法”。

      • 预检查完成后,且所有检查项结果均通过时,单击“下一步”
        图7 预检查

      所有检查项结果均通过时,若存在待确认项,需要阅读并确认详情后才可以继续执行下一步操作。

    7. “任务确认”页面,选择迁移任务的启动时间,勾选协议,单击“启动任务”,提交迁移任务。
      • 迁移任务的启动时间可以根据业务需求,设置为“立即启动”或“稍后启动”。
      • 预计迁移任务启动后,会对源数据库和目标数据库的性能产生影响,建议选择业务低峰期,合理设置迁移任务的启动时间。如果迁移不可避免业务高峰期,推荐使用迁移限速功能,即“流速模式”选择“限速”
    8. 迁移任务提交后,您可以返回实时迁移管理”页面,查看迁移任务状态。

  2. 任务管理

    同步任务启动后,会经历全量同步和增量同步两个阶段,对于不同阶段的同步任务,您可以进行任务管理。
    • 全量同步

      查看同步进度:全量同步中的任务,您可单击任务名称,在“同步进度”页签下,查看全量同步进度,您可以查看结构、数据、索引同步的进度,也查看具体同步对象的同步进度。当全量同步进度显示为100%,表示全量同步已经完成。

    • 增量同步
      • 查看时延监控:全量同步完成后,开始进行增量同步。对于增量同步中的任务,您可单击任务名称,在“同步进度”页签下,查看增量同步同步时延,当时延为0s时,说明源数据库和目标数据库的数据是实时同步的。您也可以使用“同步对比”页签进行一致性对比。
        图8 查看时延监控
      • 查看同步对比:为了尽可能减少业务的影响和业务中断时间,增量同步中的任务,您可单击任务名称,在“同步对比”页签下创建对比任务。

        具体的同步对比操作及注意事项请参考《数据复制服务用户指南》中“对比同步项”章节。

  3. 割接建议

    建议您选择一个业务低峰期,开始正式系统割接流程。割接前,请您确认至少在业务低峰期有过一次完整的数据对比。可以结合数据对比的“稍后启动”功能,选择业务低峰期进行数据对比,以便得到更为具有参考性的对比结果。由于同步具有轻微的时差,在数据持续操作过程中进行对比任务,可能会出现少量数据不一致对比结果,从而失去参考意义。

    1. 先中断业务(如果业务负载非常轻,也可以尝试不中断业务)。
    2. 在源数据库端执行如下语句,并观察在1-5分钟内若无任何新会话执行SQL ,则可认为业务已经完全停止。
      db.currentOp()

      上述语句查询到的进程列表中,包括DRS迁移实例的连接,您需要确认除DRS迁移实例的连接外无任何新会话执行SQL,即可认为业务已经完全停止。

    3. 通过DRS迁移任务监控页面进行观察同步时延,保持实时同步时延为0,并稳定保持一段时间;同时,您可以使用数据级对比功能,进行割接前的最后一次数据级对比,耗时可参考之前的对比记录。
      • 如果时间允许,则选择全部对比。
      • 如果时间不允许,则推荐对比活跃表,关键业务表,第二步对比多次存在差异的表等。
    4. 确定系统割接时机,业务系统指向本云数据库,业务对外恢复使用,迁移完成。

  4. 迁移结束

    1. 结束迁移任务:业务系统和数据库切换至本云后,为了防止源数据库的操作继续同步到目标数据库,造成数据覆盖问题,此时您可选择结束迁移任务,该操作仅删除了迁移实例,迁移任务仍显示在任务列表中,您可以进行查看或删除。结束迁移任务后,DRS将不再计费。
    2. 删除迁移任务:对于已结束的迁移任务,您可选择删除任务。该操作将一并删除迁移任务,删除迁移任务后,该任务将不会出现在任务列表中。

分享:

    相关文档

    相关产品

关闭导读