将MongoDB迁移到DDS

支持的源和目标数据库

可通过以下命令，查询源数据库版本是否符合要求的内容：

db.version()

数据库账号权限要求

在使用DRS进行迁移时，连接源库和目标库的数据库账号需要满足以下权限要求，才能启动实时迁移任务。不同类型的迁移任务，需要的账号权限也不同，详细可参考表2进行赋权。DRS会在“预检查”阶段对数据库账号权限进行自动检查，并给出处理建议。

• 建议创建单独用于DRS任务连接的数据库账号，避免因为数据库账号密码修改，导致的任务连接失败。
• 连接源和目标数据库的账号密码修改后，请参考修改连接信息章节修改DRS任务的连接信息，避免任务连接失败后自动重试，导致数据库账号被锁定影响使用。
• 用户赋权参考语句：连接源数据库的用户需要有admin库的readAnyDatabase权限和config库的read权限。

  db.grantRolesToUser("用户名",[{role:"readAnyDatabase",db:"admin"}, {role:"read",db:"config"}])

支持的迁移对象范围

在使用DRS进行迁移时，不同类型的迁移任务，支持的迁移对象范围不同，详细情况可参考表3。DRS会根据用户选择，在“预检查”阶段对迁移对象进行自动检查。

源和目标数据库的网络连通配置

• 源数据库如果部署在本地，可参考本地数据库到华为云中的内容，选择网络类型进行配置。
• 源数据库为其他云数据库，可参考其他云数据库到华为云中的内容，选择网络类型进行配置。
• 源数据库为华为云ECS自建库，可参考华为云ECS自建数据库到华为云中的内容，选择网络类型进行配置。
• 源数据库为华为云上数据库，可参考华为云数据库到华为云中的内容，选择网络类型进行配置。

源数据库的日志配置检查

在进行增量迁移时，源数据库的Oplog日志必须打开。在磁盘空间允许的情况下，建议源数据库Oplog保存时间越长越好，至少为3天。

注意事项

为保证任务的正常运行，DRS提供了自动化的检查方法，在您启动DRS任务前，会针对源数据库和目标数据库的相关配置、条件进行检查。主要的检查项和对应的处理建议请参考DRS预检查项一览表。除了预检查项目之外，您还需要注意的事情如表4所示

操作步骤

本章节将以MongoDB分片集群为示例，介绍在公网网络场景下，通过数据复制服务配置分片集群MongoDB迁移至DDS社区版集群任务的流程。

1. 在“实时迁移管理”页面，单击“创建迁移任务”，进入创建迁移任务页面。
2. 在“迁移实例”页面，填选区域、项目、任务名称、描述、迁移实例信息，单击“开始创建”。
   • 任务信息
     图1 迁移任务信息
     

     表5 任务和描述

     参数	描述
     区域	当前所在区域，可进行切换。为了降低访问时延、提高访问速度，请就近选择靠近您业务的区域。
     项目	当前区域对应的项目，可进行切换。
     任务名称	任务名称在4到50位之间，必须以字母开头，可以包含字母、数字、中划线或下划线，不能包含其他的特殊字符。
     描述	描述不能超过256位，且不能包含! = < > & ' " \ 特殊字符。

   • 迁移实例信息
     图2 迁移实例信息
     

     表6 迁移实例信息

     参数	描述
     数据流动方向	选择“入云”。 入云指目标端数据库为本云数据库。
     源数据库引擎	选择“MongoDB”。
     目标数据库引擎	选择“DDS”。
     网络类型	默认为公网网络类型，可按照需求选择“VPC网络”、“公网网络”和“VPN、专线网络”。 VPC网络：适合云上同账号同Region同VPC场景下数据库之间的迁移。 公网网络：适合通过公网网络把其他云下或其他平台的数据库迁移到目标数据库。 VPN、专线网络：适合VPN、专线、CC、VPCEP、或者用户已打通VPC对等连接的网络场景，实现其他云下自建数据库与云上数据库迁移、或云上跨Region的数据库之间的迁移。
     目标数据库实例	用户所创建的目标数据库实例。
     迁移实例所在子网	选择迁移实例所在的子网。也可以单击“查看子网”，跳转至“网络控制台”查看实例所在子网帮助选择。 默认值为当前所选数据库实例所在子网，请选择有可用IP地址的子网。为确保迁移实例创建成功，仅显示已经开启DHCP的子网。
     迁移模式	全量：该模式为数据库一次性迁移，适用于可中断业务的数据库迁移场景，全量迁移将非系统数据库的全部数据库对象和数据一次性迁移至目标端数据库，包括：集合、视图、索引等。 说明： 如果用户只进行全量迁移时，建议停止对源数据库的操作，否则迁移过程中源数据库产生的新数据不会同步到目标数据库。 全量+增量：该模式为数据库持续性迁移，适用于对业务中断敏感的场景，通过全量迁移过程完成目标端数据库的初始化后，增量迁移阶段通过解析日志等技术，将源端和目标端数据库保持数据持续一致。 说明： 选择“全量+增量”迁移模式，增量迁移可以在全量迁移完成的基础上实现数据的持续同步，无需中断业务，实现迁移过程中源业务和数据库继续对外提供访问。
     源数据库实例类型	迁移模式为“全量+增量”时，需要根据源数据库的具体来源进行设置。 当源库类型属于集群时，该项需要设置为集群。 当源库类型属于副本集或者单节点时，该项需要设置为非集群。
     增量数据获取方式	当源端实例类型设置为“集群”，且任务迁移模式为全量+增量时，需要选择增量数据获取方式。除此以外，源数据库必须关闭集合均衡器Balancer并清理孤儿文档，可参考如何关闭集合均衡器Balancer和分片集群MongoDB迁移前清除孤儿文档。 oplog：支持MongoDB 3.2及以上版本，DRS直接连接源数据库实例的每一个Shard进行数据抽取。选择此方式，测试连接时需要填写源数据库每一个Shard的连接信息。 changeStream：支持MongoDB 4.0及以上版本，DRS连接源数据库实例的mongos进行数据抽取，选择此方式时，源数据库实例必须开启WiredTiger存储引擎，推荐此选项。 说明： “changeStream”方式目前仅支持白名单用户，需要提交工单申请才能使用。您可以在管理控制台右上角，选择“工单 > 新建工单”，完成工单提交。
     源端分片个数	当源端实例类型设置为“集群”且增量数据获取方式为“oplog”时，需要填写源端数据库分片个数。 源端数据库分片个数默认最小值为2，最大值为64，您需要根据源库实际的集群分片个数设置该值大小。
     指定公网IP	网络类型选择“公网网络”时可见，选择为DRS实例绑定的弹性公网IP。任务创建时，DRS将会自动绑定该弹性公网IP，等待任务结束后将自动解绑该弹性公网IP。当源端实例类型设置为“集群”且增量数据获取方式为“oplog”时，指定公网IP数量需要与源端分片个数匹配。 公网网络迁移产生的数据传输费用收取标准请参见：弹性公网IP价格计算器。

   • 可用区
     图3 可用区
     

     表7 任务可用区

     参数	描述
     可用区	DRS任务创建的可用区，选择跟源或目标库相同的可用区性能更优。

   • 企业项目和标签
     图4 企业项目和标签
     

     表8 企业项目和标签

     参数	描述
     企业项目	企业项目是一种云资源管理方式，企业项目管理服务提供统一的云资源按项目管理，以及项目内的资源管理、成员管理。请在下拉框中选择所在的企业项目，其中，default为默认项目。 更多关于企业项目的信息，请参见《企业管理用户指南》。 如果需要自定义企业项目，请在控制台右上角单击“企业”，进入“企业项目管理”页面创建，具体请参见《企业管理用户指南》中“创建企业项目”的内容。
     标签	可选配置，对同步任务的标识。使用标签可方便管理您的任务。每个任务最多支持20个标签配额。 如果您的组织已经设定DRS的相关标签策略，则需按照标签策略规则为任务添加标签。标签如果不符合标签策略的规则，则可能会导致任务创建失败，请联系组织管理员了解标签策略详情。 任务创建成功后，您可以单击任务名称，在“标签”页签下查看对应标签。关于标签的详细操作，请参见标签管理。

   

   对于创建失败的任务，DRS默认保留3天，超过3天将会自动结束任务。

3. 在“源库及目标库”页面，迁移实例创建成功后，填选源库信息和目标库信息，单击“源库和目标库”处的“测试连接”，分别测试并确定与源库和目标库连通后，勾选协议，单击“下一步”。
   • 源库信息
     图5 源库信息页面
     

     表9 源库信息

     参数	描述
     mongos IP地址或域名	源数据库的IP地址或域名，格式为IP地址/域名:端口。其中源数据库服务端口，可输入范围为1~65535间的整数。 如果源数据库为自建MongoDB，填入自建MongoDB对应Mongos节点的IP地址或域名。 该输入框最多支持填写3组源数据库的IP地址或者域名信息，多个值需要使用英文逗号隔开。例如：192.168.0.1:8080,192.168.0.2:8080。同时需要确保所填写的多个IP地址或域名属于同一个分片集群。 说明： 此处若填写的是多组IP地址或者域名信息，在进行测试连接的过程中，只要存在一组IP地址或者域名可以连通，那么测试连接就提示成功。所以需要您保证填写的IP地址或域名的正确性。
     账号认证数据库	填写源数据库MongoDB中数据库账号所属的数据库名称。例如：华为云DDS实例默认的账号认证数据库为admin。
     mongos用户名	填写源数据库MongoDB对应Mongos节点的用户名。例如：华为云DDS实例默认的mongos用户名为rwuser。
     数据库密码	填写数据库的用户名所对应的密码。
     SSL安全连接	通过该功能，用户可以选择是否开启对迁移链路的加密。如果开启该功能，需要用户上传SSL CA根证书。 说明： 最大支持上传500KB的证书文件。 如果不启用SSL安全连接，请自行承担数据安全风险。
     分片数据库	根据源库实际的集群分片个数，填写MongoDB对应的Shard节点信息。 分片数据库的IP地址或域名填写源数据库MongoDB中Shard数据库节点的，格式为IP地址/域名:端口。如果源库是华为云DDS实例，可参考《申请Shard和Config节点的地址》申请Shard节点IP，并填写分片数据库IP信息。 分片数据库的账号认证数据库填写源数据库MongoDB中Shard数据库账号所属的数据库名称。例如：华为云DDS实例默认的shard节点账号认证数据库为admin。 分片数据库的用户名填写源数据库MongoDB中Shard节点的用户名。例如：华为云DDS实例默认的shard节点用户名为sharduser。

     

     源数据库的IP地址或域名、数据库用户名和密码，会被系统加密暂存，直至删除该迁移任务后自动清除。

   • 目标库信息配置
     图6 目标库信息
     

     表10 目标库信息

     参数	描述
     数据库实例名称	默认为创建迁移任务时选择的数据库实例，不可进行修改。
     账号认证数据库	填写的数据库账号所属的数据库名称。例如：华为云DDS实例默认的账号认证数据库为admin。
     数据库用户名	目标数据库对应的数据库用户名。
     数据库密码	目标数据库的登录密码。
     SSL安全连接	通过该功能，用户可以选择是否开启对迁移链路的加密。如果开启该功能，需要用户上传SSL CA根证书。 说明： 最大支持上传500KB的证书文件。 如果不启用SSL安全连接，请自行承担数据安全风险。

     

     目标数据库的用户名和密码将在迁移过程中被加密暂存到数据库和迁移实例主机上，待该任务删除后会永久清除。

4. 在“迁移设置”页面，设置迁移对象，单击“下一步”。
   图7 设置迁移对象
   

   表11 迁移对象

   参数	描述
   流速模式	流速模式支持限速和不限速，默认为不限速。限速模式只对全量阶段生效，增量阶段不生效。 限速 自定义的最大迁移速度，迁移过程中每个任务（多任务时为每个子任务）的迁移速度将不会超过该速度。 当流速模式选择了“限速”时，您需要通过流速设置来定时控制迁移速度。流速设置通常包括限速时间段和流速大小的设置。默认的限速时间段为“全天限流”，您也可以根据业务需求选择“时段限流”。自定义的时段限流支持最多设置10个定时任务，每个定时任务之间不能存在交叉的时间段，未设定在限速时间段的时间默认为不限速。 流速的大小需要根据业务场景来设置，不能超过9999MB/s。 图8 设置流速模式 不限速 对迁移速度不进行限制，通常会最大化使用源数据库的出口带宽。该流速模式同时会对源数据库造成读消耗，消耗取决于源数据库的出口带宽。比如源数据库的出口带宽为100MB/s，假设高速模式使用了80%带宽，则迁移对源数据库将造成80MB/s的读操作IO消耗。 说明： 限速模式只对全量迁移阶段生效，增量迁移阶段不生效。 您也可以在创建任务后修改流速模式。具体方法请参见修改流速模式。
   迁移用户	常见的迁移用户一般分为两类：支持迁移的用户和不支持迁移的用户。您可以根据业务需求选择迁移或者不迁移，其中，不支持迁移的账号或者未选择迁移的账号将在目标数据库中缺失，需要先确保业务不受影响。 是 当您选择迁移用户时，请参见迁移用户章节进行数据库用户及角色的处理。 否 迁移过程中，将不进行数据库用户及角色的迁移。
   迁移对象	左侧框是源数据库对象，右侧框是已经选择的对象，您可以根据业务需求，选择全部对象迁移、表级迁移或者库级迁移。 全部迁移：将源数据库中的所有对象全部迁移至目标数据库，对象迁移到目标数据库实例后，对象名将会保持与源数据库实例对象名一致且无法修改。 表级迁移：将选择的表级对象迁移至目标数据库。 库级迁移：将选择的库级对象迁移至目标数据库。 如果有切换源数据库的操作或源库迁移对象变化的情况，请务必在选择迁移对象前单击右上角的，以确保待选择的对象为最新源数据库对象。 说明： 若选择部分数据库进行迁移时，由于存储过程、视图等对象可能与其他数据库的表存在依赖关系，若所依赖的表未迁移，则会导致迁移失败。建议您在迁移之前进行确认，或选择全部数据库进行迁移。 当对象名称包含空格时，名称前后的空格不显示，中间如有多个空格只显示一个空格。 选择的迁移对象名称中不能包含空格。 选择对象的时候支持对展开的库进行搜索，以便您快速选择需要的数据库对象。

5. 在“预检查”页面，进行迁移任务预校验，校验是否可进行迁移。
   • 查看检查结果，如有不通过的检查项，需要修复不通过项后，单击“重新校验”按钮重新进行迁移任务预校验。

     预检查不通过项处理建议请参见《数据复制服务用户指南》中的“预检查不通过项修复方法”。

   • 预检查完成后，且预检查通过率为100%时，单击“下一步”。
     

     所有检查项结果均通过时，若存在请确认项，需要阅读并确认详情后才可以继续执行下一步操作。

6. 在“任务确认”页面，设置迁移任务的启动时间、任务异常通知设置、SMN主题、时延阈值、任务异常自动结束时间，并确认迁移任务信息无误后，单击“启动任务”，提交迁移任务。
   图9 任务启动设置
   

   表12 任务启动设置

   参数	描述
   启动时间	迁移任务的启动时间可以根据业务需求，设置为“立即启动”或“稍后启动”，优选“稍后启动”。 说明： 预计迁移任务启动后，会对源数据库和目标数据库的性能产生影响，建议您将任务启动时间设定在业务低峰期，同时预留2-3天校对数据。
   任务异常通知设置	该项为可选参数，开启之后，选择对应的SMN主题。当入云迁移任务即将开始计费或者迁移任务状态、时延指标、数据等异常时，系统将发送通知。
   SMN主题	“任务异常通知设置”项开启后可见，需提前在SMN上申请主题并添加订阅。 SMN主题申请和订阅可参考《消息通知服务用户指南》。
   时延阈值	在增量迁移阶段，源数据库和目标数据库之间的同步有时会存在一个时间差，称为时延，单位为秒。 时延阈值设置是指时延超过一定的值后（时延阈值范围为0到3600s），DRS可以发送告警通知。告警通知将在时延稳定超过设定的阈值6min后发送，避免出现由于时延波动反复发送告警通知的情况。 说明： 首次进入增量迁移阶段，会有较多数据等待同步，存在较大的时延，属于正常情况，不在此功能的监控范围之内。 设置时延阈值之前，需要设置任务异常通知。 当时延阈值设置为0时，不会发送通知给收件人。
   数据异常通知	该项为可选参数，开启之后，当同步任务数据异常时，系统将发送通知。
   任务异常自动结束时间（天）	设置任务异常自动结束天数，输入值必须在14到100之间，默认值14。 说明： 异常状态下的任务仍然会计费，而长时间异常的任务无法续传和恢复。设置任务异常自动结束天数后，异常且超时的任务将会自动结束，以免产生不必要的费用。

7. 迁移任务提交后，您可在“实时迁移管理”页面，查看并管理自己的任务。
   • 您可查看任务提交后的状态，状态请参见任务状态说明。
   • 在任务列表的右上角，单击刷新列表，可查看到最新的任务状态。
   • 全量迁移结束后，可通过数据对比功能查看迁移前后数据是否一致。
   • 对于未启动、状态为配置中的任务，DRS默认保留3天，超过3天DRS会自动删除后台资源，当前任务状态不变。当用户再次配置时，DRS会重新申请资源。
   • 对于公网网络类型的任务，由于DRS需要在任务结束后删除后台资源，所以该任务绑定的弹性公网IP需要等待一段时间，才能恢复为解绑状态。