文档首页/ 数据复制服务 DRS/ 用户指南（吉隆坡区域）/ 实时同步/ 入云/ 将MongoDB同步到DDS
更新时间：2025-08-07 GMT+08:00
查看PDF
分享

将MongoDB同步到DDS

支持的源和目标数据库

表1 支持的数据库

源数据库

目标数据库
  • 本地自建Mongo数据库（3.2、3.4、3.6、4.0、4.2、4.4、5.0版本）
  • ECS自建Mongo数据库（3.2、3.4、3.6、4.0、4.2、4.4、5.0版本）
  • 其他云上Mongo数据库（3.2、3.4、3.6、4.0、4.2、4.4、5.0版本）
  • DDS实例（3.2、3.4、4.0、4.2、4.4、5.0版本）
    说明：

    源数据库不支持GeminiDB Mongo实例。

    DDS 5.0版本当前仅支持副本集，不支持集群。

    如果源库选择DDS实例，则此链路的数据库引擎是“DDS”，否则，此链路的数据库引擎是“MongoDB（数据库种类）-DDS”。
DDS实例（3.4、4.0、4.2、4.4、5.0版本）
说明：

仅支持目标库版本等于或高于源库版本。

DDS 5.0版本当前仅支持副本集，不支持集群。

数据库账号权限要求

在使用DRS进行同步时，连接源库和目标库的数据库账号需要满足以下权限要求，才能启动实时同步任务。不同类型的同步任务，需要的账号权限也不同，详细可参考表2进行赋权。DRS会在“预检查”阶段对数据库账号权限进行自动检查，并给出处理建议。

表2 数据库账号权限

类型名称

全量+增量同步

源数据库连接账号

副本集：连接源数据库的用户需要有admin库的readAnyDatabase权限，有local库的read权限。

单节点：连接源数据库的用户需要有admin库的readAnyDatabase权限，有local库的read权限。

集群：连接源数据库mongos节点的用户需要对待迁移库有read权限，对config数据库有read权限， 连接源数据库分片节点的用户需要对admin数据库有readAnyDatabase权限，对local数据库有read权限。

目标数据库连接账号

连接目标数据库的用户需要有admin库的dbAdminAnyDatabase权限，有目标数据库的readWrite权限。对于目标数据库是集群的实例，连接mongos节点的用户还要有admin库的clusterManager权限。
  • 建议创建单独用于DRS任务连接的数据库账号，避免因为数据库账号密码修改，导致的任务连接失败。
  • 连接源和目标数据库的账号密码修改后，请参考修改连接信息章节修改DRS任务的连接信息，避免任务连接失败后自动重试，导致数据库账号被锁定影响使用。

支持的同步对象范围

在使用DRS进行同步时，不同类型的同步任务，支持的同步对象范围不同，详细情况可参考表3。DRS会根据用户选择，在“预检查”阶段对同步对象进行自动检查。

表3 支持的同步对象

类型名称

使用须知

同步对象范围
  • 支持选择表级、库级。
  • 副本集：目前只支持集合（包括验证器，是否是固定集合），索引和视图的同步。
  • 集群：目前只支持集合（包括验证器，是否是固定集合），分片键，索引和视图的同步。
  • 单节点：目前只支持集合（包括验证器，是否是固定集合），索引和视图的同步。
  • 不支持同步系统库（如local、admin、config等）和系统集合，如果业务数据在系统库下，则需要先将业务数据移动到用户数据库下，可以使用renameCollection命令进行移出。
  • 不支持视图的创建语句中有正则表达式。
  • 不支持_id字段没有索引的集合。
  • 不支持BinData()的第一个参数为2。
  • 源库为4.4或更高版本副本集时，如果目标库低于5.0版本，不支持复合哈希索引。
  • 全量和增量阶段都不支持时序集合。
  • 请勿在源库集合的String类型字段中存储非UTF-8类型字符串，否则会导致同步前后数据不一致。
  • 增量阶段不支持同步集群分片键。

注意事项

为保证任务的正常运行，DRS提供了自动化的检查方法，在您启动DRS任务前，会针对源数据库和目标数据库的相关配置、条件进行检查。主要的检查项和对应的处理建议请参考预检查项。除了预检查项目之外，您还需要注意的事情参见表4。

表4 注意事项

类型名称

使用和操作限制

源数据库限制
  • 源数据库的库名不能包含/\."$和空格，集合名和视图名中不能包含$字符或以system.开头。
  • 单节点类型实例的增量同步目前仅支持源库为文档数据库单节点实例。
  • 增量同步时，源数据库的Oplog日志必须打开。
  • 在磁盘空间允许的情况下，建议源数据库Oplog保存时间越长越好，建议为3天。

使用限制

通用：

  • 为了保持数据一致性，在整个同步过程中，不允许对正在同步中的目标数据库进行修改操作（包括但不限于DDL、DML操作）。
  • 在整个同步过程中，不允许修改、删除连接源和目标数据库的用户的用户名、密码、权限，或修改源和目标数据库的端口号。
  • 在任务启动、任务全量同步阶段，不建议对源数据库做删除类型的DDL操作，例如删除数据库、集合、索引、文档、视图等，这样可能会引起任务同步失败。
  • 在整个同步过程中，不支持源数据库主备切换导致数据回滚的情况。
  • 在整个同步过程中，不支持insert、update源库大于16MB的文档。
  • 整个同步过程中，源数据库不允许手动执行sh.moveChunk()操作，否则将导致迁移数据不一致。
  • 如果源数据库是集群，则必须关闭Balancer并清理孤儿文档。详细操作可参考如何关闭集合均衡器Balancer和分片集群MongoDB迁移前清除孤儿文档。
  • 目标数据库存在与源数据库相同库下的同名集合或视图时，如果目标数据库对应集合或视图中已有数据，请您避免选择该集合或视图进行同步，以免目标数据库对应集合或视图中已有的数据被覆盖。

全量同步阶段：

  • 任务启动和全量数据同步阶段，请不要在源数据库执行DDL操作，否则可能导致任务异常。

增量同步阶段：

  • 源数据库为副本集实例时，增量同步阶段支持如下操作：
    • 支持文档（document）新增、删除、更新。
    • 支持集合（collection）新建、删除。
    • 支持索引（index）新建、删除。
    • 支持视图（view）新建，删除。
    • 支持convertToCapped、collMod、renameCollection命令。
  • 任务增量阶段，为保证同步的性能，会集合级的进行并发回放。特殊的情况只支持单线程写入，不支持并发回放：
    • 集合的索引中有unique key时。
    • 集合属性的capped为true时。

    这种情况可能会导致任务时延增高。

  • 源库实例类型选择集群的Change Streams（MongoDB 4.0+）模式时，DRS内部迁移使用MongoDB特性Change Streams。使用该模式应注意以下几个方面：
    • Change Streams订阅数据过程会消耗源数据库一定量的CPU，内存资源，请提前做好源数据库资源评估。
    • 受MongoDB Change Streams自身性能影响，如果源库的负载比较大，Change Streams会出现处理速度无法跟上Oplog产生速度，进而导致DRS同步出现时延。
    • 受MongoDB Change Streams自身接口限制，增量同步阶段目前仅支持drop database，drop collection，rename的DDL，暂不支持其他类型的DDL。在源库集合首次执行insert或replace文档的操作时，该集合对应的索引（index）会被同步到目标库，如果您不需要同步索引，请联系技术支持配置运维参数跳过。
    • 不支持DBPointer和DBRef数据类型。
    • 增量阶段单表最多支持10000条/秒左右的同步速度。
    • Change Streams模式目前为受限使用阶段。

其他限制
  • 相互关联的数据对象要确保同时同步，避免同步因关联对象缺失，导致同步失败。常见的关联关系：视图引用集合、视图引用视图等。
  • 副本集：MongoDB数据库的副本集实例状态必须正常，要存在主节点。
  • 压缩参数block_compressor的取值，根据源库对应集合的stats().wiredTiger.creationString.block_compressor来决定，如果目标库已经存在对应的空集合，则不同步压缩参数；特殊的，对于不支持的压缩参数，按照目标库实例的net.compression.compressors参数决定。当目标库为DDS 4.2版本时，由于目标库不支持压缩参数的设置，DRS不同步压缩参数。
  • 如果源数据库的MongoDB服务不是单独部署的，而是和其他的服务部署在同一台机器，则必须要给源数据库的wiredTiger引擎加上cacheSizeGB的参数配置，建议值设为最小空闲内存的一半。
  • 源库是集群实例时，集群到集群、集群到副本集的全量+增量同步，全量阶段和增量阶段，不允许对同步对象做删除操作，否则可能导致任务失败。
  • 源库实例类型选择集群的Oplog模式时，DRS会根据“源端分片个数”创建多个子任务。如果选择任务限速，设置的限流值会同步给每个子任务。
  • 对于在源数据库已经存在TTL索引的集合，或者在增量同步期间在源库数据创建了TTL索引的集合，由于源数据库和目标库数据库时区，时钟的不一致，不能保证同步完成之后数据的一致性。
  • 如果源数据库的MongoDB服务不是单独部署的，而是和其他的服务部署在同一台机器，则必须要给源数据库的wiredTiger引擎加上cacheSizeGB的参数配置，建议值设为最小空闲内存的一半。
  • 为防止drop database操作删除目标库已有的集合，drop database不会同步到目标库。
    • 源库是MongoDB 3.6以下版本（不含3.6）时，执行drop database会导致源库删除集合但目标库没有删除。
    • 源库是MongoDB 3.6及以上版本（含3.6）时，drop database 操作在oplog中会体现为drop database 和drop collection操作，所以目标库也会删除相应集合，不会出现问题。
  • 为了保持数据一致性，在整个同步过程中，不允许对正在同步中的目标数据库进行修改操作（包括但不限于DDL、DML操作）。
  • 同步过程中，不允许修改、删除连接源和目标数据库的用户的用户名、密码、权限，或修改源和目标数据库的端口号。
  • 在任务启动、任务全量同步阶段，不建议对源数据库做删除类型的DDL操作，比如删除数据库、集合、索引、文档、视图等，这样可能会引起任务同步失败。
  • 在整个同步过程中，不支持源数据库主备切换导致数据回滚的情况。
  • 不支持全量同步和增量同步阶段insert、update源库大于16MB的文档。
  • 任务增量阶段，为保证同步的性能，会集合级的进行并发回放。特殊地，以下情况只支持单线程写入，不支持并发回放：
    • 集合的索引中有unique key时；
    • 集合属性的capped为true时；

    这种情况可能会导致任务时延增高。

  • 选择集合同步时，增量同步过程中不建议对集合进行重命名操作。
  • 如果源数据库是副本集，则建议填写所有的主节点和备节点信息，以防主备切换影响同步任务。如果填写的是主备多个节点的信息，注意所有的节点信息必须属于同一个副本集实例。
  • 如果源数据库是集群，则建议填写多个mongos信息，以防单个mongos节点故障影响同步任务。如果填写的是多个mongos信息，注意所有的mongos信息必须属于同一个集群。
  • 为了提高同步的速度，在开始同步之前，建议在源数据库删掉不需要的索引，只保留必须的索引。在同步过程中不建议对源库创建索引，如果必须要创建索引，请使用后台的方式创建索引。
  • 为了防止回环，不支持在相同的源和目标库同时启动入云和出云任务。
    说明：

    同步任务支持源和目标为同一个数据库，为了避免回环，必须使用对象名映射功能进行重命名。

操作步骤

本章节将以DDS副本集为示例，介绍在VPC网络场景下，通过数据复制服务配置DDS副本集同步任务的流程。

  1. 在“实时同步管理”页面，单击“创建同步任务”。
  2. 在“同步实例”页面，填选任务名称、描述、同步实例信息，单击“开始创建”。

    • 任务信息
      表5 任务和描述

      参数

      描述

      任务名称

      任务名称在4到50位之间，必须以字母开头，可以包含字母、数字、中划线或下划线，不能包含其他的特殊字符。

      描述

      描述不能超过256位，且不能包含! = < > & ' " \ 特殊字符。
    • 同步实例信息

      表6 同步实例信息

      参数

      描述

      数据流动方向

      选择入云。

      入云指目标端数据库为本云数据库。

      源数据库引擎

      选择“MongoDB”。

      目标数据库引擎

      选择“DDS”。

      网络类型

      默认为公网网络类型，可按照需求选择“公网网络”、“VPC网络”和“VPN、专线网络”。

      • VPC网络：适合云上同账号同Region同VPC场景下数据库之间的同步。
      • 公网网络：适合通过公网网络把其他云下或其他平台的数据库同步到目标数据库，该类型要求数据库绑定弹性公网IP（EIP）。
      • VPN、专线网络：适合VPN、专线、CC、VPCEP、或者用户已打通VPC对等连接的网络场景，实现其他云下自建数据库与云上数据库同步、云上同Region跨账号、或云上跨Region的数据库之间的同步。

      目标数据库实例

      用户所创建的目标数据库实例。

      同步实例所在子网

      请选择同步实例所在的子网。也可以单击“查看子网”，跳转至“网络控制台”查看实例所在子网帮助选择。

      默认值为当前所选数据库实例所在子网，请选择有可用IP地址的子网。为确保同步实例创建成功，仅显示已经开启DHCP的子网。

      IP类型

      选择同步实例的IP类型，目前支持选择“IPv4”或“IPv4&IPv6双栈”。

      • 只有所选择的VPC及子网都开启了IPv6双栈功能，才能选择IP类型为“IPv4&IPv6双栈”。
      • 选择“IPv4&IPv6双栈”时，如果源或者目标数据库是通过选择实例的方式进行连接，DRS会优先通过IPv4地址进行访问。

      同步模式

      DRS任务支持的同步模式，此处以“全量+增量”为示例。

      全量+增量：该模式为数据库持续性同步，适用于对业务中断敏感的场景，通过全量同步过程完成目标端数据库的初始化后，增量同步阶段通过解析日志等技术，将源端和目标端数据库保持数据持续一致。
      说明：

      选择“全量+增量”同步模式，增量同步可以在全量同步完成的基础上实现数据的持续同步，无需中断业务，实现同步过程中源业务和数据库继续对外提供访问。

      源数据库实例类型

      同步模式为“全量+增量”时，需要根据源数据库的具体来源进行设置，目前源库支持单节点（需要开启Oplog）、副本集和集群。

      • 当源库类型属于集群时，该项需要设置为集群。
      • 当源库类型属于副本集或者单节点时，该项需要设置为非集群。

      增量数据获取方式

      当源端实例类型设置为“集群”，且任务迁移模式为全量+增量时，需要选择增量数据获取方式。除此以外，源数据库必须关闭集合均衡器Balancer并清理孤儿文档，可参考如何关闭集合均衡器Balancer和分片集群MongoDB迁移前清除孤儿文档。

      • oplog：支持MongoDB 3.2及以上版本，DRS直接连接源数据库实例的每一个Shard进行数据抽取。选择此方式，测试连接时需要填写源数据库每一个Shard的连接信息。
      • changeStream：支持MongoDB 4.0及以上版本，DRS连接源数据库实例的mongos进行数据抽取，选择此方式时，源数据库实例必须开启WiredTiger存储引擎，推荐此选项。

      源端分片个数

      当源端实例类型设置为“集群”且增量数据获取方式为“oplog”时，需要填写源端数据库分片个数。

      源端数据库分片个数默认最小值为2，最大值为64，您需要根据源库实际的集群分片个数设置该值大小。

      指定公网IP

      网络类型选择“公网网络”时可见，选择为DRS实例绑定的弹性公网IP。任务创建时，DRS将会自动绑定该弹性公网IP，等待任务结束后将自动解绑该弹性公网IP。指定公网IP数量需要与实例数量匹配。
    • 任务类型
      表7 任务类型信息

      参数

      描述

      可用区

      DRS任务创建的可用区，选择跟源或目标库相同的可用区性能更优。
    • 标签

      表8 标签

      参数

      描述

      标签
      • 可选配置，对同步任务的标识。使用标签可方便管理您的任务。每个任务最多支持20个标签配额。
      • 如果您的组织已经设定DRS的相关标签策略，则需按照标签策略规则为任务添加标签。标签如果不符合标签策略的规则，则可能会导致任务创建失败，请联系组织管理员了解标签策略详情。
      • 任务创建成功后，您可以单击任务名称，在“标签”页签下查看对应标签。关于标签的详细操作，请参见标签管理。

    对于创建失败的任务，DRS默认保留3天，超过3天将会自动结束任务。

  3. 在“源库及目标库”页面，同步实例创建成功后，填选源库信息和目标库信息，单击“源库和目标库”处的“测试连接”，分别测试并确定与源库和目标库连通后，勾选协议，单击“下一步”。

    • 源库信息
      表9 源库信息

      参数

      描述

      数据库类型

      源数据库类型可以为“ECS自建库”或“DDS实例”，本示例选择“DDS实例”。

      VPC

      源数据库类型选择“ECS自建库”可见，指源数据库实例所在的虚拟专用网络，可以对不同业务进行网络隔离。

      子网

      源数据库类型选择“ECS自建库”可见，通过子网提供与其他网络隔离的、可以独享的网络资源，以提高网络安全。子网在可用分区内才会有效，创建源数据库实例的子网需要开启DHCP功能，在创建过程中也不能关闭已选子网的DHCP功能。

      IP地址或域名

      源数据库类型选择“ECS自建库”可见，源数据库的IP地址或域名。

      数据库实例名称

      源数据库类型选择“DDS实例”可见，选择作为源数据库的DDS实例。

      账号认证数据库

      填写的数据库账号所属的数据库名称。例如：DDS实例默认的账号认证数据库为admin。

      数据库用户名

      源数据库的用户名。

      数据库密码

      源数据库的用户名所对应的密码。

      SSL安全连接

      通过该功能，用户可以选择是否开启对同步链路的加密。如果开启该功能，需要用户上传SSL CA根证书。

      说明：
      • 最大支持上传500KB的证书文件。
      • 如果不启用SSL安全连接，请自行承担数据安全风险。

      源数据库的IP地址或域名、数据库用户名和密码，会被系统加密暂存，直至删除该同步任务后自动清除。

    • 目标库信息配置
      表10 目标库信息

      参数

      描述

      数据库实例名称

      默认为创建同步任务时选择的数据库实例，不可进行修改。

      账号认证数据库

      填写的数据库账号所属的数据库名称。例如：DDS实例默认的账号认证数据库为admin。

      数据库用户名

      目标数据库对应的数据库用户名。

      数据库密码

      目标数据库的登录密码。

      SSL安全连接

      通过该功能，用户可以选择是否开启对同步链路的加密。如果开启该功能，需要用户上传SSL CA根证书。

      说明：
      • 最大支持上传500KB的证书文件。
      • 如果不启用SSL安全连接，请自行承担数据安全风险。

      目标数据库的用户名和密码将在同步过程中被加密暂存到数据库和同步实例主机上，待该任务删除后会永久清除。

  4. 在“同步设置”页面，设置同步对象，单击“下一步”。

    表11 同步对象

    参数

    描述

    流速模式

    流速模式支持限速和不限速，默认为不限速。限速模式只对全量阶段生效，增量阶段不生效。

    • 限速

      自定义的最大同步速度，具体速度受网络等多种因素的影响，同步过程中每个任务（多任务时为每个子任务）的同步速度将不会超过该速度。

      当流速模式选择了“限速”时，您需要通过流速设置来定时控制同步速度。流速设置通常包括限速时间段和流速大小的设置。默认的限速时间段为“全天限流”，您也可以根据业务需求选择“时段限流”。自定义的时段限流支持最多设置10个定时任务，每个定时任务之间不能存在交叉的时间段，未设定在限速时间段的时间默认为不限速。

      流速的大小需要根据业务场景来设置，不能超过9999MB/s。

    • 不限速
      对同步速度不进行限制，通常会最大化使用源数据库的出口带宽。该流速模式同时会对源数据库造成读消耗，消耗取决于源数据库的出口带宽。比如源数据库的出口带宽为100MB/s，假设高速模式使用了80%带宽，则同步对源数据库将造成80MB/s的读操作IO消耗。
      说明：
      • 限速模式只对全量阶段生效，增量阶段不生效。
      • 您也可以在创建任务后修改流速模式。具体方法请参见修改流速模式。

    同步对象

    左侧框是源数据库对象，右侧框是已经选择的对象，同步对象支持表级同步、库级同步，您可以根据业务场景选择对应的数据进行同步。

    在同步对象右侧已选对象框中，可以使用对象名映射功能进行源数据库和目标数据库中的同步对象映射，具体操作可参考对象名修改（对象名映射）。映射后名称长度在1到63个字符之间，不支持以下字符：/ \ . " $<>。

    如果有切换源数据库的操作或源库同步对象变化的情况，请务必在选择同步对象前单击右上角的，以确保待选择的对象为最新源数据库对象。

    说明：
    • 选择对象的时候支持对展开的库进行搜索，以便您快速选择需要的数据库对象。
    • 如果有切换源数据库的操作或源库同步对象变化的情况，请在选择同步对象前单击右上角的，以确保待选择的对象为最新源数据库对象。
    • 当对象名称包含空格时，名称前后的空格不显示，中间如有多个空格只显示一个空格。
    • 选择的同步对象名称中不能包含空格。

  5. 在“预检查”页面，进行同步任务预校验，校验是否可进行同步。

    • 查看检查结果，如有不通过的检查项，需要修复不通过项后，单击“重新校验”按钮重新进行任务预校验。
    • 预检查完成后，且预检查通过率为100%时，单击“下一步”。

      所有检查项结果均通过时，若存在请确认项，需要阅读并确认详情后才可以继续执行下一步操作。

  6. 在“任务确认”页面，设置同步任务的启动时间，并确认同步任务信息无误后，单击“启动任务”，提交同步任务。

    表12 任务启动设置

    参数

    描述

    启动时间

    同步任务的启动时间可以根据业务需求，设置为“立即启动”或“稍后启动”。

    说明：

    预计同步任务启动后，会对源数据库和目标数据库的性能产生影响，建议选择业务低峰期，合理设置同步任务的启动时间。

  7. 同步任务提交后，您可在“实时同步管理”页面，查看并管理自己的任务。

    • 您可查看任务提交后的状态，状态请参见任务状态说明。
    • 在任务列表的右上角，单击刷新列表，可查看到最新的任务状态。
    • 对于未启动、状态为配置中的任务，DRS默认保留3天，超过3天DRS会自动删除后台资源，当前任务状态不变。当用户再次配置时，DRS会重新申请资源，此时DRS任务IP会发生改变。
    • 对于公网网络类型的任务，由于DRS需要在任务结束后删除后台资源，所以该任务绑定的弹性公网IP需要等待一段时间，才能恢复为解绑状态。

父主题： 入云