文档首页/ 数据复制服务 DRS/ 实时同步/ 入云/ 将DDM同步到GaussDB集中式版
更新时间：2025-07-24 GMT+08:00
查看PDF
分享

将DDM同步到GaussDB集中式版

支持的源和目标数据库

表1 支持的数据库

源数据库

目标数据库

DDM实例

GaussDB集中式版（B兼容模式、M兼容模式）（版本数据库内核版本为505.2及以下版本，内核版本与数据库引擎版本的关系请参考云数据库GaussDB的数据库引擎版本说明。）

数据库账号权限要求

在使用DRS进行同步时，连接源库和目标库的数据库账号需要满足以下权限要求，才能启动实时同步任务。不同类型的同步任务，需要的账号权限也不同，详细可参考5.3.24-表 数据库账号权限进行赋权。DRS会在“预检查”阶段对数据库账号权限进行自动检查，并给出处理建议。

表2 数据库账号权限

类型名称

全量同步、全量+增量同步

源数据库连接账号
  • 源数据库DDM账户至少需要具备一个权限，例如：SELECT。
  • DDM物理分片数据库账号需要具备如下权限：SELECT、LOCK TABLES、REPLICATION SLAVE、REPLICATION CLIENT。

目标数据库连接账号
  • 库级权限：需要使用root或其他有Sysadmin角色的DATABASE用户登录postgres基库，赋予用户DATABASE的CREATE、CONNECT权限。

    授权语句：GRANT CREATE, CONNECT ON DATABASE <database> TO <user>;

  • SCHEMA级权限：需要使用 root、或其他有Sysadmin角色的DATABASE用户、或使用数据库的OWNER用户登录数据库，赋予用户SCHEMA的CREATE、USAGE权限。

    授权语句：GRANT CREATE, USAGE ON SCHEMA <schema> TO <user>;

  • 表级权限：需要使用 root、或其他有Sysadmin角色的DATABASE用户、或使用数据库的OWNER用户登录数据库 ，赋予用户SCHEMA下表的DML相关权限（SELECT权限在处理无主键表时需要）。

    授予SCHEMA下所有表的DML权限：GRANT SELECT, UPDATE, INSERT, DELETE, INDEX, ALTER ON ALL TABLES IN SCHEMA <schema> TO <user>;

    授予SCHEMA下指定表的DML权限：GRANT SELECT, UPDATE, INSERT, DELETE, INDEX, ALTER ON TABLE <schema.table> TO <user>;

  • 目标库使用gsloader等工具创建相关系统表（如 public.pgxc_copy_error_log，public.gs_copy_summary）时，DRS访问相关系统表需要有系统表的all privilege权限，详细信息可参考《GaussDB工具参考》。
  • 建议创建单独用于DRS任务连接的数据库账号，避免因为数据库账号密码修改，导致的任务连接失败。
  • 连接源和目标数据库的账号密码修改后，请参考修改连接信息章节修改DRS任务的连接信息，避免任务连接失败后自动重试，导致数据库账号被锁定影响使用。

支持的同步对象范围

在使用DRS进行同步时，不同类型的同步任务，支持的同步对象范围不同，详细情况可参考5.3.24-表 支持的同步对象。DRS会根据用户选择，在“预检查”阶段对同步对象进行自动检查。

表3 支持的同步对象

类型名称

使用须知

同步对象范围
  • 全量同步支持数据、表结构和索引的同步。
  • 源数据库不允许存在拆分键为timestamp类型的表。
  • 源表的分库分表键要加到目标表的主键和唯一键中（也就是目标表的主键和唯一键中的列应该包含源表的分片列），避免数据冲突出现数据不一致问题。
  • 源数据库中的库名、表名、列名不能包含：<'>/\以及非ASCII字符。
  • 源数据库中的索引名不能包含双引号字符。
  • 源数据库中表结构的列名不能以\字符结尾。
  • 仅支持同步MyISAM和InnoDB表。
  • 虚拟列会被同步为普通列，且不写入任何数据，也不做增量同步。
  • 不支持同步存储过程等其他数据库对象。

注意事项

为保证任务的正常运行，DRS提供了自动化的检查方法，在您启动DRS任务前，会针对源数据库和目标数据库的相关配置、条件进行检查。主要的检查项和对应的处理建议请参考预检查项。除了预检查项目之外，您还需要注意的事情参见5.3.24-表 注意事项。

表4 注意事项

类型名称

使用和操作限制

源数据库限制
  • 源物理分片数据库建议开启skip-name-resolve，减少连接超时的可能性。
  • 源物理分片数据库不支持枚举类型和set集合类型的。
  • 源库的timestamp列的默认值，需要在目标库的合理取值内，否则会导致同步失败

使用限制

通用：

  • 不允许源端DDM正在同步的表做改变拆分键的操作，也不允许将单表/广播表改为拆分表，拆分表改为单表/广播表。
  • 不支持源数据库进行恢复操作。

全量同步阶段：

  • 任务启动和全量数据同步阶段，请不要在源数据库执行DDL操作，否则可能导致任务异常
  • DRS全量同步表结构时，DDM->GaussDB(PG兼容性模式)不迁移表结构的自增属性。
  • DRS全量同步表结构时，列名不能是CTID、XMIN、CMIN、XMAX、CMAX、TABLEOID、XC_NODE_ID、TID、OID、GS_TUPLE_UID、TABLEBUCKETID，这些GaussDB禁止的字段，否则会导致建表失败。
  • 全量同步分区表的结构时会将该对象转为非分区的普通表，增量同步时，源库跟分区表相关的操作，无法同步到目标库。

增量同步阶段：

  • 不允许修改、删除连接源和目标数据库的用户的用户名、密码、权限，或修改源和目标数据库的端口号。
  • 不支持同步DDL。
  • 如果需要对源库需要同步的表结构进行修改，则用户必须在目标库同步修改表结构。
  • 对同一张表或列做DDL操作，需要在业务低峰期，并且时间间隔1分钟以上。
  • 不支持DELETE和UPDATE目标数据库主键类型为binary，text，blob，clob的表。

常见故障排查：

  • 在任务创建、启动、全量同步、增量同步、结束等过程中，如有遇到问题，可先参考“故障排查”章节进行排查。

其他限制
  • 如果专属计算集群不支持4vCPU/8G或以上规格实例，则无法创建同步任务。
  • 在DDM中，同一个database（schema）下面的不同表可以存在相同的索引名或约束名。而目标数据库GaussDB中，同一个schema中索引和约束名是唯一的，且长度存在上限。为防止索引和约束名冲突，DRS同步到目标表上的索引名称将变为此格式：表名+原索引名，如果此名称超长则会改为为:idx_+哈希值。其中哈希值由"原表名_原索引名"计算得到。
  • 源数据库中存在主键重复的数据时，直接同步将导致目标库数据比源库少，请务必检查并订正数据后启动同步。
  • 源库的表如果包含系统列_ddm_lock、_slot，该列下的数据在全量、增量同步过程中都会被过滤，导致数据丢失。
  • 网络中断在30秒内恢复的，不影响实时同步，如果超过30秒，则会导致同步任务失败。
  • 源库表同步至目标库后分布方式为哈希分布，暂不支持复制分布。
  • 在创建DRS任务之前，如果源数据库实例开启并设置了SQL限流规则，可能会导致DRS任务失败。
  • 支持目标数据库中的表比源数据库多列场景，但是需要避免以下场景可能导致的任务失败。
    • 目标数据库多的列要求非空且没有默认值，源库insert数据，同步到目标数据库后多的列为null，不符合目标数据库要求。
    • 目标数据库多的列设置固定默认值，且有唯一约束。源库insert多条数据后，同步到目标数据库后多的列为固定默认值，不符合目标数据库要求。
  • 源库和目标库均相同的任务不允许出现重复同步的情况，如：A任务和B任务同时将源库的同一张表的实时同步到目标库的同一张表中，可能导致数据不一致和同步失败。
  • GaussDB只能设置库级字符集，如果遇到DDM中设置了表级、字段级字符集的场景，可能会因为字符长度问题导致创建表结构异常。
  • DRS全量同步表结构时，源库中char、varchar、nvarchar、enum、set字符类型长度在目标库会按照字节长自动扩大（因为目标库为字节长），扩大倍数和源库中列的字符集有关。如源库字符集为UTF8的按照字节长扩大3倍，为UTF8MB4的按照字节长扩大4倍。
  • 不建议在数据库中使用非精确数值类型做主键，该特性影响DRS增量场景下对UPDATE、DELETE语句的同步，导致任务失败。
  • 如果无主键表中包含大字段（tinyblob、blob、mediumblob、longblob、tinytext、text、mediumtext、longtext、clob、nclob、bytea、binary），增量同步阶段存在大字段数据不一致的可能性。
  • 如果使用时间类型当主键，如果该时间类型的值是目标库的非法值，增量同步可能存在数据不一致或者任务失败的风险
  • 由于浮点型数据是采用近似值存储，而不是作为精确值存储，此外操作系统平台和底层实现也对浮点型数据有影响，因此FLOAT，DOUBLE类型的数据是不精确的，所以在DDM物理节点和GaussDB同步浮点型数据，存在一定差异的可能性，可参考MySQL的官方文档。
  • 由于DDM与GaussDB针对零时间（"0000-00-00 00:00:00"）内置的处理方式不同，当进行内容对比时，如果源、目标数据库存在零时间，对比结果会显示数据不一致。
  • 源数据库DDM的表中如果存在定长的binary字段，MySQL驱动会在数据末尾按照长度补齐\0，可能导致同步到目标库GaussDB后出现数据不一致的情况。
  • 源数据库如果存在非标浮点类型，且非标浮点类型存在宽松模式可以写入但严格模式下无法写入的数据，同步过程可能会有数据不一致的风险。
  • 源数据库同步的表如果有AUTO_INCREMENT属性，结束任务时，DRS会自动刷新同步表的序列整型列所对应的GaussDB自增列（sequence）起始值，刷新值为该列的最大值+10000。
  • 由于异构数据库语法存在差异，且GaussDB不同版本语法也存在差异（详见目标库GaussDB配套版本的兼容性说明书），增量同步DDL可能会导致任务失败或者数据不一致。
  • HASH、KEY分区因异构数据库hash算法的差异不对等，若包含HASH或KEY分区的表执行TRUNCATE PARTITION会导致数据不一致。
  • 如果目标库表结构已经存在且目标库列值范围小于源库列值范围，可能会出现数据截断或者数字类型默认兼容转换，导致任务失败或数据不一致。
  • time类型做主键，并且存在非正常数据(00:00:00-23:59:59之外的数据)，内容比对结果可能显示数据不一致。
  • 源库中的空字符串写入目标库的结果是空字符串或者null取决于目标库的兼容性处理，例如GaussDB A兼容模式会将空字符串自动转换为null。
  • 任务创建后，源数据库不支持增加逻辑库或修改旧逻辑库关联新的RDS，否则会导致数据无法正常同步或任务失败。

操作步骤

本小节以DDM到GaussDB集中式版的实时同步为示例，介绍如何使用数据复制服务配置实时同步任务。

  1. 在“实时同步管理”页面，单击“创建同步任务”。
  2. 在“同步实例”页面，填选区域、项目、任务名称、描述、同步实例信息，单击“开始创建”。

    • 任务信息
      图1 同步任务信息
      表5 任务和描述

      参数

      描述

      区域

      当前所在区域，可进行切换。

      项目

      当前区域对应的项目，可进行切换。

      任务名称

      任务名称在4到50位之间，必须以字母开头，可以包含字母、数字、中划线或下划线，不能包含其他的特殊字符。

      描述

      描述不能超过256位，且不能包含! = < > & ' " \ 特殊字符。
    • 同步实例信息
      图2 同步实例信息
      表6 同步实例信息

      参数

      描述

      数据流动方向

      选择“入云”。

      源数据库引擎

      选择“DDM”。

      目标数据库引擎

      选择“GaussDB集中式版”。

      网络类型

      此处以“公网网络”为示例。目前支持可选“公网网络”、“VPC网络”和“VPN、专线网络”。

      • VPC网络：适合云上同账号同Region同VPC场景下数据库之间的同步。
      • 公网网络：适合通过公网网络把其他云下或其他平台的数据库同步到目标数据库，该类型要求数据库绑定弹性公网IP（EIP）。
      • VPN、专线网络：适合VPN、专线、CC、VPCEP、或者用户已打通VPC对等连接的网络场景，实现其他云下自建数据库与云上数据库同步、云上同Region跨账号、或云上跨Region的数据库之间的同步。

      目标数据库实例

      可用的GaussDB集中式版实例。

      同步实例所在子网

      请选择同步实例所在的子网。也可以单击“查看子网”，跳转至“网络控制台”查看实例所在子网帮助选择。

      默认值为当前所选数据库实例所在子网，请选择有可用IP地址的子网。为确保同步实例创建成功，仅显示已经开启DHCP的子网。

      同步模式

      DRS任务支持的同步模式，此处以“全量+增量”为示例。DRS全量、增量底层实现原理可参考产品架构和功能原理。

      • “全量+增量”：

        该模式为数据持续性实时同步，通过全量过程完成目标端数据库的初始化后，增量同步阶段通过解析日志等技术，将源端和目标端数据保持数据持续一致。

        说明：

        选择“全量+增量”同步模式，增量同步可以在全量同步完成的基础上实现数据的持续同步，无需中断业务，实现同步过程中源业务和数据库继续对外提供访问。

      • “全量”：

        该模式为数据库一次性同步，适用于可中断业务的数据库同步场景，全量同步将非系统数据库的全部数据库对象和数据一次性同步至目标端数据库。

      指定公网IP

      网络类型选择“公网网络”时可见，选择为DRS实例绑定的弹性公网IP。任务创建时，DRS将会自动绑定该弹性公网IP，等待任务结束后将自动解绑该弹性公网IP。

      公网网络迁移产生的数据传输费用收取标准请参见：弹性公网IP价格计算器。
    • 任务类型
      图3 任务类型
      表7 任务类型信息

      参数

      描述

      可用区

      DRS任务创建的可用区，选择跟源或目标库相同的可用区性能更优。
    • 企业项目和标签
      图4 企业项目和标签

      表8 企业项目和标签

      参数

      描述

      企业项目

      企业项目是一种云资源管理方式，企业项目管理服务提供统一的云资源按项目管理，以及项目内的资源管理、成员管理。请在下拉框中选择所在的企业项目，其中，default为默认项目。

      更多关于企业项目的信息，请参见《企业管理用户指南》。

      如果需要自定义企业项目，请在控制台右上角单击“企业”，进入“企业项目管理”页面创建，具体请参见《企业管理用户指南》中“创建企业项目”的内容。

      标签
      • 可选配置，对同步任务的标识。使用标签可方便管理您的任务。每个任务最多支持20个标签配额。
      • 如果您的组织已经设定DRS的相关标签策略，则需按照标签策略规则为任务添加标签。标签如果不符合标签策略的规则，则可能会导致任务创建失败，请联系组织管理员了解标签策略详情。
      • 任务创建成功后，您可以单击任务名称，在“标签”页签下查看对应标签。关于标签的详细操作，请参见标签管理。

    对于创建失败的任务，DRS默认保留3天，超过3天将会自动结束任务。

  3. 在“源库及目标库”页面，同步实例创建成功后，填选源库信息和目标库信息，单击“源库和目标库”处的“测试连接”，分别测试并确定与源库和目标库连通后，勾选协议，单击“下一步”。

    图5 源库信息

    表9 源库信息

    参数

    描述

    数据库实例名称

    默认为创建同步任务时选择的DDM实例，不可进行修改。

    数据库用户名

    源数据库的用户名。

    数据库密码

    源数据库的用户名所对应的密码。

    源数据库的数据库用户名和密码，会被系统加密暂存，直至删除该迁移任务后自动清除。

    图6 目标库信息
    表10 目标库信息

    参数

    描述

    数据库实例名称

    默认为创建同步任务时选择的GaussDB集中式版实例，不可进行修改。

    数据库用户名

    目标数据库对应的数据库用户名。

    数据库密码

    数据库用户名和密码将被系统加密暂存，直至该任务删除后清除。

  4. 在“设置同步”页面，选择同步对象类型和同步对象，单击“下一步”。

    图7 设置同步
    表11 同步模式和对象

    参数

    描述

    流速模式

    流速模式支持限速和不限速，默认为不限速。限速模式只对全量阶段生效，增量阶段不生效。

    • 限速

      自定义的最大同步速度，具体速度受网络等多种因素的影响，同步过程中每个任务（多任务时为每个子任务）的同步速度将不会超过该速度。

      当流速模式选择了“限速”时，您需要通过流速设置来定时控制同步速度。流速设置通常包括限速时间段和流速大小的设置。默认的限速时间段为“全天限流”，您也可以根据业务需求选择“时段限流”。自定义的时段限流支持最多设置10个定时任务，每个定时任务之间不能存在交叉的时间段，未设定在限速时间段的时间默认为不限速。

      流速的大小需要根据业务场景来设置，不能超过9999MB/s。

      图8 设置流速模式
    • 不限速
      对同步速度不进行限制，通常会最大化使用源数据库的出口带宽。该流速模式同时会对源数据库造成读消耗，消耗取决于源数据库的出口带宽。比如源数据库的出口带宽为100MB/s，假设高速模式使用了80%带宽，则同步对源数据库将造成80MB/s的读操作IO消耗。
      说明：
      • 限速模式只对全量阶段生效，增量阶段不生效。
      • 您也可以在创建任务后修改流速模式。具体方法请参见修改流速模式。

    全量同步对象类型

    全量同步对象类型，可选同步表结构、同步数据、同步索引，根据实际需求进行选择要同步内容。

    • 同步数据为必选项。
    • 选择同步表结构的时候目标库不能有同名的表。
    • 不选同步表结构的时候目标库必须有相应的表，且要保证表结构与所选表结构相同。

    增量阶段冲突策略

    该冲突策略特指增量同步中的冲突处理策略，全量阶段的冲突默认忽略。冲突策略目前支持如下形式：

    • 忽略

    当同步数据与目标数据库已有数据冲突时（主键/唯一键存在重复等），将跳过冲突数据，继续进行后续同步。选择忽略可能导致源库与目标库数据不一致。

    • 覆盖

    当同步数据与目标数据库已有数据冲突时（主键/唯一键存在重复等），将覆盖原来的冲突数据。

    DML同步

    选择需要同步的DML操作，默认都勾选。

    不勾选Delete则不会同步源库增量数据中的Delete语句，可能会导致数据不一致，因此存在数据冲突或任务失败的风险。

    目标库大小写转换策略

    包含模式名、表名、列名、附加列、列加工、增量DDL的大小写转换。该策略是按照映射后的名字进行转换。如需保持目标库和同步对象的映射名一致，请选择“一致”转换策略。

    同步对象

    左侧框是源数据库对象，右侧框是已经选择的对象，可选表级同步、导入对象文件，您可以根据业务场景选择对应的数据进行同步。

    • 在同步对象右侧已选对象框中，可以使用对象名映射功能进行源数据库和目标数据库中的同步对象映射，具体操作可参考对象名修改（对象名映射）。
    • 选择导入对象文件，具体步骤和说明可参考导入同步对象。
    说明：
    • 选择对象的时候支持对展开的库进行搜索，以便您快速选择需要的数据库对象。
    • 如果有切换源数据库的操作或源库同步对象变化的情况，请在选择同步对象前单击右上角的，以确保待选择的对象为最新源数据库对象。
    • 当对象名称包含空格时，名称前后的空格不显示，中间如有多个空格只显示一个空格。
    • 选择的同步对象名称中不能包含空格。

  5. 在“数据加工”页面，根据需要选择数据加工的方式。

    • 如果不需要数据加工，单击“下一步”。
    • 如果需要数据加工，可选择“数据过滤”、“附加列”或“列加工”，当前只支持列加工，参考数据加工章节，设置相关规则。
    图9 数据加工

  6. 在“预检查”页面，进行同步任务预校验，校验是否可进行。

    • 查看检查结果，如有不通过的检查项，需要修复不通过项后，单击“重新校验”按钮重新进行任务预校验。

      预检查不通过项处理建议请参见《数据复制服务用户指南》中的“预检查不通过项修复方法”。

    • 预检查完成后，且所有检查项结果均通过时，单击“下一步”。

      所有检查项结果均通过时，若存在请确认项，需要阅读并确认详情后才可以继续执行下一步操作。

  7. 在“任务确认”页面，设置同步任务的启动时间、任务异常通知设置、SMN主题、时延阈值、任务异常自动结束时间，并确认同步任务信息无误后，勾选协议，单击“启动任务”，提交同步任务。

    图10 任务启动设置

    表12 任务启动设置

    参数

    描述

    启动时间

    同步任务的启动时间可以根据业务需求，设置为“立即启动”或“稍后启动”。

    说明：

    预计同步任务启动后，会对源数据库和目标数据库的性能产生影响，建议选择业务低峰期，合理设置同步任务的启动时间。

    任务异常通知设置

    该项为可选参数，开启之后，选择对应的SMN主题。当同步任务状态、时延指标或数据异常时，系统将发送通知。

    SMN主题

    “任务异常通知设置”项开启后可见，需提前在SMN上申请主题并添加订阅。

    SMN主题申请和订阅可参考《消息通知服务用户指南》。

    时延阈值

    在增量同步阶段，源数据库和目标数据库之间的同步有时会存在一个时间差，称为时延，单位为秒。

    时延阈值设置是指时延超过一定的值后（时延阈值范围为0到3600s），DRS可以发送告警通知。告警通知将在时延稳定超过设定的阈值6min后发送，避免出现由于时延波动反复发送告警通知的情况。

    说明：
    • 当时延阈值设置为0时，不会发送通知给收件人。
    • 首次进入增量同步阶段，会有较多数据等待同步，存在较大的时延，属于正常情况，不在此功能的监控范围之内。
    • 设置时延阈值之前，需要设置任务异常通知。

    数据异常通知

    该项为可选参数，开启之后，当同步任务数据异常时，系统将发送通知。

    任务异常自动结束时间（天）

    设置任务异常自动结束天数，输入值必须在14到100之间，默认值14。

    说明：
    • 仅按需计费任务支持设置任务异常自动结束时间，包年/包月任务不支持。
    • 异常状态下的任务仍然会计费，而长时间异常的任务无法续传和恢复。设置任务异常自动结束天数后，异常且超时的任务将会自动结束，以免产生不必要的费用。

  8. 同步任务提交后，您可在“实时同步管理”页面，查看并管理自己的任务。

    • 您可查看任务提交后的状态，状态请参见任务状态说明。
    • 在任务列表的右上角，单击刷新列表，可查看到最新的任务状态。
    • 对于未启动、状态为配置中的任务，DRS默认保留3天，超过3天DRS会自动删除后台资源，当前任务状态不变。当用户再次配置时，DRS会重新申请资源，此时DRS任务IP会发生改变。
    • 对于公网网络类型的任务，由于DRS需要在任务结束后删除后台资源，所以该任务绑定的弹性公网IP需要等待一段时间，才能恢复为解绑状态。

父主题： 入云