更新时间:2022-08-09 GMT+08:00
分享

Oracle->DDM

使用技巧(需要人为配合)

推荐提前2-3天启动任务,并配合如下使用技巧和操作要求,以确保任务稳定运行。

  • 基于以下原因,建议您结合定时启动功能,选择业务低峰期开始运行同步任务。
    • 在网络无瓶颈的情况下,全量同步会对源数据库增加约50MB/s的查询压力,以及占用2~4个CPU。
    • DRS并发读取数据库,会占用大约6-10个session连接数,需要考虑该连接数对业务的影响。
    • 全量阶段读取表数据时,特别是大表的读取,可能会阻塞业务上对大表的独占锁操作。
  • 建议您结合数据对比的“稍后启动”功能,选择业务低峰期进行数据对比,以便得到更为具有参考性的对比结果。由于同步具有轻微的时差,在数据持续操作过程中进行对比任务,可能会出现少量数据不一致对比结果,从而失去参考意义。

操作要求

针对一些无法预知或人为因素及环境突变导致同步失败的情况,数据复制服务提供以下常见的操作限制,供您在同步过程中参考。
表1 操作要求

类型名称

操作限制(需要人为配合)

注意事项

  • 表2中的环境要求均不允许在同步过程中修改,直至同步结束。
  • 表对象名同步到目标库后会转换成小写,如ABC和abc。因此增量同步阶段,选择的源库表中不能存在表名称字母相同但大小写不同的表,否则,会导致同步失败。
  • 如有中文、日文等特殊字符,业务连接Oracle数据库使用的编码需和Oracle数据库服务端编码一致,否则目标库会出现乱码。
  • Oracle中表结构同步到DDM后表的字符集为utf8mb4。
  • 由于无主键表缺乏行的唯一性标志,网络不稳定时涉及少量重试,表数据存在少量不一致的可能性。
  • Oracle中表结构长度(所有列长字节数之和,char、varchar2等类型字节长度和编码有关)超过65535时,可能导致同步失败。
  • 源库为Oracle RAC环境时,如果需要使用scanip,需要保证scanip与源库的所有vip互通,否则无法通过连接检查。若不使用scanip,可以使用某一节点的vip,其他节点异常不影响同步。
  • 对于Oracle RAC集群,建议使用scanip+ servicename方式创建任务,scanip具有更强的容错性,更好的负载能力,更快的同步体验。
  • 数据类型不兼容时,可能引起同步失败。
  • 增量同步时,BLOB末尾的0x00、CLOB末尾的空格会被截断。
  • 当Oracle字符集是WE8MSWIN1252时,CLOB列同步到目标库可能出现乱码,建议先修改源库字符集为AL32UTF8再同步数据。

操作须知

  • 对于同步中的数据库对象,在同步期间,目标库不能进行写入操作,否则会导致数据不一致。
  • 同步过程中,不允许修改、删除连接源和目标数据库的用户的用户名、密码、权限,或修改源和目标数据库的端口号。
  • 同步过程中,源库不能做DDL变更。
  • 选择表级对象同步时,增量同步过程中不建议对表进行重命名操作。
  • 源库的用户对应目标库的数据库。
  • 源库用户、表结构信息同步至目标库后全部转换为小写。如表Ab及表AB同步至目标库为ab。
  • 不支持索引组织表的同步。
  • 同步任务全量阶段开始前,如有长时间未提交的事务,有可能丢失数据。
  • 任务再编辑增加新表时,请确保新增的表的事务都已提交,否则未提交的事务可能无法同步到目标库。建议在业务低峰期做增加表的操作。

环境要求

实时同步对环境有一些特定的要求,请确保环境配置满足以下条件。该类型的要求系统会自动检查,并给出处理建议。
表2 环境要求

类型名称

使用限制(DRS自动检查)

数据库权限设置

  • 源数据库端:
    • 全量+增量同步时需要具有CREATE SESSION、SELECT ANY DICTIONARY、EXECUTE_CATALOG_ROLE、SELECT ANY TRANSACTION权限和SELECT ANY TABLE权限,若Oracle为12c及以上版本还需要LOGMINING权限。全量同步时需要具有CREATE SESSION、SELECT ANY DICTIONARY、SELECT ANY TABLE和FLASHBACK ANY TABLE权限。
    • 12c 以上版本 PDB 数据库同步时,需要为用户赋予如下权限:

      在CDB下创建C##前缀的容器数据库用户赋予CREATE SESSION、SELECT ANY DICTIONARY、SELECT ANY TABLE、LOGMINING、EXECUTE_CATALOG_ROLE权限和SET CONTAINER权限(GRANT SET CONTAINER TO C##USERNAME CONTAINER= ALL;)。

      在PDB下为C##前缀用户赋予以下权限(其中RESTRICTED SESSION、SELECT ON SYS.COL$、 SELECT ON SYS.OBJ$权限需要单独赋予):

      全量+增量同步时需要具有RESTRICTED SESSION、CREATE SESSION、SELECT ANY DICTIONARY、EXECUTE_CATALOG_ROLE、SELECT ANY TRANSACTION、SELECT ANY TABLE、LOGMINING、SELECT ON SYS.COL$、SELECT ON SYS.OBJ$。全量同步时需要具有RESTRICTED SESSION、CREATE SESSION、SELECT ANY DICTIONARY、SELECT ANY TABLE、FLASHBACK ANY TABLE、SELECT ON SYS.COL$、SELECT ON SYS.OBJ$。

  • 目标数据库端:提供的目标数据库帐号必须拥有如下权限:SELECT、CREATE、DROP、DELETE、INSERT、UPDATE、ALTER、INDEX、EVENT、RELOAD、CREATE VIEW。

同步对象约束

  • 增量同步不支持DDL的同步。
  • 全量阶段不支持bfile,xml、sdo_geometry、urowid和自定义类型。
  • 增量阶段不支持bfile,xml、interval、sdo_geometry、urowid和自定义类型。
  • 目前只支持同步源库的数据,不支持同步源库表结构及其他数据库对象。
  • 用户需要在目标库根据源端逻辑库的表结构,自行在目标库创建对应的表结构及索引。未在目标库创建的对象,视为用户不选择这个对象进行同步。
  • 源库在目标库创建的表结构, 必须与源库的表结构完全一致 。
  • 源库支持to_date和sys_guid函数做默认值。将函数作为default值时,需要目标库也有相同功能的函数。对于目标库不存在对应函数的情况,默认值函数可能会被置空。
  • 不支持默认值含有表达式的函数的表的同步。
  • 不支持同步源库中的临时表。

源数据库要求

  • Oracle单行记录不能超过8KB(text、blob部分计算),原因是MySQL innoDB引擎限制单行大小不能超过8KB。
  • 不建议以字符串类型作为主键或唯一键,因为Oracle的字符串作为主键、唯一键时区分空格,而MySQL不区分,可能导致数据不一致和死锁问题。
  • binary_float或者binary_double类型不支持设置Nan、Inf、-Inf三个值,因为MySQL不支持
  • Oracle中建议列名不要取名AUTO_PK_ROW_ID,原因是这个列名在MySQL5.7中是保留列名,无法创建出来。
  • Oracle中number(p, s)字段的精度不要超过p: [1, 38], s:[p-65, min(p, 30)]的精度表示范围。其中,s取值依赖于p的取值变化,即下限为p-65, 上限为p或30中取最小值。例如:当p=1, s的取值范围是[-64, 1]。当p=38, s取值范围是[-27, 30]。

    int字段的值不要超过(65,0)的精度表示范围。原因是MySQL数字的表示范围比Oracle小。

  • 不支持表名包含除下划线外的其他特殊字符的表的同步。
  • 源数据库中的库名不允许为ib_logfile。
  • 增量同步时,要求源数据库打开归档日志。
  • 源数据库不允许含有空库。

目标数据库要求

  • 同步前,目标数据库必须存在待同步数据库及表,且库名,表名,列名,索引名、约束名等必须为对应的小写名称。
  • DRS同步时会有大量数据写入目标库,目标库max_allowed_packet 参数过小会导致无法写入,建议将目标库max_allowed_packet参数值设置为大于100MB。
  • 增量同步的表要禁用外键,因为DRS并行回放会使得不同表之间的写入顺序和源库不一致,可能会触发外键约束限制,造成同步失败。
分享:

    相关文档

    相关产品

close