文档首页/ 应用与数据集成平台 ROMA Connect/ 用户指南/ 数据集成指导/ 创建数据集成任务（组合任务）/ 配置Oracle CDC（LogMiner）
更新时间：2024-10-28 GMT+08:00
查看PDF
分享

配置Oracle CDC（LogMiner）

概述

CDC（Change Data Capture），即数据变更抓取，通过为源端数据源开启CDC，ROMA Connect可实现数据源的实时数据同步以及数据表的物理删除同步。

ROMA Connect支持Oracle的XStream和LogMiner两种CDC模式，本章节主要介绍如何为Oracle数据库开启LogMiner模式的CDC功能。另外，根据Oracle数据库类型为CDB数据库还是非CDB数据库，CDC的配置有所不同。

CDC任务当前仅支持采集数据库物理表，不支持视图。

前提条件

  • 若Oracle数据库为主从模式，不支持使用Oracle从库。
  • 不支持采集二进制类型的字段，例如：BINARY，VARBINARY，TINYBLOB，BLOB，MEDIUMBLOB，LONGBLOB。
  • 表中含有SDO_GEOMETRY类型的字段，数据变动时Oracle不产生RedoLog，不能使用FDI的组合任务采集数据。

Oracle为非CDB数据库时的配置

建议由数据库管理员进行CDC功能的配置操作。

  1. 开启日志归档。
    1. 在命令行工具中执行以下命令以sys用户连接到数据库。

      在实际使用过程中，可以有多种方式连接数据库，此处以命令行方式为例进行说明。

      sqlplus /nolog
CONNECT sys/password@host:port AS SYSDBA;

      其中：

      • password为数据库sys用户的密码，可向数据库管理员获取。
      • host为数据库实例所在服务器的IP地址，请根据实际情况设置。
      • port为数据库实例所使用的端口，请根据实际情况设置。
    2. 执行以下命令，检查日志归档是否已开启。 
      archive log list;
      • 若回显打印“Database log mode: No Archive Mode”，说明日志归档未开启，继续执行下一步。
      • 若回显打印“Database log mode: Archive Mode”，说明日志归档已开启，直接跳到1.f。
    3. 执行以下命令配置归档日志参数。 
      alter system set db_recovery_file_dest_size = 100G;
alter system set db_recovery_file_dest = '/opt/oracle/oradata/recovery_area' scope=spfile;

      其中：

      • 100G为日志文件存储空间的大小，请根据实际情况设置。
      • /opt/oracle/oradata/recovery_area为日志存储路径，请根据实际规划设置，但须确保路径提前创建。
    4. 执行以下命令开启日志归档。
      • 开启日志归档功能需重启数据库，重启期间将导致业务中断，请谨慎操作。
      • 归档日志会占用较多的磁盘空间，若磁盘空间满了会影响业务，请定期清理过期归档日志。
      shutdown immediate;
startup mount;
alter database archivelog;
alter database open;
    5. 执行以下命令，确认日志归档是否已成功开启。 
      archive log list;

      当回显打印“Database log mode: Archive Mode”，说明日志归档已开启。

    6. 执行以下命令退出数据库连接。 
      exit;
  2. 安装LogMiner工具。
    1. 在命令行工具中执行以下命令以sys用户连接到数据库实例。 
      sqlplus sys/password@host:port/SID as sysdba

      其中：

      • password为数据库sys用户的密码，请向数据库管理员获取。
      • host为数据库实例所在服务器的IP地址，请根据实际情况设置。
      • port为数据库实例所使用的端口，请根据实际情况设置。
      • SID为要同步数据所在实例的实例名，请根据实际情况设置。
    2. 执行以下命令，检查LogMiner工具是否已安装。 
      desc DBMS_LOGMNR
desc DBMS_LOGMNR_D
      • 若无打印信息返回，说明LogMiner工具未安装，继续执行下一步。
      • 若有打印信息返回，说明LogMiner工具已安装，直接跳到3。
    3. 执行以下命令，安装LogMiner工具。 
      @$ORACLE_HOME/rdbms/admin/dbmslm.sql
@$ORACLE_HOME/rdbms/admin/dbmslmd.sql
  3. 创建LogMiner执行用户并给用户赋予权限。
    1. 执行以下命令创建LogMiner用户角色并配置权限。 
      create role roma_logminer_privs;
grant create session,
 execute_catalog_role,
 select any transaction,
flashback any table,
select any table,
lock any table,
 select any dictionary to roma_logminer_privs;
grant select on SYSTEM.LOGMNR_COL$ to roma_logminer_privs;
grant select on SYSTEM.LOGMNR_OBJ$ to roma_logminer_privs;
grant select on SYSTEM.LOGMNR_USER$ to roma_logminer_privs;
grant select on SYSTEM.LOGMNR_UID$ to roma_logminer_privs;
grant select on V_$DATABASE to roma_logminer_privs;
grant create table to roma_logminer_privs;
grant select_catalog_role to roma_logminer_privs;
grant LOGMINING to roma_logminer_privs;
grant lock any table to roma_logminer_privs; 
grant create sequence to roma_logminer_privs; 
grant execute on DBMS_LOGMNR to roma_logminer_privs; 
grant execute on DBMS_LOGMNR_D to roma_logminer_privs; 
grant select on V_$LOG to roma_logminer_privs; 
grant select on V_$LOG_HISTORY to roma_logminer_privs; 
grant select on V_$LOGMNR_LOGS to roma_logminer_privs; 
grant select on V_$LOGMNR_CONTENTS to roma_logminer_privs; 
grant select on V_$LOGMNR_PARAMETERS to roma_logminer_privs; 
grant select on V_$LOGFILE to roma_logminer_privs; 
grant select on V_$ARCHIVED_LOG to roma_logminer_privs; 
grant select on V_$ARCHIVE_DEST_STATUS to roma_logminer_privs; 
grant select on V_$TRANSACTION to roma_logminer_privs;

      其中：

      • roma_logminer_privs为LogMiner用户角色名，请根据实际规划设置。
      • “grant LOGMINING to roma_logminer_privs;”仅当Oracle为12c版本时，才需要添加，否则删除此行内容。
    2. 执行以下命令创建LogMiner执行用户。 
      create user roma_logminer identified by password default tablespace users;
grant roma_logminer_privs to roma_logminer;
alter user roma_logminer quota unlimited on users;

      其中：

      • roma_logminer为LogMiner用户名，请根据实际规划设置。
      • password为LogMiner用户密码，请根据实际规划设置。
      • roma_logminer_privs为LogMiner用户角色，在3.a中创建。
    3. 执行以下命令修改日志记录参数。 
      alter database add supplemental log data (all) columns;
    4. 执行以下命令退出数据库连接。 
      exit;

Oracle为CDB数据库时的配置

建议由数据库管理员进行CDC功能的配置操作。

  1. 开启日志归档。
    1. 在命令行工具中执行以下命令以sys用户连接到数据库。

      在实际使用过程中，可以有多种方式连接数据库，此处以命令行方式为例进行说明。

      sqlplus /nolog
CONNECT sys/password@host:port AS SYSDBA;

      其中：

      • password为数据库sys用户的密码，可向数据库管理员获取。
      • host为数据库实例所在服务器的IP地址，请根据实际情况设置。
      • port为数据库实例所使用的端口，请根据实际情况设置。
    2. 执行以下命令，检查日志归档是否已开启。 
      archive log list;
      • 若回显打印“Database log mode: No Archive Mode”，说明日志归档未开启，继续执行下一步。
      • 若回显打印“Database log mode: Archive Mode”，说明日志归档已开启，直接跳到1.f。
    3. 执行以下命令配置归档日志参数。 
      alter system set db_recovery_file_dest_size = 100G;
alter system set db_recovery_file_dest = '/opt/oracle/oradata/recovery_area' scope=spfile;

      其中：

      • 100G为日志文件存储空间的大小，请根据实际情况设置。
      • /opt/oracle/oradata/recovery_area为日志存储路径，请根据实际规划设置，但须确保路径提前创建。
    4. 执行以下命令开启日志归档。
      • 开启日志归档功能需重启数据库，重启期间将导致业务中断，请谨慎操作。
      • 归档日志会占用较多的磁盘空间，若磁盘空间满了会影响业务，请定期清理过期归档日志。
      shutdown immediate;
startup mount;
alter database archivelog;
alter database open;
    5. 执行以下命令，确认日志归档是否已成功开启。 
      archive log list;

      当回显打印“Database log mode: Archive Mode”，说明日志归档已开启。

    6. 执行以下命令退出数据库连接。 
      exit;
  2. 安装LogMiner工具。
    1. 在命令行工具中执行以下命令以sys用户连接到数据库实例。 
      sqlplus sys/password@host:port/SID as sysdba

      其中：

      • password为数据库sys用户的密码，请向数据库管理员获取。
      • host为数据库实例所在服务器的IP地址，请根据实际情况设置。
      • port为数据库实例所使用的端口，请根据实际情况设置。
      • SID为要同步数据所在实例的实例名，请根据实际情况设置。
    2. 执行以下命令，检查LogMiner工具是否已安装。 
      desc DBMS_LOGMNR
desc DBMS_LOGMNR_D
      • 若无打印信息返回，说明LogMiner工具未安装，继续执行下一步。
      • 若有打印信息返回，说明LogMiner工具已安装，直接跳到3。
    3. 执行以下命令，安装LogMiner工具。 
      @$ORACLE_HOME/rdbms/admin/dbmslm.sql
@$ORACLE_HOME/rdbms/admin/dbmslmd.sql
  3. 创建LogMiner执行用户并给用户赋予权限。
    1. 执行以下命令创建LogMiner用户角色并配置权限。 
      create role c##roma_logminer_privs container=all;
grant create session,
 execute_catalog_role,
 select any transaction,
flashback any table,
select any table,
lock any table,
logmining,
set container,
 select any dictionary to c##roma_logminer_privs container=all;
grant select on SYSTEM.LOGMNR_COL$ to c##roma_logminer_privs container=all;
grant select on SYSTEM.LOGMNR_OBJ$ to c##roma_logminer_privs container=all;
grant select on SYSTEM.LOGMNR_USER$ to c##roma_logminer_privs container=all;
grant select on SYSTEM.LOGMNR_UID$ to c##roma_logminer_privs container=all;
grant create table to c##roma_logminer_privs container=all;
grant select on V_$DATABASE to c##roma_logminer_privs container=all;
grant select_catalog_role to c##roma_logminer_privs container=all;
grant lock any table to c##roma_logminer_privs container=all; 
grant create sequence to c##roma_logminer_privs container=all; 
grant execute on DBMS_LOGMNR to c##roma_logminer_privs container=all; 
grant execute on DBMS_LOGMNR_D to c##roma_logminer_privs container=all; 
grant select on V_$LOG to c##roma_logminer_privs container=all; 
grant select on V_$LOG_HISTORY to c##roma_logminer_privs container=all;
grant select on V_$LOGMNR_LOGS to c##roma_logminer_privs container=all; 
grant select on V_$LOGMNR_CONTENTS to c##roma_logminer_privs container=all; 
grant select on V_$LOGMNR_PARAMETERS to c##roma_logminer_privs container=all; 
grant select on V_$LOGFILE to c##roma_logminer_privs container=all; 
grant select on V_$ARCHIVED_LOG to c##roma_logminer_privs container=all; 
grant select on V_$ARCHIVE_DEST_STATUS to c##roma_logminer_privs container=all; 
grant select on V_$TRANSACTION to c##roma_logminer_privs container=all;

      其中，c##roma_logminer_privs为LogMiner用户角色名，请根据实际规划设置。

    2. 执行以下命令创建LogMiner执行用户。 
      create user c##roma_logminer identified by password default tablespace users container=all;
grant c##roma_logminer_privs to c##roma_logminer container=all;
alter user c##roma_logminer quota unlimited on users container=all;

      其中：

      • c##roma_logminer为LogMiner用户名，请根据实际规划设置。
      • password为LogMiner用户密码，请根据实际规划设置。
      • c##roma_logminer_privs为LogMiner用户角色，在3.a中创建。
    3. 执行以下命令修改日志记录参数。 
      alter database add supplemental log data (all) columns;
    4. 执行以下命令退出数据库连接。 
      exit;