跳过重复文件

• 参数位置：在创建表/文件迁移作业时，如果源端和目的端数据源都为文件类型，那么目的端作业参数中可以看到“重复文件处理方式”参数，该参数可选择：替换重复文件、跳过重复文件或停止任务。
• 参数原理：当源端和目的端存在文件名、文件大小都相同的文件时，CDM才会判定该文件为重复文件。
• 配置样例：
  1. 源目录或文件：配置为一个目录的路径，CDM可以将该目录下的所有文件导入到目的端。
  2. 文件格式：选择“二进制格式”，CDM不解析文件直接原样复制，适合文件到文件的迁移。
  3. 重复文件处理方式：选择“跳过重复文件”。
     图1 跳过重复文件
     
  4. 配置作业定时自动执行。

这样就可以定期把新增的文件导入到目的端目录，实现增量同步。

文件/路径过滤器

• 参数位置：在创建表/文件迁移作业时，如果源端数据源为文件类型，那么源端作业参数的高级属性中可以看到“过滤类型”参数，该参数可选择：通配符或正则表达式。
• 参数原理：“过滤类型”选择“通配符”时，CDM就可以通过用户配置的通配符过滤文件或路径，CDM只迁移满足指定条件的文件或路径。
• 配置样例：
  例如源端文件名带有时间字段“2017-10-15 20:25:26”，这个时刻生成的文件为“/opt/data/file_20171015202526.data”，则在创建作业时，参数配置如下：

  1. 过滤类型：选择“通配符”。
  2. 文件过滤器：配置为“*${dateformat(yyyyMMdd,-1,DAY)}*”（这是CDM支持的日期宏变量格式，详见使用时间宏变量完成增量同步）。
     图2 文件过滤
     
  3. 配置作业定时自动执行，“重复周期”为1天。

这样每天就可以把昨天生成的文件都导入到目的端目录，实现增量同步。

文件增量迁移场景下，“路径过滤器”的使用方法同“文件过滤器”一样，需要路径名称里带有时间字段，这样可以定期增量同步指定目录下的所有文件。

时间过滤器

• 参数位置：在创建表/文件迁移作业时，如果源端数据源为文件类型，那么源端作业配置下的高级属性中，“时间过滤器”参数选择“是”。
• 参数原理：“修改时间”参数中输入一个时间值后，只有修改时间晚于该时间的文件才会被CDM迁移。
• 配置样例：
  例如需要CDM只同步2018年11月2日以后生成的文件到目的端，则参数配置如下：

  1. 时间过滤器：选择为“是”。
  2. 修改时间：配置为2018-01-01 00:00:00（格式要求为yyyy-MM-dd HH:mm:ss）。
     图3 时间过滤器
     
  3. 重复文件处理方式：选择“跳过重复文件”。
  4. 配置作业定时自动执行。

这样CDM作业就只迁移2018年1月1日以后生成的文件，下次作业再启动时就可以实现增量同步。