更新时间:2024-07-10 GMT+08:00

约束与限制

数据集成

表1 FDI约束与限制

功能模块

约束与限制

数据同步(覆盖所有的数据源类型)

  • 支持同步的单条数据最大为10M。
  • 时间格式的字段支持的最大精度为秒级别。

FTP数据源类型

FTP数据源解析模式下支持的最大文件大小为200M,解析的数据行数最大为1500000;不解析模式下,支持的最大文件大小为6M,最大文件数量为20000。

OBS数据源类型

OBS数据源解析模式下支持的最大文件大小为200M,不解析模式下支持的最大大小不超过10M。

MRS数据源类型

只支持对接开启了kerberos认证的MRS集群。

MRS Hive数据源类型

  • Hive读写文件格式只支持rcfile和textfile类型。
  • MRS Hive作为源端最大只支持100万数据量表的同步。

API数据源类型

  • 超时时间为60秒,服务端响应时间若超过60秒会触发任务执行报错。
  • API作为源端,单次请求最大支持读取的数据大小为20M,超过此大小必须分页分批读取。
  • API作为源端,只支持常量参数,不支持动态传递参数。
  • API作为目标端,不支持将源端获取到的数据映射到目标端的Headers中。

kafka数据源类型

当前SASL连接方式只支持对接ROMAConnect自带的MQS服务,用户自建的kakfa服务只支持明文方式对接。

Oracle数据库类型

只支持以下字段类型:

CHAR、VARCHAR、DATE、NUMBER、FLOAT、LONG、NCHAR、NVARCHAR2、RAW、TIMESTAMP

SQL Server数据库类型

只支持以下字段类型:

BIT、CHAR、DATE、DATETIME、DECIMAL、FLOAT、IMAGE、INT、MONEY、NUMERIC

MySQL数据库类型

只支持以下字段类型:

INT、BIGINT、TINYINT、MEDIUMINT、FLOAT、DOUBLE、DECIMAL、CHAR、VARCHAR、TINYTEXT、TEXT、MEDIUMTEXT、LONGTEXT、DATETIME、TIMESTAMP、SMALLINT、YEAR、BINARY、BITDECIMAL、JSON、DOUBLE

PostgreSQL/DWS数据库类型

只支持以下字段类型:

BOOL、CIDR、CIRCLE、DATE、NUMERIC、FLOAT4、FLOAT8、MONEY、PATH、POINT、INT、TIMESTAMP、TIMETZ、UUID、VARBIT、VARCHAR

关系型数据库类型

最大只支持1000万数据量的表同步。

组合任务(CDC)

  • 源端只支持:MySQL、SQL Server、Oracle。
  • 目标端只支持:MySQL、SQL Server、Oracle、PostgreSQL、Kafka。
  • 目标端的表必须要有主键,否则会影响数据同步一致性。