迁移作业原理

业务相关因素

作业抽取并发数配置

创建CDM迁移作业时，支持设置该作业的抽取并发数。

该参数设置为适当的值可以有效提升迁移速度，过小则会限制迁移速度，过大则会导致任务过载、迁移失败。

• 迁移的目的端为文件时，CDM不支持多并发，此时应配置为单进程抽取数据。
• 表中每行数据大小为1MB以下的可以设置多并发抽取，超过1MB的建议单线程抽取数据。

集群最大抽取并发数规格

该参数设置为适当的值可以有效提升迁移速度，过小则会限制迁移速度，过大则会导致源端负载过高、影响系统稳定性。

不同规格的CDM集群支持的的最大抽取并发数规格不同，并发数上限建议设置为vCPU核数*2。

• cdm.large：16
• cdm.xlarge：32
• cdm.4xlarge：128

业务模型

如果大量CDM作业同时执行，当超过当前CDM集群的并发执行作业数时，会导致作业排队，耗时提升。

建议您将迁移作业的运行时间错开，平摊在业务周期内，避免资源紧张导致迁移时间过长。

数据模型

数据迁移时，对于不同的数据结构，迁移速度也会受到一定影响。例如：

• 对于表迁移，宽表的迁移速度较慢，字符串类型越多（字段大小）迁移速度越慢。
• 对于文件而言，总大小相同时，大文件迁移较快，多个小文件迁移较慢。
• 对于消息而言，消息内容越多，所占带宽越高，每秒事务（TPS）越低。

源端读取速度

取决于源端数据源的性能。

如需优化，请参见源端数据源的相关说明文档。

网络带宽

CDM集群与数据源之间可以通过内网、公网VPN、NAT或专线等方式互通。

• 通过内网互通时，网络带宽是根据不同的CDM实例规格的带宽限制的。
  • cdm.large实例规格CDM集群网卡的基准/最大带宽为0.8/3 Gbps。
  • cdm.xlarge实例规格CDM集群网卡的基准/最大带宽为4/10 Gbps。
  • cdm.4xlarge实例规格CDM集群网卡的基准/最大带宽为36/40 Gbps。
• 通过公网互通时，网络带宽受到公网带宽的限制。CDM侧公网带宽规格受限于CDM集群所绑定的弹性公网IP，数据源侧受限于其所访问的公网带宽规格。
• 通过VPN、NAT或专线互通时，网络带宽受到VPN、NAT或专线带宽的限制。

目的端写入性能

取决于目的端数据源的性能。

如需优化，请参见目的端数据源的相关说明文档。